PRISM: 암묵적 확률적 변조를 통한 대규모 언어 모델의 샘플링 다양성 증진

arXiv:2610.32101v1 발표 유형: 신규 초록: 대규모 언어 모델(LLM)은 출력 분포가 익숙한 의미적 패턴에 집중되는 모드 붕괴 현상을 보입니다. 다양성이 사라지면, 반복적인 샘플링은 발견이 아니라 의미적 반복으로 변하게 되며, 드물지만 더 강력한 해결책들이 나타날 가능성이 낮아져 자기 진화와 지속적 학습을 유지하기 어렵게 됩니다. 대부분의 해결책들은 추론 단계에서만 개입하여, 다양성을 모델의 핵심 역량으로 만들지 않은 채 샘플을 조정하는 데 그칩니다. 우리는 훈련 시점에서 모델 내부에 다양성을 내재화하는 프레임워크인 PRISM을 제안합니다. PRISM은 (i) 각 프롬프트에 대해 다양하면서도 정확한 다중 교사의 해답을 매칭하는 부분모듈러 기반 큐레이션과, (ii) 특수 토큰 변동을 임플