컨셉타이저: 다음 토큰 예측만으로는 충분하지 않습니다

arXiv:2610.33027v1 발표 유형: 신규 초록: 다음 토큰 예측(NTP)은 다음에 나타나는 단일 토큰에만 보상을 부여하고, 다른 모든 대안에는 벌점을 적용합니다. 그러나 자연어에서는 동일한 의미를 표현하는 방법이 종종 매우 다양합니다. 이에 우리는 의미에 대한 보상 메커니즘을 추가하여 다음 토큰 예측을 확장한 학습 프레임워크인 Conceptizer를 제안합니다. Conceptizer는 문맥적 동의어를 기반으로 구성된 약 9천 개의 개념으로 이루어진 모델 독립적인 고정 어휘를 텍스트의 단위인 토큰과 함께 의미의 단위로 활용합니다. 이를 통해 각 다음 토큰 분포를 개념 분포로 매핑하고, 목표로 하는 의미에 대한 보상을 가능한 다양한 표현 방식들 간에 공유합니다. 이는 모델 파라미터를 추가하지 않으면서도 개념 수준의 학습 신호를 제공합니다. 1B~8B 파라미터 규모의 세 가지 모델 계열에 적용한 결과, Conceptizer는 가장 낮은 헬드아웃 NTP 패러독스를 달성했습니다.