arXiv:2610.36353v1 발표 유형: 신규
요약: 대규모 언어 모델(LLM)은 종종 모호한 입력에 대해 하나의 명시적 의미만을 가진 것처럼 답변한다. 이는 문제가 되는데, 입력의 모호성은 불확실성의 원천으로서 상류 단계에서부터 작용하기 때문이다. 즉, 하나의 프롬프트가 여러 가지 타당한 해석을 허용할 때, 핵심적인 질문은 과연 모델이 아예 직접적으로 답변해야 하는지 여부이다. 기존의 입력 불확실성 처리 방법들은 대체로 LLM이 생성한 문장이나 추가 설명에 의존하지만, 이러한 변환 과정 자체가 이미 모호성을 해소해 버릴 수 있다. 우리는 입력 모호성 탐지를 위한 라벨 보존형 섭동 프레임워크를 제안한다. 이 프레임워크에서는 섭동이 원래 입력에 근접하면서도 해당 입력의 라벨을 유지하도록 설계된다. 우리는 이 원칙을 두 가지 탐지기로 구현하였다: 블랙박스 기반 규칙 기반 섭동 라이브러리와, 모델 내부 신호를 활용하는 화이트박스 기반 중요도 지향 방식이다. 개방형 도메인, 대화형 및 시각적 QA 분야의 네 가지 데이터셋을 대상으로 한 실험 결과, 우리의 방법들은 출력 측 불확실성 기반 베이스라인과 LLM 재구성 기반 섭동 베이스라인을 모두 능가함을 보여준다. 본 연구의 결과는 모호성을 해소하려는 시도에 앞서 이를 먼저 탐지하는 것이 얼마나 중요한지 강조한다. 우리 코드는 \href{https://github.com/Xiao0o0o/input-ambiguity-detection}{\textcolor{purple}{here}}.}에서 확인할 수 있다.