본문으로 건너뛰기
AI NEWS JOURNAL
arXiv cs.CLAI NEWS / JOURNAL

토크나이저 없이도 여전히 존재하는 격차: 동형 문자 및 보이지 않는 문자 워터마킹의 다국어 간 공정성

arXiv:2610.36432v1 발표 유형: 신규 초록: 동형 문자 및 보이지 않는 문자 워터마킹은 편집 기반 워터마킹입니다. 모델이 텍스트를 생성하는 방식을 변경하는 대신, 텍스트가 작성된 후에 그 안에 신호를 숨기는 방식입니다. 이들은 외관상 같거나 매우 유사하지만 서로 다른 유니코드 코드 포인트를 갖는 동형 문자로 일부 문자를 교체하거나, 표시되지 않는 문자를 삽입함으로써, 해당 텍스트를 작성한 모델에 대한 접근 권한 없이도 작동합니다. 생성 시점 워터마킹은 토크나이저가 텍스트를 분할하는 방식 때문에 자원이 부족한 언어에서는 성능이 떨어집니다. 개별 문자 단위로 작동하기 때문에 이러한 워터마킹은 토크나이저에 전혀 영향을 미치지 않으며, 따라서 이 격차를 피할 수 있는지 여부를 검토합니다. 24개의 문자 체계에 속한 40개의 언어 변종을 대상으로, 각 문자가 숨길 수 있는 비트 수(용량)와 그 비율을 측정하였습니다.

AI 자동 번역

arXiv:2610.36432v1 발표 유형: 신규

요약: 호모글리프 및 보이지 않는 문자 워터마크는 편집 기반 워터마크입니다. 이들은 모델이 텍스트를 생성하는 방식을 변경하는 대신, 텍스트가 작성된 후에 그 안에 신호를 숨깁니다. 이들은 외관상 같거나 매우 유사하지만 서로 다른 유니코드 코드 포인트를 갖는 호모글리프로 일부 문자를 교체하거나, 표시되지 않는 문자를 삽입함으로써 텍스트를 수정합니다. 이러한 워터마크는 텍스트를 작성한 모델에 대한 접근 권한 없이도 작동합니다. 생성 시점 워터마크는 토크나이저가 텍스트를 분할하는 방식 때문에 자원이 부족한 언어에서는 성능이 떨어집니다. 개별 문자를 대상으로 작동하기 때문에 이러한 워터마크는 토크나이저에 전혀 영향을 미치지 않으며, 따라서 이 격차를 피할 수 있는지 여부를 검토합니다. 24개의 문자 체계에 속한 40개의 언어 변종을 대상으로, 각 문자가 담을 수 있는 숨겨진 비트 수(용량), 일상적인 처리와 의도적인 제거 과정에서 얼마나 유지되는지, 그리고 키드 탐지기가 필요로 하는 텍스트 양을 측정했습니다. 용량은 최대 3.3배까지 차이 나며, 그 변동의 96%는 문자 체계에 의해 설명됩니다. 라틴 문자 체계 내에서는 자원 수준에 따른 유의미한 차이가 관찰되지 않았으나(ρ=+0.095, p=0.78), 문자 체계 간에는 용량이 자원 수준과 함께 증가하며(ρ=+0.54, 95% 신뢰구간 [+0.14, +0.83]), 이는 자원이 부족한 언어들이 호모글리프가 적은 문자 체계를 선호하기 때문입니다. 보이지 않는 문자를 제거하는 일반적인 복사·붙여넣기 작업은 그 격차를 더욱 확대시키며, 이 경우 탐지기는 영어나 페르시아어의 경우 약 2개의 코드 포인트만 필요하지만 라오어의 경우에는 무려 93개의 코드 포인트가 필요하게 됩니다. 토크나이저를 제거한다고 해서 불평등이 사라지는 것은 아니며, 오히려 그 원인이 바뀔 뿐입니다.

자료 출처

arXiv cs.CL
← 전체 소식 이어 읽기