본문으로 건너뛰기
AI NEWSAI의 모든 변화를 만나다
뉴스 북마크
THE JOURNAL
AI NEWS JOURNAL
AI, IN PERSPECTIVE

AI 뉴스 검색

제목, 요약, 본문을 검색해 흩어진 정보를 연결하세요.

발행 시간순

arXiv cs.DC

블로킹 없는 감시: 협력형 런타임을 위한 OTP 스타일의 장애 허용성에 대한 증거 기반 재설계

arXiv:2610.34521v1 발표 유형: 신규 초록: 주류 런타임의 액터 프레임워크들은 Erlang/OTP 스타일의 감시를 표방하지만, OTP의 일관성 계약은 동기식 단일 스레드 감시자를 전제로 하고 있으며, 포트 역시 이러한 가정이 결여된 상태를 검토되지 않은 위험으로 수용하고 있다. 우리는 모든 감시 보장 사항을 고정된 버전의 OTP 문서와 소스 코드를 그대로 해석한 결과, 추가로 세 가지 루스트 액터 프레임워크의 소스 코드를 기준으로, 그리고 액터 모델 관련 문헌과 비교하여 평가하였으며, 각 설계 결정의 근거를 기록하였다. 맹목적인 대립 심사와 프레임워크 간 비교 연구를 통해 24개의 결함 유형이 도출되었고, 이 중 여덟 개는 하나의 근본 원인으로 귀착된다: 즉, 동기식 감시자가 암묵적으로 확보하는 원자성을 명시적 메커니즘을 통해 재구성해야 한다는 점이다. 우리는 감시 런타임을 도입한다…

진행 상황 및 관련 보도
arXiv cs.AI

Async-RBench: LLM 에이전트에서 비동기 작업 실행 성능 벤치마킹

arXiv:2610.32429v1 발표 유형: 신규 초록: 대규모 언어 모델(LLM) 에이전트는 점점 더 비동기적으로 작업을 수행합니다. 주 에이전트는 하위 에이전트들이 실행되는 동안에도 계속 작업을 진행하며, 그 결과가 도착하기 전에 작업 상태가 변경될 수 있습니다. 이때 주 에이전트는 어떤 작업을 업데이트하거나 보존하고, 어떤 검사를 다시 수행할지 결정해야 하며, 동시에 금지된 변경 사항을 피해야 합니다. 최종 작업 성공 여부만으로는 이러한 결과가 올바르게 처리되었는지 여부를 확인하기 어렵고, 자연스러운 비동기적 도착 현상은 재현하기도 어렵습니다. 우리는 LLM 에이전트의 비동기적 작업 실행을 평가하는 벤치마크인 Async-RBench를 제안하며, 8가지 시나리오를 포괄하는 200개의 실행 가능한 작업을 제공합니다. 각 시나리오 컨트롤러는 미리 정의된 작업 상태 조건을 활용해 결과 전달을 관리하고, 이벤트 응답 계약(ERC)은 각 응답이 무엇을 의미하는지를 명시합니다.

진행 상황 및 관련 보도
arXiv cs.CL

상태 공간 인코딩을 이용한 선형 시간 컨텍스트 압축

arXiv:2610.33006v1 발표 유형: 신규 초록: 트랜스포머 기반 대규모 언어 모델(LLM)은 컨텍스트 크기가 증가함에 따라 상당한 연산 및 메모리 비용을 수반하므로, 추론 전에 컨텍스트를 더 짧은 표현으로 압축하는 방법이 필요합니다. 기존의 소프트 프롬프트 압축 방식은 일반적으로 목표 모델과 동일한 트랜스포머 백본을 사용하며, 압축된 표현을 생성하는 과정에서 상당한 지연 오버헤드가 발생합니다. 이로 인해 이러한 방식은 컨텍스트를 한 번 압축한 뒤 여러 쿼리에 걸쳐 재사용하는 오프라인 환경에만 제한됩니다. 우리는 Mamba 상태공간 모델(SSM)을 기반으로 한 플러그 앤 플레이형 온라인 컨텍스트 압축기인 Boa Compressor를 제안합니다. 이 압축기는 임의 길이의 컨텍스트를 단일 선형 시간 패스로 인코딩하여, 그 결과 얻은 표현을 바탕으로 우리가 조건부…

진행 상황 및 관련 보도
arXiv cs.CL

LLM 에이전트의 일관성을 위한 재귀적 의미 차이

arXiv:2610.33012v1 발표 유형: 신규 초록: 도구 사용 기능을 갖춘 대규모 언어 모델(LLM) 에이전트는 동일한 초기 상태에서 독립적인 실행 간에 일관되지 않은 행동을 보이며, 서로 다른 도구를 호출하거나 상충되는 출력을 생성하거나 서로 다른 전략을 추구합니다. 이러한 변동성은 시간이 지나면서 누적되어 배포의 신뢰성을 저해합니다. 기존 평가 지표들은 주로 완료 기반 점수를 통해 작업 정확도를 측정할 뿐, 여러 실행에 걸친 에이전트 행동의 일관성을 포착하지 못합니다. 또한, 에이전트의 행동은 확률 분포를 이용한 토큰 수준 또는 의미 클러스터링을 활용한 단일 응답 수준에서 각각 분석되지만, 어느 방법도 궤적의 향후 단계들로 일관성 부족이 어떻게 전파되는지를 파악하지 못합니다. 우리는 재귀적 의미 발산(RSD)이라는 비정식

진행 상황 및 관련 보도
arXiv cs.CL

통합 지상 및 비지상 6G 네트워크에서 의도 기반 서비스 오케스트레이션을 위한 지식 기반 LLM

arXiv:2610.33007v1 발표 유형: 신규 초록: 통합 지상망 및 비지상망(TN/NTN) 6G 네트워크에서의 자연어 기반 서비스 의도는 불완전하거나 모호하거나 일관성이 없을 수 있어, 신뢰할 수 있는 네트워크 기반 오케스트레이션을 위해 제한 없는 LLM 생성이 어려운 상황을 야기합니다. 본 논문에서는 문법 제약을 적용한 의미 분석과 지식 그래프(KG) 기반 명확화 루프를 결합한 지식 기반 LLM 프레임워크를 제안하며, 대표적인 네 가지 서비스 클래스에 걸쳐 검증된 오케스트레이션 준비 완료 상태의 서비스 프로파일을 생성합니다. 200개의 샘플로 구성된 의도 데이터셋에서, 이 프레임워크는 요청당 평균 0.66회의 명확화 단계를 거쳐 분류 정확도 89%와 정책 타당성 95%를 달성합니다. 순수 LLM 기반 베이스라인과 비교했을 때, 제안된 프레임워크는 정책 타당성을 향상시키고 co

진행 상황 및 관련 보도
arXiv cs.CV

Nemotron 3.5 Bolt 74B-A9B 24GB: 로컬 AI를 위한 하이브리드 비전-언어 모델

arXiv:2610.33039v1 발표 유형: 신규 초록: 우리는 로컬 에이전트 워크로드를 위한 메모리 사용량 당 속도와 지능을 최적화하는 하이브리드 Mamba-Transformer 비전-언어 모델인 Nemotron 3.5 Bolt 74B-A9B 24GB를 소개합니다. Nemotron 3.5 Super VL 120B-A12B 모델 계열에서 파생된 Nemotron 3.5 Bolt 74B-A9B 24GB는 스타 엘라스틱 압축과 2비트 퀀타이제이션 기반의 학습 후 양자화 기반 증류 기술을 결합하여 메모리 제약 환경에서도 효율적으로 배포할 수 있도록 설계되었습니다. 이 모델은 추론, 에이전트 기반 도구 활용, 그리고 웹 및 터미널 상호작용에 최적화되어 있습니다. 또한, 목표한 추론 속도를 달성하기 위해 모델과 함께 공개되는 LiLiCorr 사양형 드래프터를 별도로 교육했습니다. 그 결과 생성된 모델은 일반적인 에이전트 작업에 대한 여러 벤치마크에서 유사한 메모리 사용량과 속도를 가진 주요 경쟁 모델들보다 높은 정확도를 보여줍니다.

新闻源配图 · arXiv cs.CV
진행 상황 및 관련 보도
arXiv cs.CV

증거를 통한 직관: 다중 모달 에이전트를 위한 적응형 이중 메모리

arXiv:2610.33019v1 발표 유형: 신규 초록: 다모달 에이전트가 지속적인 상호작용을 수행할 때, 장기 기억은 세밀한 증거 회수와 전반적 이해를 위한 내재화된 해석이라는 두 가지 서로 다르지만 상호 보완적인 기능을 수행한다. 비록 일화 기억과 잠재 기억이 각각 명시적 역사 기록과 내재화된 경험을 통해 이러한 요구를 충족하긴 하지만, 일화 기억의 증거 범위와 통합에 대한 한계, 그리고 잠재 기억의 사실적 근거 마련에 대한 한계로 인해, 이 두 패러다임만으로는 과제 간의 다양한 기억 특성들을 모두 포괄하기 어렵다. 이러한 격차를 해소하기 위해 우리는 모델 고유의 잠재 기억을 직관적인 사전으로 활용하고, 검색 조건에 따라 공동 정렬을 통해 정확한 증거 재구성을 가능하게 하는 다중 인덱스 방식의 일화 기억을 결합한 이중 기억 프레임워크를 제안한다. At i

新闻源配图 · arXiv cs.CV
진행 상황 및 관련 보도
arXiv cs.LG

다양체 위의 흐름 매칭을 위한 호환 가능성

arXiv:2610.31981v1 발표 유형: 신규 초록: 가장 간단한 비유클리드 다양체인 1차원 평탄 원환면에서, 데이터 분포로부터 표본을 밀어내는 속도장에 의해 리만 기하학적 흐름 일치의 최근 제안된 확장이 전역적으로 최적화되는 분포를 제시한다. 우리는 이러한 실패 모드를 ‘호환성’이라고 부르는 성질로 추적하며, 우도 기반 흐름 일치 목적함수가 호환성이란, 그 인구 최소화자가 데이터와 결합에 의해 유도되는 주변 속도장을 복원할 수 있을 때를 의미한다. 우리는 호환성을 위한 일반적인 조건을 제시하고 이를 기존 방법들에 적용한 뒤, 호환성 하에서 소멸하는 잔여 성분의 관점에서 최악의 오차를 상한으로 규제한다. 다음으로, 기존의 호환 가능한 목적함수들은 컴팩트 다양체에서는 실현 불가능한 속도들에 대해 밀도를 부여한다는 점을 지적한다.

新闻源配图 · arXiv cs.LG
진행 상황 및 관련 보도
arXiv cs.CL

소셜 월드 모델 평가 격차

arXiv:2610.33014v1 발표 유형: 신규 초록: 협상 어시스턴트는 상대방의 반응을 정확히 예측하지 않더라도 좋은 거래를 성사시킬 수 있다. 우리는 사회적 세계 모델에 대한 평가들이 이러한 예측을 직접적으로 검증하는지 여부를 묻는다. 1999년부터 2026년까지 발표된 113편의 연구를 검토한 결과, 9편의 주요 평가는 시스템이나 실험자가 선택한 행동에 대한 실제 사람의 반응을 측정한다. 이 중 단 2편만이 명시적인 반응 예측과 실제 반응을 비교하고 있다. 해당 연구들의 예측 모델은 행동이 선택될 때 이용 가능한 정보를 사용하며, 평가 대상 반응은 모델 학습 과정에서 제외되었다; 또한 두 연구 모두 개입 조건을 무작위화하였다. 언어 모델 관련 25편의 논문에 대한 별도의 전문 텍스트 검토에서는 이러한 조건을 충족하는 실험이 발견되지 않았다. 나머지 평가들은 현재 상태 추론, 과제 성공 또는 예측 f

진행 상황 및 관련 보도
arXiv cs.DC

LooseLeaf: 컴퓨팅 노트북을 위한 서버리스 GPU 지원

arXiv:2610.33275v1 발표 유형: 신규 초록: 컴퓨팅 노트북은 세션 전체 동안 GPU를 할당하지만, GPU는 셀이 실행되는 동안에만 계산을 수행하고 그 외에는 대기 상태로 남아 있습니다. 서버리스 실행 방식을 사용하면 셀 간에 GPU 자원을 해제할 수 있지만, 새로 생성된 워커에서 누적된 노트북 상태를 다시 구축하는 과정은 각 GPU 셀마다 상당한 비용을 초래합니다. 본 논문에서는 대화형 노트북을 위한 서버리스 GPU 플랫폼인 LooseLeaf를 제안합니다. LooseLeaf는 각 셀의 상태와 import 클로저를 추출하며, 해당 셀이 필요로 하는 최소한의 변수와 패키지를 파악합니다. 실제 사례 5,000개의 노트북을 대상으로 한 분석 결과, 이러한 클로저는 크기가 작으며, 사용자가 셀을 편집하는 동안에도 이를 준비하는 데 몇 초밖에 걸리지 않는 것으로 나타났습니다. LooseLeaf는 사용자가 셀을 편집하는 동안 이러한 클로저를 포함한 GPU 워커를 미리 준비합니다. 실행이 완료된 후, 워커는…

新闻源配图 · arXiv cs.DC
진행 상황 및 관련 보도
arXiv cs.CL

컨셉타이저: 다음 토큰 예측만으로는 충분하지 않습니다

arXiv:2610.33027v1 발표 유형: 신규 초록: 다음 토큰 예측(NTP)은 다음에 나타나는 단일 토큰에만 보상을 부여하고, 다른 모든 대안에는 벌점을 적용합니다. 그러나 자연어에서는 동일한 의미를 표현하는 방법이 종종 매우 다양합니다. 이에 우리는 의미에 대한 보상 메커니즘을 추가하여 다음 토큰 예측을 확장한 학습 프레임워크인 Conceptizer를 제안합니다. Conceptizer는 문맥적 동의어를 기반으로 구성된 약 9천 개의 개념으로 이루어진 모델 독립적인 고정 어휘를 텍스트의 단위인 토큰과 함께 의미의 단위로 활용합니다. 이를 통해 각 다음 토큰 분포를 개념 분포로 매핑하고, 목표로 하는 의미에 대한 보상을 가능한 다양한 표현 방식들 간에 공유합니다. 이는 모델 파라미터를 추가하지 않으면서도 개념 수준의 학습 신호를 제공합니다. 1B~8B 파라미터 규모의 세 가지 모델 계열에 적용한 결과, Conceptizer는 가장 낮은 헬드아웃 NTP 패러독스를 달성했습니다.

진행 상황 및 관련 보도
arXiv cs.AI

이득을 넘어선 것: 에이전트 스킬 퇴역을 위한 스킬 내재화 측정

arXiv:2610.32322v1 발표 유형: 신규 초록: LLM 에이전트는 약 10만 개의 항목을 보유하고 다수의 모델에 서비스를 제공하는 공공 허브에서 기술을 검색합니다. 모델이 발전함에 따라, 특정 모델이 내부적으로 학습하여 해당 기술을 필요로 하지 않게 되었음을 확인하고 그 모델에 대해 해당 기술을 폐기해야 하지만, 현재까지는 이러한 내부화 정도가 알려진 신뢰성으로 측정된 바 없습니다. 기존에 발표된 규칙들은 기술을 포함한 실행과 제외된 실행 간의 성능 차이만을 기준으로 기술 폐기를 판단합니다. 그러나 내부화된 기술의 경우에도, 그리고 모델과 기술 모두 해당 능력을 제공하지 못하는 상태(우리가 ‘미해결 상태’라고 부르는 경우)에서도 성능 향상은 거의 제로에 가깝습니다. 따라서 우리는 대신 해당 기술을 보류하고, 그 기술을 기반으로 새롭게 구성된 과제에서 모델의 성능을 평가하며, 다른 모델이 해당 기술로부터 이익을 얻는 경우에만 높은 비지원 점수를 신뢰합니다. 이는 높은 점수의 거의 절반이 아무런 기술도 없는 과제에서 나온다는 사실에 근거합니다.

진행 상황 및 관련 보도
arXiv cs.DC

클라우드의 LLM: 아키텍처, 오케스트레이션 및 추론에 관한 논의

arXiv:2610.33475v1 발표 유형: 신규 초록: 클라우드 데이터센터 전반에 걸쳐 기반 대규모 언어 모델(LLM)이 광범위하게 배치됨에 따라, 무상태 딥러닝에서 분산형·메모리 집약적 생성 워크로드로의 근본적인 패러다임 전환이 이루어지고 있습니다. 그러나 엄격한 서비스 수준 목표(SLO) 하에서 대규모 기반 모델을 서비스하는 과정에서는 중요한 물리적 및 시스템 병목 현상이 드러납니다. 이러한 도전 과제에는 지속적인 고대역폭 메모리(HBM) 장벽, 연산 중심의 프리필링과 메모리 대역폭 중심의 디코딩 간의 운영 비대칭성, 폭발적으로 증가하는 키-값(KV) 캐시, 부담스러운 서버리스 콜드 스타트, 그리고 하드웨어 신뢰성 취약점 등이 포함됩니다. 기존 문헌 리뷰들은 여전히 계층별로 분리되어 있어, 저수준 가속기 가상화와 클러스터를 서로 분리하고 있습니다.

진행 상황 및 관련 보도
arXiv cs.CL

글쓰기 조언에서 원고 관리까지: 학술 퇴고를 위한 제약 변환 프레임워크

arXiv:2610.33001v1 발표 유형: 신규 초록: 학술적 퇴고는 정당한 글쓰기 목표 간의 충돌이 발생할 때 거버넌스상의 문제를 야기한다. 글쓰기 과정 및 사회과학 분야의 연구에 따르면, 퇴고는 재귀적이며 문장 표현에는 인식론적·학문적 차원의 맥락적 의무가 수반된다. 이러한 연구들은 중요한 제약 조건들을 규명하되, 간결성, 출판 매체 형식, 또는 스타일적 다양성이 증거와 주장의 한계와 충돌할 경우 어떤 목표가 우선해야 하는지에 대해서는 명확히 규정하지 못하고 있다. 본 논문은 퇴고를 순서화된 제약 조건 하에서의 허용 가능성 문제로 모델링한다. 작업별 불변량, 맥락적 제약 조건, 그리고 가변적인 표현 선택이 허용 가능한 범위를 규정하며, 주장 보전 계약은 증거와 판단을 권한 있는 주장의 한계와 연결한다. 네 가지 거버넌스 관련 명제가 이를 구체화한다

진행 상황 및 관련 보도
arXiv cs.AI

용매: 다단계 역합성에 대한 장기적 추론

arXiv:2610.32308v1 발표 유형: 신규 초록: 다단계 역합성은 목표 분자를 연속적인 반응 단계를 거쳐 구매 가능한 빌딩 블록으로 재귀적으로 변환하는 과정을 요구하며, 최근 연구에서는 이 과제를 해결하기 위해 대규모 언어 모델(LLM)의 추론 기법을 활용하기 시작했습니다. LLM 추론 기법은 최근 발전 과정에서 장기적 지평 영역으로 진입했으며, 모델들은 상호 의존적인 여러 단계에 걸쳐 목표를 달성하고 환경과 상호작용하며 피드백에 적응합니다. 이러한 변화는 AI 기반 수학 연구에서의 획기적인 성과들로도 잘 드러나며, LLM의 능력을 크게 향상시켰습니다. 이러한 최첨단 분야에서 우리는 8B 규모의 LLM인 Solvent를 소개합니다. Solvent는 다단계 역합성 문제에 대한 장기적 추론을 성공적으로 확장한 모델입니다. 두 차례에 걸친 사후 학습 커리큘럼을 통해 Solvent는 반복적인 작업을 병렬로 수행하는 방법을 학습합니다.

진행 상황 및 관련 보도
arXiv cs.CL

오디오-언어 모델에서 제어 가능한 화법 캡션 작성의 벤치마크

arXiv:2610.33036v1 발표 유형: 신규 초록: 스피킹 스타일 캡션링(SSC)은 음성의 톤, 억양, 표현력 등과 같은 비언어적 특성을 포착하여, 말이 전달되는 방식에 대한 자연스러운 언어 설명을 생성하는 것을 목표로 합니다. 대화형 AI 에이전트, 제어 가능한 음성 생성, 대규모 오디오 주석 작업 등 많은 하위 애플리케이션에서는 단일한 통합된 설명이 아니라, 특정한 음성의 측면(예: 화자의 특성, 감정, 또는 전달 스타일)을 구체적으로 기술하는 차원별 스타일 캡션을 필요로 합니다. 그러나 기존 연구들은 제어 가능한 스피킹 스타일 캡션링에 대한 통일된 수식화가 부족한 실정입니다. 우리는 이러한 한계를 해소하기 위해 SSC를 명령어 준수형 오디오-언어 과제로 정식화함으로써, 명시적인 지침이 스피킹 스타일의 특정 차원을 규정하도록 하는 접근법을 제안합니다.

진행 상황 및 관련 보도
arXiv cs.AI

DMAIC-벤치: 다단계 분석 작업에서 에이전트의 자기성찰에서 자기절제까지

arXiv:2610.32305v1 발표 유형: 신규 초록: 다단계 분석 작업에서는 LLM 에이전트가 다음 단계를 계속할지, 경로를 변경할지, 또는 중단할지를 결정하기 위해 중간 증거를 활용해야 합니다. 에이전트가 자신의 출력을 비판하는 자기반성은 널리 연구되어 왔지만, 이러한 비판만으로는 증거가 다음 행동에 영향을 미쳤는지 여부를 확인할 수 없습니다. 우리는 이러한 능력을 ‘자기억제’라고 부릅니다. 기존의 에이전트 벤치마크는 대부분 과제 완료 여부나 출력 품질을 측정할 뿐, 이 능력은 검증되지 않은 상태입니다. DMAIC-Bench는 린 식스 시그마의 명시적인 통계적 전제 조건을 기반으로 하여, 4개 산업 분야의 15개 산업 사례에 걸쳐 97개의 초기 설정된 과제를 통해 이를 평가합니다. 쌍으로 구성된 역설적 변형 과제들은 동일한 워크플로우 위치에서 서로 반대되는 행동을 요구함으로써, 정당화된 억제와 무분별한 중단을 구분합니다. 우리는 실행 추적 정보를 통해

진행 상황 및 관련 보도
arXiv cs.CL

SUDO: 과학 출판물에서 글로벌 학술 담론까지

arXiv:2610.33018v1 발표 유형: 신규 초록: 학술 지식 그래프(SKGs)는 문헌 검색, 과학적 발견 및 에이전트 지원 연구를 지원합니다. 그러나 SKG 구축을 위한 대부분의 접근법은 일반적으로 학술 개체 또는 기여 수준의 진술로 명명되는 표현할 지식 단위를 사전에 규정하고, 해당 단위를 통해 표현 가능한 출판물 내용만을 유지합니다. 이러한 선택은 두 가지 주요하면서도 서로 다른 패러다임을 낳습니다: 개체와 국부적 관계를 보존하는 개념 중심의 SKGs와, 문장 수준의 고차원적 담론을 포착하는 진술 중심의 SKGs입니다. 두 경우 모두, 그래프는 논문이 지식을 구성하고 전달하는 방식이 아니라 선택된 추출 대상을 반영하게 됩니다. 우리는 지식을 정의하는 방법을 제시하는 SUDO, 즉 학술 상위 담론 온톨로지를 소개합니다.

진행 상황 및 관련 보도
arXiv cs.CL

역사 문서 전사용 OCR 시스템의 엔터티 인식 기반 평가

arXiv:2610.33004v1 발표 유형: 신규 초록: 광학 문자 인식(OCR)은 역사 기록 보관소의 디지털화에 필수적이지만, 문자 오류율(CER)과 같은 표준 평가 지표만으로는 이름, 날짜, 식별자 등 의미 있는 정보가 제대로 유지되는지를 반드시 반영하지 못합니다. 본 연구에서는 역사 문서에서의 OCR 품질을 평가하는 데 있어 보완적인 관점으로서, OCR 오류를 엔터티 수준에서 분석합니다. 공개된 벤치마크 데이터셋인 Berrutti 아카이브의 175개 문서와, 게재 승인 시 공개될 수동으로 주석된 5,209개의 엔터티 언급을 추가하여, 시퀀스 인식 기반 OCR 시스템, OCR 전용 비전-언어 모델, 그리고 범용 비전-언어 모델을 비교합니다. 전역적 전사 정확도 외에도

진행 상황 및 관련 보도
arXiv cs.CL

병합 기반 어휘 확장은 사전 토크나이저 단계에서 정체되며: 네팔어를 위한 영어 보존형 복구, 지속적 사전 학습에서 검증됨

arXiv:2610.33016v1 발표 유형: 신규 초록: Llama-3, Qwen3 및 기타 다수의 오픈 LLM은 단어 클래스가 유니코드 문자만 허용하는 정규 표현식을 사용해 텍스트를 사전 토크나이제합니다. 데바나가리 모음 부호는 결합 기호이므로 이 정규 표현식은 네팔어 단어를 각 모음 부호마다 분할하며, 이를 사용하는 모델들은 동일한 영어 텍스트에 비해 네팔어에서 2.6배에서 5.8배 많은 토큰을 소비합니다. 병합 기반 어휘 확장 방식은 분할된 조각들을 합칠 수 없으며, Llama-3와 Qwen3의 경우 아무리 많은 새로운 병합을 시도해도 이 프리토크나이즈 바닥값을 약 2.2 이하로 낮출 수 없고, 이미 공개된 열 개의 확장어휘조차 이 기준치에서 4% 이내에 머물러 있습니다. 우리는 배포된 정규 표현식에 대해 작은 수정을 가하여, 결합 기호나 데바나가리 문자를 포함하지 않는 모든 토큰 ID를 보장함을 입증했습니다. 여기에 32,000개의 새로운 병합을 추가하면 네팔어는 영어의 1.01배 수준으로 상승하게 됩니다, 그리고

진행 상황 및 관련 보도