전체 AI 소식

Import AI 478: 정렬을 위한 수학; ProgramBench; 그리고 Mirendil은 RSI가 무엇을 의미하는지 보여줍니다

기계에게 ‘밤’이란 무엇일까요?

실시간 분할 제어에서 제로샷 조정을 위한 인지적 제약을 가진 파트너들

arXiv:2610.31726v1 발표 유형: 신규 초록: 효과적인 인간-기계 팀워크를 위해서는 예측 불가능한 인간 파트너와 협력하는 에이전트가 필요합니다. 실시간 인간 피드백이나 대규모 행동 데이터셋을 기반으로 한 강화학습은 비용이 많이 들며, 순수하게 시뮬레이션된 훈련은 인공적인 규칙에 과적합되어 실제 사람들과의 제로샷 조정에서 실패합니다. 우리는 인지적 제약이 있는 파트너를 상대로 팀워크 에이전트를 학습시키는 프레임워크를 제안합니다: 이 시뮬레이션 파트너들은 보상 설계나 과거 훈련 체크포인트가 아니라, 인간의 생리학 관련 문헌에 근거한 절차적 제약—특히 반응 지연과 지각 한계—에 의해 그 다양성이 도출됩니다. 수정된 루나랜더 환경에서, 이러한 파트너들이 더 유사하게 플레이한다는 초기 증거를 보고합니다…

새로운 연구에 따르면, 강화학습에서 기존의 크리틱은 대규모 언어 모델의 신뢰도 추정기로 그대로 재사용할 수 있다.

2026년 10월 26일 arXiv에 게재된(번호 2610.31820v1) 한 편의 AI 연구 논문은, 가치 기반 강화학습(value-based RL)으로 학습된 대형 언어 모델(LLMs)의 경우, 기존의 크리틱 모듈이 별도의 학습이나 데이터 없이도 높은 정확도와 높은 교정성을 갖춘 신뢰도 추정기로 활용될 수 있음을 보여준다고 지적했다.

추천 이유：이 연구는 신뢰도 추정과 강화학습에서의 크리틱 학습 간의 수학적 본질적 동등성을 밝혀냈으며(정확성 결과 정의 하에), 10여 개 분야(수학, 코드 작성, 도구 호출, 일반 추론)에 걸친 실증을 통해 크리틱 재사용의 효과성과 일반화 능력을 검증하였다. 이러한 성과는 LLM의 신뢰할 수 있는 배포 문턱을 낮추는 데 직접적인 엔지니어링 가치를 지닌다.

인컨텍스트 의존성 파싱을 위한 POS-서명 시연 검색

arXiv:2610.31966v1 발표 유형: 신규 초록: 문맥 내 학습을 위한 예시들은 종종 의미적 유사성에 의해 검색되며, 이는 구조화된 예측에서의 관련성을 나타내는 데 있어 부적절한 대리지표가 될 수 있습니다. 우리는 POS 서명 정책을 사용하여 Universal Dependencies 파싱을 위한 예시 선택을 연구합니다. 이 정책은 문장들을 가중치를 부여한 품사 통계로 표현하며, 라벨링된 교육 데이터 세트에서 길이가 호환되는 골드 라벨 해석을 갖춘 세 개의 예시를 검색합니다. 우리는 미세조정 없이 오픈 웨이트 언어 모델 두 가지를 UD 영어 웹 트리뱅크 테스트 세트의 총 2,077개 문장에 대해 평가하며, 해당 정책을 샷 및 형식이 일치하는 고정형 및 의미 기반 삼샷 기준선과 비교하고, 또한 제로샷, 사고 체인, 비평-정제 시스템과도 비교합니다. POS 서명 기반 검색은 가장 높은 라벨링된 성과를 달성합니다.

의미적으로 풍부하고, 측정적으로는 영향을 감지하지 못하는: 현대 텍스트 임베딩 모델의 기하학적 사각지대

arXiv:2610.32122v1 발표 유형: 신규 초록: 우리는 현대 텍스트 임베딩 모델들에서 체계적인 분리 현상을 보고합니다. 감정은 해당 임베딩으로부터 거의 완벽하게 복원될 수 있는 반면, 그 메트릭에서는 거의 전적으로 나타나지 않습니다. 2021년부터 2026년까지의 기간에 걸쳐 출시된 열한 개의 고정된 인코더를 대상으로 한 실험에서, 2026년 세대 모델들과 4B 파라미터 규모의 LLM 임베더 Qwen3-Embedding-4B를 포함하여, 선형 프로브는 문장의 극성을 최대 91.3%의 정확도로 복원하는 반면, 코사인 유사도는 극성 차이를 단지 0.003~0.064의 폭으로만 구분합니다. 패널 내에서 가장 강력한 프로브인 Qwen3-Embedding-4B는 91.3%의 프로브 정확도를 달성했지만, 검색 MAP는 64.3에 불과합니다. 검색, 클러스터링, 중복 제거 및 검색 증강 생성과 같은 작업들은 학습된 프로브가 아닌 메트릭을 기반으로 수행되므로, 이러한 시스템들은 정보에 대해 사실상 눈이 멀어 있습니다.

컨텍스트 또는 지식: LLM이 자신의 답변을 어떻게 귀속하는가

arXiv:2610.32109v1 발표 유형: 신규 초록: 언어 모델은 제공된 문서 또는 자체의 매개변수 기반 지식을 바탕으로 질문에 답할 수 있다. 이후 해당 답변이 어디에서 나왔는지 묻는 경우, 그 출처 보고를 결정하는 요인은 무엇일까? 우리는 답변이 생성된 뒤, 출처 질문이 제기되기 전에 모델의 키-값(KV) 캐시에 개입함으로써 이를 연구한다. 네 가지 모델(7B~32B)을 대상으로 한 통제된 사실 검증 과제에서, 문서의 캐시를 변경하거나 제거해도 출처 보고에는 전혀 영향을 미치지 않았다. 반면, 동일한 질문과 답변 토큰을 사용한 두 번의 실행 사이에 질문-답변(Q+A) 캐시를 이식하면, 그 정보가 전달된다: 모든 적격한 출처 보고는 기증자의 것을 따르며, 수신자의 문서는 변하지 않는다. 두 개의 소형 모델에서는, 어떤 출처 질문보다 먼저 학습된 방향을 따라 Q+A 값을 조정하는 것이 가능했다…

액터-크리틱 기반 에이전트를 위한 재무적 맥락이 풍부한 전략: 주식 거래를 위한 딥 강화 학습 접근법

arXiv:2610.32237v1 발표 유형: 신규 초록: 현대 금융시장에서는 대규모 거래의 4분의 3 이상이, 전통적인 인간 트레이더들보다 높은 정밀도와 속도를 달성하기 위해 고급 거래 전략을 기반으로 한 알고리즘 트레이딩에 의해 실행된다. 가격 기반 지표에 중점을 두던 기존 전략들은 사회적 여론, 정치적 불안정성, 또는 갑작스러운 경제 변화와 같은 현실 세계의 사건들로 인해 발생하는 시장의 역동성을 포착하는 데에는 한계가 있다. 딥 강화학습(DRL)의 부상과 데이터 접근성의 향상에 따라, 이러한 외부 요인들을 거래 전략에 효과적으로 통합할 수 있는 보다 효율적인 알고리즘이 요구되고 있다. DRL은 DRL 에이전트가 자동으로…

TaxoSAE: 분류학적 논리를 통한 희소 자동부호화기의 재고찰

arXiv:2610.31894v1 발표 유형: 신규 초록: 최근의 희소 자동부호화기(SAE)는 대규모 언어 모델(LLM)의 표현을 해석 가능한 특징으로 분해하여, 인코딩된 지식을 정밀하게 읽어내고 제어할 수 있게 합니다. 그러나 기존의 SAE는 각 특징을 독립적인 단위로 취급하는 반면, 실제 세계의 지식은 종종 계층적으로 조직되어 있습니다. 그 결과, 읽어내기에서는 계층적 일관성이 보장되지 않으며, 제어 또한 편집의 범위를 구체적으로 지정할 수 있는 세분성 부족이라는 한계가 존재합니다. 이에 우리는 계층적 정보를 명시적으로 인코딩하는 TaxoSAE를 제안합니다. TaxoSAE는 is-a(상위-하위 관계)를 기반으로 한 계층 구조를 SAE의 특징 공간에 내재화하며, 각 계층 수준마다 하나의 SAE를 배치한 스택 형태로 타이포노미를 모사합니다. 또한, TaxoSAE는 각 개념이 활성화될 때마다 해당 계층에 맞는 적절한 특징을 선택하도록 학습시키는 타이포노믹 정렬 손실을 도입합니다.

KnitTrans: Coordinated Trajectory Transfer for Effective and Efficient LLM Reinforcement Learning

arXiv:2610.32389v1 Announce Type: new Abstract: Trajectory transfer from rollout to training affects both learning quality and system efficiency in large language model reinforcement learning (RL). Enforcing batch-wide training requirements can delay the admission of completed trajectories, resulting in higher architectural staleness: the additional parameter-version gap from disaggregated pipelining relative to colocated execution. Beyond admission, misalignment between data access and training consumption causes redundant movement and unnecessary waiting when transferring large trajectory payloads. We present KnitTrans, a system that coordinates the rollout-to-training path through three designs. First, constraint-preserving mini-batch admission allows flexibility in early mini-batch com

방금 배운 내용을 잊지 마세요: 자기주도형 수리는 에이전트의 실수를 지속적인 학습으로 전환합니다

arXiv:2610.31846v1 발표 유형: 신규 초록: 지능형 에이전트는 자신의 실수로부터 학습하여, 경험을 통해 지속적인 개선으로 이어질 수 있어야 합니다. 그러나 오늘날의 에이전트들은 실수에서 벗어나더라도 그 효과가 일시적일 뿐입니다. 인컨텍스트 내 반성은 세션 간에 쉽게 잊히고 제한된 컨텍스트 자원과 경합하며, 전체 파라미터 미세조정은 비용이 많이 들고 기존 능력에 간섭할 수 있습니다. 우리는 일시적인 인컨텍스트 재시도와 정책 업데이트의 장점을 결합한, 에이전트가 실수로부터 학습하는 메커니즘인 ‘셀프 디렉션’을 제안합니다. 에이전트가 작업에 실패하면, 스스로의 행동 경로를 되돌아보며 교훈을 도출하고 이를 즉각적으로 경량화된 저랭크 어댑터로 축약합니다. 원래 가중치를 고정해 두면, 셀프 디렉션은 어댑터 학습이 과도하게 덮어쓰는 것을 방지합니다.

노이즈가 있는 검색에서 결정 증거까지: 인컨텍스트 학습을 위한 실버 증거 시연

arXiv:2610.32128v1 발표 유형: 신규 초록: RAG 및 검색 기반 소샷 ICL은 의사결정에 중요한 근거가 길고 잡음이 많은 문맥 속에 묻혀 있을 때 어려움을 겪을 수 있습니다. 검색된 구절과 예시에는 중복되거나 산만한 정보가 포함될 수 있습니다. 전문가가 라벨링한 개발 예시는 각 결정을 뒷받침하는 텍스트를 식별할 수 있지만, 이러한 주석은 일반적으로 잡음이 많은 검색 결과를 필터링하기 위한 감독 자료로 사용되기보다는 답변 측의 근거로만 활용됩니다. 우리는 실버 증거 시연을 제안합니다. 이는 ICL 예시에서 원본 검색 구절을 생성된 목표 조건에 맞춘 증거 요약으로 대체하는 방법입니다. 각 라벨링된 개발 예시에 대해, LLM은 전문가 라벨이나 골드 증거에 접근하지 않은 상태에서 실버 증거를 생성하며, 이후 이 증거는 전문가 라벨과 짝지어집니다.

연구는 대형 언어 모델 시대를 위한 지식 그래프 품질 평가 프레임워크를 제안한다.

2026년 10월 26일 arXiv에 게재된 논문(번호 2610.31684v1)은 데이터, 정보, 연관 데이터 및 지식 그래프(KG)의 품질 평가 연구를 체계적으로 정리하고, 대규모 언어 모델(LLM)이 추론의 근거로 KG에 의존하는 새로운 시나리오를 고려하여, 24개의 품질 차원과 다양한 품질 지표를 포함하는 범용적이고 맞춤형 지식 그래프 품질 평가 프레임워크를 제안한다.

추천 이유：이 논문은 현재 LLM과 KG의 심층적 융합이 이루어지는 배경 속에서 지식의 신뢰성이라는 핵심 문제를 정면으로 다루며, 다분야 품질 평가 이론을 최초로 통합하여 포괄적이면서 실제 응용에 적합한 평가 체계를 구축하였다. 또한 논문의 게재일자(2026-10-26)는 현재 날짜와 일치하여 최신 학술 성과에 해당하며, 권위 있는 사전출판 플랫폼인 arXiv에 게재되어 출처가 명확하고 학술적 규범성을 갖추고 있다.

Latent Coherence: Do Frontier Language Models' Probability Judgments Obey the Law of Total Probability?

arXiv:2610.31833v1 Announce Type: new Abstract: LawZero's Scientist AI trains a Predictor toward the Bayesian posterior, with an objective that penalizes inconsistent probabilities among latent explanations. We ask whether current frontier language models, with no such training, are already consistent in this sense zero-shot: do their probability judgments satisfy the law of total probability, $P(X)=\sum_z P(z)P(X|z)$, when the latent $z$ must be inferred from records in the context? In separate single-turn calls, models are asked for $P(X)$, for $P(z)$ over the latent's states, and for $P(X|z)$; a causal family applies the same test to $P(y|do(x))$ and the back-door adjustment. Every query has an exact ground-truth probability, and a subset of items is asked in three wordings to separate

온라인 3D 박스 패킹을 위한 공간적 휴리스틱 전략 기반 확산 강화 학습

arXiv:2610.32241v1 발표 유형: 신규 초록: 전통적인 휴리스틱 방법들은 공간 활용도와 3D 배치 문제의 레이아웃 밀집도 등 핵심 목표에 대해 인위적으로 설계된 규칙 기반 논리를 바탕으로 오랜 경험을 축적해 왔습니다. 그러나 이들 방법은 일반화 능력과 동적 시나리오에 대한 적응력에서 명백한 한계를 보입니다. 강화학습의 공간 탐색 능력과 확산 학습의 데이터 분포 모델링 능력을 결합한 확산 강화학습은 행동 분포 모델링 및 의사결정 준수 제약 조건 측면에서 일정한 성과를 거두었습니다. 그럼에도 불구하고, 3D 배치 문제에서 공간의 위상 구조에 대한 인식 부족과 레이아웃 최적화 능력의 제한이라는 문제들이 여전히 남아 있습니다.

GLP 네트워킹 API 사양

arXiv:2610.32583v1 발표 유형: 교차 요약: 다중에이전트 결정론적 GLP(madGLP)는 비동기식 메시지 전달만을 통해 상호작용하는 에이전트들로 구성된 그라스루츠 로직 프로그램(GLP)을 실행하며, 모든 발송된 메시지는 결국 수신되도록 하는 공정한 전달을 가정한다. 각 에이전트는 사용자의 공개키로 식별되는 개인의 스마트폰에서 실행된다. 그라스루츠 플랫폼은 네트워크 외에는 어떠한 글로벌 자원에도 의존하지 않으므로, 에이전트들은 블루투스 저에너지, 로컬 네트워크, 그리고 NAT 뒤에서 인터넷을 통해 누구나 운영할 수 있는 렌더부스 서버를 경유하여 서로 연결되어야 한다. 이러한 네트워크가 madGLP에 요구하는 바와, 네트워크가 플랫폼에 요구하는 바는 아직 명시되지 않았다. 우리는 madGLP 하위의 네트워킹 계층을 구체적으로 규정한다. GLP에서 수행 가능한 모든 작업은 GLP에서 그대로 수행되며, 이 계층은 오직 다음 사항만을 제공한다:

Distributional Alignment of LLMs and Its Generalization Properties

arXiv:2610.31687v1 Announce Type: new Abstract: Large language models are increasingly used to simulate and probe human behavior, e.g., for surveys. For these applications, a key property is that outputs satisfy distributional alignment: to match its output distribution with some reference (in this case, human) distribution. An obstacle in achieving distributional alignment is generalizing from small training data. In this work, we study (1) how to distributionally align LLMs; and (2) how aligned LLMs might generalize to unseen samples and unrelated topics and tasks. Using two large-scale benchmarks, we find that LLMs can indeed achieve distributional alignment and generalize to unseen questions of the same domain. Cross-topic generalization depends on the relationship between topics (e.g.

PaperFormalizer: Lean 환경에서 연구 논문의 저자 참여형 자동 형식화

arXiv:2610.31810v1 발표 유형: 신규 초록: 심지어 꼼꼼히 교정된 논문이라도 증명 과정이나 명시된 가정에 작은 허점이 남아 있을 수 있습니다. 우리는 PaperFormalizer를 소개합니다. 이는 Lean 기반의 에이전트형 파이프라인으로, 저자들이 자신의 논문에서 이러한 허점을 찾아 이를 보완하고, 각 논문을 Lean으로 검증된 버전으로 전환할 수 있도록 지원합니다. LaTeX 소스를 기반으로 PaperFormalizer는 논문을 명제들의 의존 관계 그래프로 변환한 뒤, 각 명제를 자연어로 검토하여 충실성, 모호성 및 정확성을 평가하고, 이후 Lean 언어로 명제들을 형식화하여 Mathlib, 선택적 도메인 라이브러리 및 저자의 개인 도구 세트와 비교해 증명합니다. 어떤 명제가 무엇을 의미하는지, 그리고 결과에 존재하는 형식화상의 허점을 어떻게 가장 잘 해결해야 하는지는 오직 저자만이 알고 있습니다. 따라서 이 파이프라인은 중단되어 저자에게 질문을 던집니다…

LazyFlash: 긴 컨텍스트 미세조정을 가속화하기 위한 전방 밀집형·후방 희소형 주의력

arXiv:2610.31911v1 발표 유형: 신규 초록: 대규모 언어 모델(LLM)이 점점 더 긴 시퀀스를 처리함에 따라, 주목 메커니즘은 주요한 계산 병목으로 부각되고 있다. 희소 주목 기법은 대부분 추론 단계에 초점을 맞추지만, 여전히 많은 방법들이 밀집형으로 학습되거나 희소 학습을 지원하지 못하며, 추가적인 복잡성으로 인해 희소성이 실제 실시간 성능 향상으로 이어지기 어려워져, 실제로는 밀집형 주목이 널리 사용되고 있다. 본 논문에서는 주목 학습이 후방 전달 단계에 의해 지배된다는 관찰에 기반하여 설계된, 전방은 밀집형, 후방은 희소형 주목 방식인 LazyFlash를 제안한다. LazyFlash는 전방 전달 단계를 완전히 밀집형으로 유지하므로, 학습된 모델은 vLLM과 같은 기존 시스템에서 아무런 변경 없이 서비스할 수 있는 표준 밀집형 모델로 남게 된다. 후방 전달 단계에서는 LazyFlash는 그라디언트-a

연구에 따르면, 활성화 간섭은 도구 사용 모델에서 조건의 재사용을 어렵게 만드는 것으로 나타났다.

해당 논문은 2026년 10월 26일에 arXiv(번호 2610.31686)에 게재되었으며, Qwen3.5-27B 모델을 기반으로 시간 또는 권한에 따라 자격을 판단하는 도구 사용 과제에서 활성화 간섭이 ‘조건 재사용’ 능력에 미치는 영향을 체계적으로 분석하였다. 실험 결과, 간섭은 목표 선택 정확도를 유의미하게 향상시켰지만, 사실과 식별자 재조합 시나리오에서는 일반화가 실패했으며, 후보자의 자격에 대한 독립적 판단 역시 개선하지 못했다.

추천 이유：본 연구는 ‘목표 선택 제어’, ‘조건에 대한 민감한 판단’, 그리고 ‘완전한 동작의 정확성’이라는 세 가지 유형의 능력을 최초로 명확히 구분하며, 출력된 답안만을 최적화하는 것만으로는 모델이 개입에서 설정된 조건(예: 시간, 권한)을 진정으로 이해하고 이를 재사용할 수 있음을 보장하기에 충분하지 않다는 점을 지적합니다. 이는 신뢰할 수 있는 도구 호출과 통제 가능한 AI 시스템 설계에 있어 방법론적 함의를 제공합니다.

Quantum Cadence: Post-Quantum Consensus with Multiple Concurrent Proposers

arXiv:2610.32803v1 Announce Type: new Abstract: The consensus protocols of most high-performance blockchains use quorum certificates, which bundle the signatures of a quorum of validators. Signature schemes such as BLS can aggregate the signatures of a whole quorum into a single short signature, which keeps these certificates small. A large-scale quantum computer would break these schemes, and no post-quantum scheme with comparable aggregate size and aggregation time is known. Without aggregation, a certificate holds one large post-quantum signature per member of the quorum, so it becomes infeasible for each validator to broadcast certificates, as modern consensus protocols often require. We present Quantum Cadence, a post-quantum consensus protocol with multiple concurrent proposers that