AI 뉴스 검색

ProtoEEG: EEG 시각적 디코딩을 위한 구조화된 프로토타입 정렬

arXiv:2610.33065v1 발표 유형: 신규 초록: 두피 기록은 잡음이 많고 공간적 해상도가 낮으며 실험 조건과 피실험자 간에 변동성이 크기 때문에 EEG를 통한 시각적 해독은 여전히 어려운 과제로 남아 있습니다. 대부분의 시스템에서는 각 실험을 고밀도 이미지 임베딩과 정렬하지만, 이러한 임베딩은 의미적 내용과 개별 사례에 특화된 질감, 자세, 배경 등을 혼합하고 있습니다. 이는 EEG에서 제공되지 않는 세부 정보를 요구할 뿐만 아니라, 예측을 뒷받침하는 시각적 요인들에 대한 명시적인 설명도 제공하지 않습니다. 우리는 EEG와 이미지 간 정렬 문제를 공유 가능한 학습 가능한 시각 코드북 위에서의 소프트 컴포지션으로 재구성하는 프로토타입-매개 프레임워크인 \textbf{ProtoEEG}를 제안합니다. 학습 가능한 EEG 인코더와 고정된 시각 교사가 동일한 $K=64$개의 프로토타입에 대한 할당 분포를 생성하며, 이들의 가중 합성 재구성은 구조화된 표현을 형성합니다.

지혜롭게 속삭이기: ASR 미세조정을 위한 스마트 서브셋 선택

arXiv:2610.32997v1 발표 유형: 신규 초록: OpenAI의 Whisper와 같은 자동 음성 인식(ASR) 모델은 음성 인식 품질을 크게 향상시켰지만, 특히 대량의 문자로 변환된 오디오 데이터가 제공되는 경우 미세조정 비용이 여전히 높습니다. 이로 인해 많은 실무자들이 이러한 모델을 새로운 언어나 도메인에 맞게 적용하는 데 어려움을 겪고 있습니다. 본 연구에서는 ASR 미세조정을 위한 더 작은 교육 세트를 선택하기 위해 임베딩 기반 서브셋 선택 방식을 제안합니다. Whisper의 사전훈련된 인코더를 사용하여 각 오디오 샘플을 고정 차원의 임베딩 공간으로 매핑하고, 탐욕적 k-센터 알고리즘을 적용하여 교육 데이터에서 다양하고 대표적인 서브셋을 선별합니다. 우리는 이 방법을 히브리어와 덴마크어 두 언어에 대해 평가한 결과, k-센터 선택이 종종 …

OpenESM: 에너지 기반 모델은 확장 가능하며, 파운데이션 학습자들입니다

arXiv:2610.33005v1 발표 유형: 신규 초록: 에너지 기반 모델은 도메인 특화 작업에서 유망한 성능을 보여왔지만, 범용 시나리오를 모델링하는 데는 여전히 어려움이 있습니다. 이러한 격차를 해소하기 위해 우리는 기초 언어 모델링을 위한 에너지 주도형 모델(ESM)을 설계합니다. ESM은 단일 아키텍처 내에서 에너지 주도와 토큰 생성을 통합하여, 에너지 기반 탐색을 활용해 토큰 생성을 정교화합니다. 구체적으로, ESM은 먼저 에너지 지형 위에서 잠재 상태를 최적화한 다음, 이 정교화된 잠재 상태를 토큰 생성에 활용합니다. 대규모 말뭉치를 대상으로 이러한 에너지 기반 사전훈련을 수행함으로써, ESM은 유리한 토큰이 낮은 에너지 값을 갖는 일반적으로 효과적인 에너지 지형을 학습합니다. ESM의 스케일링 특성을 탐구하기 위해, 우리는 ESM을 사전훈련합니다

EKT-라우터: 신체화된 비전-언어 모델을 위한 전문가-증거 정합

arXiv:2610.33044v1 발표 유형: 신규 초록: 체화된 시각-언어 모델은 부분적이고 변화하는 관찰로부터 질문에 답해야 한다. 이들의 성공은 선택된 추론 능력과 해당 모델이 이용할 수 있는 증거 양 측면에 모두 의존한다. 전문 라우터는 내부 계산을 조정하는 반면, 도구를 보강한 시스템은 외부 증거를 확보한다; 두 가지 접근을 독립적으로 선택하면 적합한 전문가가 필요한 증거를 갖추지 못하는 상황이 발생할 수 있다. 우리는 EKT-Router를 제안하며, 이는 능력 전문가, 선택적 지식, 그리고 지각 도구를 공동으로 선택하는 제한된 프레임워크이다. 결과 기반 서명은 일반 전문가, 공간 추론 전문가, 그리고 시공간 추론 전문가의 중복된 강점을 나타낸다. 합동 효용 함수는 호출 예산 하에서 완전한 전문가-증거 경로를 평가한다. 수집 후, 패킷 검증기는 유효한 것을 인정한다.

ReMedI: 제어 가능한 분자 최적화를 위한 추론 시 정제 및 자기 디스틸레이션

arXiv:2610.32103v1 발표 유형: 신규 초록: 약물 개발에서 리드 최적화는 투과성을 높이고 독성을 낮추는 등 상충되는 특성을 개선하는 동시에, 리드의 효능을 저해할 수 있는 골격 변경을 최소화해야 한다. C-MORAL과 같은 RL 기반 사후 학습 방법은 분자 언어 모델을 미세 조정하여 관심 있는 목표를 위해 분자 리드를 직접 최적화함으로써 이러한 문제를 해결하려 하지만, 이는 비용이 많이 드는 특정 작업용 데이터셋에 의존하며 다목적 최적화(MOO) 달성에도 어려움을 겪는다. 우리는 사전 훈련된 모델이 이미 제로샷 생성으로는 효율적으로 도달하기 어려운 유용한 분자 수정 정보를 포함하고 있을 수 있다고 주장한다. 제로샷 생성의 제한된 탐색 능력에 착안하여, 우리는 효율적인 메트로폴리스-헤스팅스 탐색 전략을 개발하여 베팅…

증거를 통한 직관: 다중 모달 에이전트를 위한 적응형 이중 메모리

arXiv:2610.33019v1 발표 유형: 신규 초록: 다모달 에이전트가 지속적인 상호작용을 수행할 때, 장기 기억은 세밀한 증거 회수와 전반적 이해를 위한 내재화된 해석이라는 두 가지 서로 다르지만 상호 보완적인 기능을 수행한다. 비록 일화 기억과 잠재 기억이 각각 명시적 역사 기록과 내재화된 경험을 통해 이러한 요구를 충족하긴 하지만, 일화 기억의 증거 범위와 통합에 대한 한계, 그리고 잠재 기억의 사실적 근거 마련에 대한 한계로 인해, 이 두 패러다임만으로는 과제 간의 다양한 기억 특성들을 모두 포괄하기 어렵다. 이러한 격차를 해소하기 위해 우리는 모델 고유의 잠재 기억을 직관적인 사전으로 활용하고, 검색 조건에 따라 공동 정렬을 통해 정확한 증거 재구성을 가능하게 하는 다중 인덱스 방식의 일화 기억을 결합한 이중 기억 프레임워크를 제안한다. At i

행동에 대한 처벌을 언제 중단해야 할까요? VLA 강화학습을 위한 마팅게일 GRPO

arXiv:2610.32431v1 발표 유형: 신규 초록: 비전-언어-행동(VLA) 롤아웃이 실패했다고 해서 모든 행동이 실패에 기여했다는 의미는 아니다. 그러나 그룹 상대 정책 최적화(GRPO)에서는, 하나의 트래잭터리 수준 우위가 롤아웃 내 모든 행동에 할당된다. 이로 인해 잠재적으로 유용한 복구 시도들이, 그들이 바로잡으려는 오류와 함께 처벌받을 수 있다. 실패 피드백에 대한 이상적인 중단 조건은 성공 확률과 정책 점수 마팅게일을 활용하여 규명된다. 이러한 중단 시점에서는, 제거된 그라디언트 기여의 조건부 기대값이 유지된 정보를 조건으로 하여 영이 된다. 따라서 절단은 기준 GRPO 그룹 그라디언트 추정량의 기대값을 보존하고, 그 공분산을 줄일 수 있다. 이러한 중단 중 하나는 성공의 조건부 확률이

Import AI 478: 정렬을 위한 수학; ProgramBench; 그리고 Mirendil은 RSI가 무엇을 의미하는지 보여줍니다

기계에게 ‘밤’이란 무엇일까요?

실시간 분할 제어에서 제로샷 조정을 위한 인지적 제약을 가진 파트너들

arXiv:2610.31726v1 발표 유형: 신규 초록: 효과적인 인간-기계 팀워크를 위해서는 예측 불가능한 인간 파트너와 협력하는 에이전트가 필요합니다. 실시간 인간 피드백이나 대규모 행동 데이터셋을 기반으로 한 강화학습은 비용이 많이 들며, 순수하게 시뮬레이션된 훈련은 인공적인 규칙에 과적합되어 실제 사람들과의 제로샷 조정에서 실패합니다. 우리는 인지적 제약이 있는 파트너를 상대로 팀워크 에이전트를 학습시키는 프레임워크를 제안합니다: 이 시뮬레이션 파트너들은 보상 설계나 과거 훈련 체크포인트가 아니라, 인간의 생리학 관련 문헌에 근거한 절차적 제약—특히 반응 지연과 지각 한계—에 의해 그 다양성이 도출됩니다. 수정된 루나랜더 환경에서, 이러한 파트너들이 더 유사하게 플레이한다는 초기 증거를 보고합니다…

새로운 연구에 따르면, 강화학습에서 기존의 크리틱은 대규모 언어 모델의 신뢰도 추정기로 그대로 재사용할 수 있다.

2026년 10월 26일 arXiv에 게재된(번호 2610.31820v1) 한 편의 AI 연구 논문은, 가치 기반 강화학습(value-based RL)으로 학습된 대형 언어 모델(LLMs)의 경우, 기존의 크리틱 모듈이 별도의 학습이나 데이터 없이도 높은 정확도와 높은 교정성을 갖춘 신뢰도 추정기로 활용될 수 있음을 보여준다고 지적했다.

추천 이유：이 연구는 신뢰도 추정과 강화학습에서의 크리틱 학습 간의 수학적 본질적 동등성을 밝혀냈으며(정확성 결과 정의 하에), 10여 개 분야(수학, 코드 작성, 도구 호출, 일반 추론)에 걸친 실증을 통해 크리틱 재사용의 효과성과 일반화 능력을 검증하였다. 이러한 성과는 LLM의 신뢰할 수 있는 배포 문턱을 낮추는 데 직접적인 엔지니어링 가치를 지닌다.

인컨텍스트 의존성 파싱을 위한 POS-서명 시연 검색

arXiv:2610.31966v1 발표 유형: 신규 초록: 문맥 내 학습을 위한 예시들은 종종 의미적 유사성에 의해 검색되며, 이는 구조화된 예측에서의 관련성을 나타내는 데 있어 부적절한 대리지표가 될 수 있습니다. 우리는 POS 서명 정책을 사용하여 Universal Dependencies 파싱을 위한 예시 선택을 연구합니다. 이 정책은 문장들을 가중치를 부여한 품사 통계로 표현하며, 라벨링된 교육 데이터 세트에서 길이가 호환되는 골드 라벨 해석을 갖춘 세 개의 예시를 검색합니다. 우리는 미세조정 없이 오픈 웨이트 언어 모델 두 가지를 UD 영어 웹 트리뱅크 테스트 세트의 총 2,077개 문장에 대해 평가하며, 해당 정책을 샷 및 형식이 일치하는 고정형 및 의미 기반 삼샷 기준선과 비교하고, 또한 제로샷, 사고 체인, 비평-정제 시스템과도 비교합니다. POS 서명 기반 검색은 가장 높은 라벨링된 성과를 달성합니다.

액터-크리틱 기반 에이전트를 위한 재무적 맥락이 풍부한 전략: 주식 거래를 위한 딥 강화 학습 접근법

arXiv:2610.32237v1 발표 유형: 신규 초록: 현대 금융시장에서는 대규모 거래의 4분의 3 이상이, 전통적인 인간 트레이더들보다 높은 정밀도와 속도를 달성하기 위해 고급 거래 전략을 기반으로 한 알고리즘 트레이딩에 의해 실행된다. 가격 기반 지표에 중점을 두던 기존 전략들은 사회적 여론, 정치적 불안정성, 또는 갑작스러운 경제 변화와 같은 현실 세계의 사건들로 인해 발생하는 시장의 역동성을 포착하는 데에는 한계가 있다. 딥 강화학습(DRL)의 부상과 데이터 접근성의 향상에 따라, 이러한 외부 요인들을 거래 전략에 효과적으로 통합할 수 있는 보다 효율적인 알고리즘이 요구되고 있다. DRL은 DRL 에이전트가 자동으로…

TaxoSAE: 분류학적 논리를 통한 희소 자동부호화기의 재고찰

arXiv:2610.31894v1 발표 유형: 신규 초록: 최근의 희소 자동부호화기(SAE)는 대규모 언어 모델(LLM)의 표현을 해석 가능한 특징으로 분해하여, 인코딩된 지식을 정밀하게 읽어내고 제어할 수 있게 합니다. 그러나 기존의 SAE는 각 특징을 독립적인 단위로 취급하는 반면, 실제 세계의 지식은 종종 계층적으로 조직되어 있습니다. 그 결과, 읽어내기에서는 계층적 일관성이 보장되지 않으며, 제어 또한 편집의 범위를 구체적으로 지정할 수 있는 세분성 부족이라는 한계가 존재합니다. 이에 우리는 계층적 정보를 명시적으로 인코딩하는 TaxoSAE를 제안합니다. TaxoSAE는 is-a(상위-하위 관계)를 기반으로 한 계층 구조를 SAE의 특징 공간에 내재화하며, 각 계층 수준마다 하나의 SAE를 배치한 스택 형태로 타이포노미를 모사합니다. 또한, TaxoSAE는 각 개념이 활성화될 때마다 해당 계층에 맞는 적절한 특징을 선택하도록 학습시키는 타이포노믹 정렬 손실을 도입합니다.

KnitTrans: Coordinated Trajectory Transfer for Effective and Efficient LLM Reinforcement Learning

arXiv:2610.32389v1 Announce Type: new Abstract: Trajectory transfer from rollout to training affects both learning quality and system efficiency in large language model reinforcement learning (RL). Enforcing batch-wide training requirements can delay the admission of completed trajectories, resulting in higher architectural staleness: the additional parameter-version gap from disaggregated pipelining relative to colocated execution. Beyond admission, misalignment between data access and training consumption causes redundant movement and unnecessary waiting when transferring large trajectory payloads. We present KnitTrans, a system that coordinates the rollout-to-training path through three designs. First, constraint-preserving mini-batch admission allows flexibility in early mini-batch com

방금 배운 내용을 잊지 마세요: 자기주도형 수리는 에이전트의 실수를 지속적인 학습으로 전환합니다

arXiv:2610.31846v1 발표 유형: 신규 초록: 지능형 에이전트는 자신의 실수로부터 학습하여, 경험을 통해 지속적인 개선으로 이어질 수 있어야 합니다. 그러나 오늘날의 에이전트들은 실수에서 벗어나더라도 그 효과가 일시적일 뿐입니다. 인컨텍스트 내 반성은 세션 간에 쉽게 잊히고 제한된 컨텍스트 자원과 경합하며, 전체 파라미터 미세조정은 비용이 많이 들고 기존 능력에 간섭할 수 있습니다. 우리는 일시적인 인컨텍스트 재시도와 정책 업데이트의 장점을 결합한, 에이전트가 실수로부터 학습하는 메커니즘인 ‘셀프 디렉션’을 제안합니다. 에이전트가 작업에 실패하면, 스스로의 행동 경로를 되돌아보며 교훈을 도출하고 이를 즉각적으로 경량화된 저랭크 어댑터로 축약합니다. 원래 가중치를 고정해 두면, 셀프 디렉션은 어댑터 학습이 과도하게 덮어쓰는 것을 방지합니다.

온라인 3D 박스 패킹을 위한 공간적 휴리스틱 전략 기반 확산 강화 학습

arXiv:2610.32241v1 발표 유형: 신규 초록: 전통적인 휴리스틱 방법들은 공간 활용도와 3D 배치 문제의 레이아웃 밀집도 등 핵심 목표에 대해 인위적으로 설계된 규칙 기반 논리를 바탕으로 오랜 경험을 축적해 왔습니다. 그러나 이들 방법은 일반화 능력과 동적 시나리오에 대한 적응력에서 명백한 한계를 보입니다. 강화학습의 공간 탐색 능력과 확산 학습의 데이터 분포 모델링 능력을 결합한 확산 강화학습은 행동 분포 모델링 및 의사결정 준수 제약 조건 측면에서 일정한 성과를 거두었습니다. 그럼에도 불구하고, 3D 배치 문제에서 공간의 위상 구조에 대한 인식 부족과 레이아웃 최적화 능력의 제한이라는 문제들이 여전히 남아 있습니다.

Distributional Alignment of LLMs and Its Generalization Properties

arXiv:2610.31687v1 Announce Type: new Abstract: Large language models are increasingly used to simulate and probe human behavior, e.g., for surveys. For these applications, a key property is that outputs satisfy distributional alignment: to match its output distribution with some reference (in this case, human) distribution. An obstacle in achieving distributional alignment is generalizing from small training data. In this work, we study (1) how to distributionally align LLMs; and (2) how aligned LLMs might generalize to unseen samples and unrelated topics and tasks. Using two large-scale benchmarks, we find that LLMs can indeed achieve distributional alignment and generalize to unseen questions of the same domain. Cross-topic generalization depends on the relationship between topics (e.g.

LazyFlash: 긴 컨텍스트 미세조정을 가속화하기 위한 전방 밀집형·후방 희소형 주의력

arXiv:2610.31911v1 발표 유형: 신규 초록: 대규모 언어 모델(LLM)이 점점 더 긴 시퀀스를 처리함에 따라, 주목 메커니즘은 주요한 계산 병목으로 부각되고 있다. 희소 주목 기법은 대부분 추론 단계에 초점을 맞추지만, 여전히 많은 방법들이 밀집형으로 학습되거나 희소 학습을 지원하지 못하며, 추가적인 복잡성으로 인해 희소성이 실제 실시간 성능 향상으로 이어지기 어려워져, 실제로는 밀집형 주목이 널리 사용되고 있다. 본 논문에서는 주목 학습이 후방 전달 단계에 의해 지배된다는 관찰에 기반하여 설계된, 전방은 밀집형, 후방은 희소형 주목 방식인 LazyFlash를 제안한다. LazyFlash는 전방 전달 단계를 완전히 밀집형으로 유지하므로, 학습된 모델은 vLLM과 같은 기존 시스템에서 아무런 변경 없이 서비스할 수 있는 표준 밀집형 모델로 남게 된다. 후방 전달 단계에서는 LazyFlash는 그라디언트-a

PPO 대 SAC: 이중 팔 우주 로봇의 협력적 동작 제어에 관한 비교 연구

arXiv:2610.32034v1 발표 유형: 신규 초록: 궤도 잔해의 증가하는 규모로 인해, 능동적 잔해 제거 및 궤도 내 서비스에 대한 관심이 더욱 높아지고 있으며, 이러한 분야에서 이중 팔 우주 조작기는 단일 팔 시스템에 비해 더 우수한 그립 안정성과 하중 분산 성능을 제공합니다. 그러나 두 개의 조작기를 서로 간의 충돌 회피, 자세 정렬, 그리고 센서 불확실성 등의 제약 하에 조율하는 일은 여전히 어려운 과제입니다. 본 논문에서는, 상호 간 충돌 회피 제약 조건이 있는 목표 도달 임무에서 이중 팔 우주 조작기의 협력적 동작 계획을 위한 협조적 강화학습 프레임워크를 개발합니다. 중앙 집중식 상태 표현은 관절 공간, 최종효과기 및 목표물 상대 정보를 통합하며, 다목적 보상 함수는 목표물에 대한…

세바스티안 라슈카가 8개의 비디오 강좌 ‘제로부터 추론 모델 구축하기’를 발표했습니다.

세바스티안 라슈카는 2026년 10월 24일, Ahead of AI 매거진(magazine.sebastianraschka.com)에서 총 8강으로 구성된 11시간이 넘는 파이썬 및 파이토치 실습 동영상 강좌를 공개했으며, 추론 모델의 평가, 추론 시 확장, 강화학습(RLVR)과 지식 증류를 체계적으로 다루고, 모든 방법을 사전 훈련된 Qwen3-0.6B 모델을 기반으로 구현했습니다.

추천 이유：이 강좌는 저자가 ‘0부터 구축하는 대규모 언어 모델’에 이어 선보이는 심화 기술 교육 콘텐츠로, 현재 주류 LLM의 핵심 발전 방향인 추론 능력 강화에 초점을 맞추고 있습니다. 기초 환경 구축부터 GRPO 강화학습, 자기 증류 등까지 포괄하는 완전한 기술 체인을 다루며, 모든 구현은 ‘0부터 수작업으로 작성’되어 재현 가능하다는 점을 명시하고 있어 높은 교육적 가치와 엔지니어링 참고 가치를 갖습니다.