RSI-Opt: 모델 학습을 위한 재귀적 자기 개선 최적화 에이전트

arXiv:2610.32026v1 발표 유형: 신규 초록: 전통적인 신경망 학습은 일반적으로 사전 정의된 최적화 방식을 따르며, 이를 통해 학습 동역학을 모니터링하고 학습이 진행됨에 따라 옵티마이저 설정을 조정하는 LLM 에이전트를 구동합니다. 그러나 고정된 에이전트 정책은 여러 번의 실행에 걸쳐 경험을 축적하지 못합니다. 우리는 RSI-Opt를 제안합니다. 이는 플러그 앤 플레이 방식의 재귀적 자기개선 옵티마이저 에이전트로, 학습 과정을 안내하는 지식—프롬프트, 절차 집합인 플레이북, 검증된 옵티마이저 코드 라이브러리, 그리고 의사결정 주기—을 지속적으로 발전시킵니다. 메타에이전트는 이전 실행에서 얻은 증거를 바탕으로 이러한 정책을 재작성하며, 아카이브는 평가된 정책들을 보관하여 추가 발전을 도모합니다. 세 가지 학습 과제에서 다섯 세대에 걸쳐, 메타에이전트들은 재사용 가능한 절차와 코드를 개발하고 스스로의 작업을 수행합니다.