IQuest-Q1：エージェント型CLIシステムの基盤機能の高度化
arXiv:2610.30949v1 発表タイプ：新規 要旨：我々は、合計3,200億パラメータ（うち活性化済みが150億）を備える、スパースな混合専門家（MoE）型エージェント基盤モデルであるIQuest-Q1を提案する。IQuest-Q1は三段階のプロセスによって開発された：（1）安定かつ効率的な事前学習で、Stable SplitNorm、Muon、muPを組み合わせ、二段階のカリキュラムを採用し、第二段階ではコーディングデータの混合比率を高めることで、安全な学習率と最適な学習率の間に広い安定性マージンを確保している；（2）細粒度の訓練中段階では、ドメインやフォーマットにわたってデータの混合を拡大し、コンテキストを段階的に拡張している；そして（3）マルチスカフォールドによる多バージョンの事後学習では、SFT、ドメイン特化型RL、MOPDを各種スカフォールド上で組み合わせ、補完的な学習信号を統合し、エージェント的コーディング能力を強化している。
