$M^3$：マルコフ決定過程としての多ターン型ジャイルブレイクング向けマルチLLMシステム
arXiv:2610.31937v1 発表タイプ：新規 要旨：現代の大型言語モデル（LLM）は、慎重に仕組まれた複数ターンにわたる対話によって、安全メカニズムを段階的に回避する攻撃に対して依然として脆弱である。しかし、既存の多くのレッドチーム手法は、ヒューリスティックに依存したり、強固な仮定を課すことで、完全なブラックボックス環境における適用性が制限されている。我々はこのギャップに対処するため、複数ターンによるジャイルブレイクを有限時間視野のマルコフ決定過程（MDP）として形式化した自動化されたレッドチームフレームワーク「$M^3$」を提案する。$M^3$では、攻撃者であるLLMが、状態LLMによって生成されるコンパクトな内部状態の上で動作しながら、対象となるLLMと対話を行う。二つのベンチマークおよび六つの対象モデルにおいて、$M^3$は攻撃成功率（ASR）という指標で、最先端の複数ターン型レッドチーム手法を一貫して上回る性能を示している。
