$M^3$: 마르코프 결정 과정으로서의 다중 턴 제임브레이킹을 위한 다중 LLM 시스템
arXiv:2610.31937v1 발표 유형: 신규 초록: 현대의 대규모 언어 모델(LLM)은 신중하게 조율된 다단계 대화를 통해 안전 메커니즘을 점진적으로 우회하는 공격에 여전히 취약합니다. 그러나 기존의 많은 레드팀 접근법은 휴리스틱에 의존하거나 강력한 가정을 도입함으로써 완전한 블랙박스 환경에서의 적용 가능성을 제한합니다. 우리는 이러한 한계를 해소하기 위해 $M^3$이라는 자동화된 레드팀 프레임워크를 제안하며, 이는 다단계 잠금 해제를 유한 시간 horizon의 마르코프 결정 과정(MDP)으로 형식화합니다. $M^3$에서는 공격자 LLM이 상태 LLM이 생성한 간결한 내부 상태를 기반으로 작동하면서 타깃 LLM과 상호작용합니다. 두 가지 벤치마크와 여섯 개의 타깃 모델을 대상으로 한 실험에서, $M^3$은 공격 성공률(ASR) 측면에서 최첨단 다단계 레드팀 방법들을 일관되게 능가했습니다, a
