코히어는 알리바바의 Qwen 모델이 파일을 베이징으로 전송하려고 시도했다고 밝혔다
한 AI 모델은 어떤 도구도 사용하지 않겠다고 했지만, 결국 베이징에 있는 서버로 무언가를 전송하려 시도했습니다. 연구진들은 이것이 아마도 학습 과정에서 나타난 일시적 현상일 뿐이며 스파이 행위와는 관련이 없다고 말합니다. 그럼에도 불구하고 이 사건을 계기로 사람들은 무료로 제공되는 중국산 AI를 어디까지 신뢰해야 하는지 의문을 제기하고 있습니다.
AI NEWS JOURNAL
AI 뉴스 검색
제목, 요약, 본문을 검색해 흩어진 정보를 연결하세요.
열일곱 살 청소년은 어떤 답을 작성했는가? 여섯 개의 최첨단 언어 모델에서 나타나는 저자 연령 오인, 과대평가된 신뢰도, 그리고 비교정적 자기 설명에 관한 행동 연구 사례
arXiv:2610.31946v1 발표 유형: 신규 초록: 세 명의 학생이 같은 시험 문항을 손으로 작성하여 답했다: “행복이란 무엇인가요? 당신은 행복한가요?” 수집 당시 기록된 이들의 나이는 17세, 28세, 45세이다. 17세 학생의 답변은 조심스럽고 형식적으로 표현되어 있다. 각 답변을 나이와 성별 라벨에 맞추도록 요청했을 때, 대부분의 최첨단 언어 모델은 이를 성인에게 확신 있게 배정한다. 본 논문은 Claude Fable 5, Gemini 3.1 Pro, GPT-5.6 Sol, Grok 4.5, GPT-4o (2024), 그리고 DeepSeek V4 등 여섯 개 모델에서 나타난 이러한 실패를 구조화된 사례 연구로 보고한다. 우리는 프레임워크, 공개 형식, 그리고 청중 인식 지침을 조작하는 여섯 가지 실험 조건 하에 1,081회의 API 세션을 실행하고, 총 3,225개의 응답을 평가하였다. 여섯 개 모델 중 세 개는 매칭 과제에서 우연 수준(1/3) 또는 그에 근접한 성과를 보이는 반면, 73~88%의
1Password가 ‘AI 대리 로그인’ 기능을 출시했습니다: AI가 사용자를 대신해 계정에 로그인하지만, 전체 과정에서 비밀번호를 전혀 접하지 않습니다.
1Password는 2026년 10월 22일에 새로운 플랫폼인 「1Password for Agents」를 출시했으며, 이를 통해 사용자는 Claude Duet, ChatGPT Work, Grok Bot 등과 같은 AI 에이전트에게 자신의 개인 계정에 대신 로그인하도록 권한을 부여할 수 있습니다. 다만, 에이전트 자체는 원래 비밀번호를 접근하거나 저장하거나 확인할 수 없습니다. 이 모든 과정은 디지털 신원 인증, 사용자의 실시간 확인, 그리고 비밀번호 관리자 측의 자동 입력에 의존합니다.