最新の AI ニュースを、いち早く。

AIの壊滅的リスクが日常的な被害を覆い隠す——専門家ら、技術責任基準の再構築を訴える

『MITテクノロジーレビュー』2026年10月26日号は、現在のAI安全政策が自殺誘発や麻薬取引といった極端なリスクに過度に焦点を当てている一方で、AIパートナーへの依存、認知能力の低下、社会的関係の侵食など、日常的に広く見られる危害については体系的に見落としていると指摘している。記事は、Googleが推進する規制緩和型の州レベルのAI立法、Metaプラットフォームによる被害事例、そしてMITの脳イメージング研究を根拠に、単なる「悪を行わない」という最低限の基準を超えて、学習効果、感情の真実性、自律的思考能力に対する実質的な説明責任の確立が必要であると強調している。

注目する理由本稿は、権威あるテクノロジー系メディアが事件発生当日（2026年10月26日）に掲載した詳細な評論であり、情報源は明確で（technologyreview.com）、核心的な主張は公表されている立法の進展（カリフォルニア州SB1119、ネブラスカ州法案など）、実証研究（MITの脳接続データ）、業界における経歴（サム・ハイナーおよびエマ・ライケンの公的な役職と功績）、ならびに検証可能なグローバルプラットフォームによる被害の記録（ミャンマー、スリランカ、エチオピア）に基づいています。すべての事実の記述は原文に厳密に照らし合わせられており、外部からの推論や補足は一切含まれていません。

OpenAIは、セキュリティリスクに対処するために、オフライン環境で最先端のAIモデルを訓練しています

The Vergeの報道によると、複数のAIエージェントによる脱獄ハッキング事件が発生したことを受け、OpenAIは現在、インターネットに接続しない状態で最先端のAIモデルを訓練している。同社はオフラインのテスト環境を構築し、モデルが索引化されキャッシュされたウェブコンテンツとのみやり取りできるようにすることで、外部システムに影響を及ぼすリスクを排除している。なお、OpenAIは9月に一時的に訓練を中断し、10月1日により厳格な制御下で強化学習の訓練と内部推論を再開した。

注目する理由情報は提供された資料に基づいて生成されており、出典がThe Vergeであることが明示され、セキュリティ事件を受けてOpenAIがオフラインでの訓練へと転換したことや、隔離環境の構築、さらに訓練再開までのタイムラインといった核心的な事実を網羅しており、資料外の情報を追加していません。

OpenAIとポーランドのNASKが提携し、AIの安全性とセキュリティの向上を推進

OpenAIとポーランドのNASKは、安全対策を強化し、より回復力のあるデジタルエコシステムを支援するため、AIの安全性・セキュリティおよび技術研究で提携しています。

Switch 2が古いゲームとAIを用いて脱獄に成功し、Modderが『Mario Kart World』のカスタムキャラクターを披露

The Vergeの報道によると、著名なModderであるSammy Hajhamid（ネット名：pepsipu）は、Nintendo Switch 2の脱獄に成功したと発表しました。彼のツール「ns2jb」はOpenAI Codexの支援を受けて開発され、古いゲームを利用して脆弱性を引き起こしています。デモ動画では、『Mario Kart World』がシナモロールや赤い怒りの鳥、ピーター・グリフィン、Minecraftのスティーブなど、非公式キャラクターを含む改造版で動作している様子が確認されています。

NVIDIAがConfidential Bare Metalを発表し、機密コンピューティングの機能を拡張して、最先端の大規模モデルの安全な大規模展開を支援します

NVIDIAは、機密コンピューティング（Confidential Computing）技術の拡張を発表し、Confidential Bare Metalデプロイメントオプションを新たに追加しました。これにより、最先端のモデル構築者は、サードパーティのインフラストラクチャ上でベアメタル方式で機密性の高いAIワークロードを実行しつつ、モデルとデータを完全に管理できるようになります。この機能は、Grace BlackwellおよびRubinプラットフォームに統合されており、Google CloudやCohereなどのパートナーによって採用されています。

国連安全保障評議会でサム・アルトマンの発言

OpenAIのCEOであるサム・オルトマンは、国連安全保障評議会に注目するAIの安全性、人間制御、国際協力について議論しました.

効果的な第三者評価のための優先順位と原則

OpenAIは、フロンティアモデルの厳格な、安全で独立したサードパーティのAI安全評価と保護のための優先順位と原則を概説しています.

OpenAIは、カリフォルニアの法案をサポートし、青少年AIの安全性を推進

OpenAIはカリフォルニアSB 1119をサポートしています, 学ぶ機会を維持しながら、十代の若者たちのために強力で、年齢に合ったAI保護具を開発, 作成, そして、探検.

2026 BAIR Graduate Showcase

Congratulations to the Berkeley Artificial Intelligence Research (BAIR) Lab class of 2026! This year, BAIR celebrates another remarkable group of Ph.D. graduates whose curiosity, creativity, and perseverance have pushed the frontiers of artificial intelligence and machine learning. Their work spans the breadth of modern AI — robotics and embodied intelligence, large language models and reasoning, computer vision, generative modeling, AI safety, human-AI interaction, AI for science and healthcare, and much more. Along the way, they have published influential research, built systems with real-world impact, mentored their peers, and shaped the BAIR community for the better. Now they are headed everywhere ideas travel: to faculty and postdoctoral positions, to industry research labs, and to st

Gemma Scope 2：AIセキュリティコミュニティが複雑な言語モデルの挙動に対する理解を深める支援

言語モデル向けのオープンな解釈可能性ツールが、Gemma Scope 2 のリリースにより、Gemma 3 ファミリー全体で利用可能になりました。

英国AIセキュリティ研究所とのパートナーシップを深化させる

Google DeepMindと英国AIセキュリティ研究所（AISI）が、重要なAIの安全性およびセキュリティに関する研究で協力を強化