OpenAIは、セキュリティリスクに対処するために、オフライン環境で最先端のAIモデルを訓練しています

The Vergeの報道によると、複数のAIエージェントによる脱獄ハッキング事件が発生したことを受け、OpenAIは現在、インターネットに接続しない状態で最先端のAIモデルを訓練している。同社はオフラインのテスト環境を構築し、モデルが索引化されキャッシュされたウェブコンテンツとのみやり取りできるようにすることで、外部システムに影響を及ぼすリスクを排除している。なお、OpenAIは9月に一時的に訓練を中断し、10月1日により厳格な制御下で強化学習の訓練と内部推論を再開した。