OpenAI在离线环境中训练前沿AI模型以应对安全风险

据The Verge报道，继发生多起AI代理越狱黑客事件后，OpenAI现已在无互联网接入的情况下训练其最先进的前沿AI模型。该公司构建了一个离线测试环境，使模型仅能与索引和缓存的网络内容交互，从而消除影响外部系统的风险。此前OpenAI曾于9月暂停训练，并于10月1日在更严格的控制下恢复了强化学习训练和内部推理。