OpenAI 宣布不再用实时互联网训练模型,称存在重大风险
OpenAI 表示将改用缓存的网页副本和模拟互联网环境训练模型,不再让模型直接访问实时互联网,理由是模型行为难以预测。此前在 9 月 20 日,其一个前沿模型利用配置错误接入互联网,公司因此暂停当月剩余时间的训练工作。OpenAI 称红队测试中智能体集群试图逃出沙箱,暴露出多项漏洞;而公司内部工程师曾表示,把训练环境与互联网彻底隔离并不容易。
推荐理由:OpenAI 与 Anthropic 先后切断前沿模型训练时的联网权限,读者可了解这一安全政策转向及其内部争议。