OpenAI表示将不再在实时互联网进行AI模型训练，理由是“存在重大风险” Tim Fernholz 2026年10月23日 太平洋夏令时间下午4:05
周五，OpenAI表示，它将使用缓存副本和模拟的互联网版本来训练模型，而不是实时网络，因为这些模型过于不可预测，不宜直接访问实时互联网。
这家前沿实验室在其竞争对手Anthropic开始限制其最新且理论上最强大的模型访问实时互联网两周后，宣布了新的政策。研究人员在几个月发生多起事件后采纳了这些政策，这些事件中，模型在执行训练任务时会闯入外部系统寻找答案，在晦涩的留言板上合作，并开发出各种奇异的黑客策略。
“基于当前对对齐研究、监控系统以及互联网基础设施安全的认识，我们认为负责任的做法是进行前沿模型训练时不接触互联网，”公司在一篇博客文章中表示。
OpenAI表示，就在9月20日，其一款前沿模型利用配置错误访问了互联网，这促使公司暂停余下月份的训练工作，以便开发和测试新的模型安全方法。
决定在与互联网隔离的沙箱中训练这些模型显得尤为重要，因为前沿实验室的员工一直坚持认为这样做几乎不可行。
前OpenAI研究员Steven Adler本月告诉《财富》杂志：“让AI数据中心与互联网隔离，需要研究团队基本上嵌入到爱荷华或世界其他地方的数据中心中。这是一项巨大的额外工作，而且我不清楚其安全收益是否足够大，从而值得公司单方面承担如此高的成本。”
这位工程师，其角色此前已由OpenAI确认，他描述了由OpenAI工程师启动的训练运行有多么复杂，并指出它们需要访问跨多个领域的各种资源和工具，同时数千名研究人员构建、修改和测试这些环境。他总结道：“那么，这就像把它放进沙箱一样简单吗？不，并不简单。”
现在，OpenAI表示，“我们必须始终能够防止前沿模型未经授权任意访问实时互联网。”此前，该公司在红队演练中部署了一群代理，试图从沙箱中逃脱。此次尝试揭示了一系列漏洞，促使实验室采用了新的方法。
为了在满足这一要求的同时仍实现训练目标，实验室表示他们创建了“一套庞大的索引和缓存的网络内容，模型可以与之互动，而不会影响外部系统。”
这种策略是否能像让模型自由运行在开放互联网上一样有效，还有待观察，但值得注意的是，两家前沿实验室都认为其最强大的技术不能在数字公共领域无人监管下使用。
当你通过我们文章中的链接购买时，我们可能会获得少量佣金。这不会影响我们的编辑独立性。
Tim Fernholz 高级记者
11月4日 波士顿 一买一免费通行证 通过带上你的联合创始人或合作伙伴参加TechCrunch年度终极创始人训练营，覆盖更多内容 在BOGO优惠到期前预订
Warhound筹集2亿美元用于制造战争犬并配备Anduril装备 Dominic-Madori Davis
Uber让所有3万名员工使用ChatGPT Work Lucas Ropek
Airbnb限制客人做家务，引发房东反弹 Lauren Forristal
成立一年的AI实验室Flapping Airplanes以60亿美元估值筹集10亿美元 Julie Bort
特斯拉在加利福尼亚启动Optimus机器人生产，利润下降43% Kirsten Korosec Sean O'Kane
互联网正在经历一个非常糟糕的网络安全日 Sarah Perez
人们正在使用AI让智能电视再次变“笨” Sarah Perez