奥尔特曼:OpenAI 可能会放慢其 AI 研发节奏

CagCag 小编 · AI 资讯 ·

OpenAI 正在讨论是否放慢前沿人工智能的研发节奏。据彭博援引知情人士报道,首席执行官萨姆·奥尔特曼在本周的全员会议上告诉员工,公司可能为 AI 开发设定更克制的速度,并考虑与数家同行实验室协调。他同时承认,其他参与者未必都会接受这种安排。

这仍是一项内部讨论,不是 OpenAI 已公布的研发计划。现有报道依赖未具名消息人士,OpenAI 也没有宣布暂停模型训练、取消新产品或确定一份跨公司时间表。把“可能调整节奏”解读为“OpenAI 已经停止研发”,会超出目前可确认的信息。

前沿 AI 训练通过安全评估门槛后向多个研发节点分流

放慢节奏不等于停止 AI 研发

前沿 AI 研发不是一条从训练到发布的单线流程。模型规模、后训练、能力评估、安全测试和产品部署可以有不同的速度。所谓“放慢”,可能指向延后更大规模的训练,也可能是在高风险能力达到某个阈值后,为评估、监控和防护留出更多时间。奥尔特曼在内部会议上具体指的是哪一层,现有公开信息尚未给出答案。

这一区分很重要。如果公司继续改进现有产品和安全系统,却将更高风险的能力扩展推迟到验证完成之后,这属于研发顺序的重排,不是一般意义上的技术冻结。是否真正降速,要看后续的训练计划、能力门槛、发布节点和外部透明度,不能只从一次会议表态判断。

OpenAI 的安全讨论已从技术方法进入研发节奏

奥尔特曼的内部表态与 OpenAI 首席科学家 Jakub Pachocki 近期的公开立场形成了明显呼应。Pachocki 在 9 月 6 日发表的文章中表示,现阶段没有任何一家实验室已经把对齐与监控问题解决到足以长期按最高速度扩展模型的程度。他期望,在行业建立共同安全门槛前,自愿放慢速度能成为一种可用选项。

这个判断背后是研发流程正在被 AI 自身加速。OpenAI 同日公开的内部研究观察显示,编码智能体已深度进入研究活动,从编写代码向运行实验、检查结果和支持研究项目扩展。当模型开始加快下一代模型的开发,能力增长与安全研究之间的时间差会变得更敏感。

因此,问题已经不只是“安全团队能否找到更好的方法”,还包括“在哪个节点继续扩展才算证据充分”。一旦监控能力、红队测试或防护工具跟不上模型能力,放慢某个高风险阶段就会成为工程管理选项,而不只是伦理宣言。

联合放慢比一家公司单独决定更难

奥尔特曼希望其他 AI 公司同步采取行动,这暴露了前沿模型竞争中的集体行动难题。某家实验室单方面降低速度,可以为自己争取更多测试时间,但也可能在模型能力、用户、收入和人才方面向未参与者让出窗口。只要各家对风险的判断、技术路线和商业压力不同,口头共识就很难自动变成一致行动。

更现实的起点可能是先定义“在什么条件下减速”,而不是要求企业保持相同的研发日历。可以观察的条件包括:模型在网络安全、自主研发或其他高风险领域达到何种能力;安全评估是否足以覆盖新行为;发现严重问题后是否有可验证的停止条件。如果连触发标准都不一致,“联合放慢”就无法核验。

协调还需要解决信息不对称。前沿实验室不会公开所有训练数据、评估结果和未发布能力,外部也很难判断某家公司是真正改变了训练计划,还是只延后了产品发布。要把意愿变成制度,至少需要共同门槛、基本披露规则、事故报告和能够复核的评估方法。

为什么现在出现“节奏”这个议题

近年来的 AI 安全讨论常围绕模型应该拒绝什么请求、如何进行发布前评估、怎样防止滥用展开。当 AI 能够操作计算机、执行长链条任务,并参与 AI 研究本身,风险管理开始前移到“是否进行下一次能力扩展”。这使研发节奏从企业内部管理问题,变成了安全治理的一部分。

对 OpenAI 而言,继续训练更强模型也有一个重要的安全理由:更强的系统可能帮助防御其他 AI 带来的网络安全和滥用风险。决策需要同时比较两类风险:模型能力走得太快,以及防御能力因放慢而落后。

真正需要观察的是可执行的安全门槛

内部会议上的一次表态,可以显示 OpenAI 管理层正在把放慢速度纳入选项,却不能单独证明公司已经转向。后续更关键的信号是,OpenAI 是否公开哪些能力会触发额外评估,哪些评估结果会导致延后训练或部署,以及发现问题后由谁决定继续。

如果其他实验室加入,协调机制还要回答三个实际问题:各家是否使用可比的能力测试,如何处理拒绝参与的公司,以及政府是否会将自愿规则转化为更稳定的制度。只有当减速条件可观察、可核验、可复盘,“放慢研发”才会从一句审慎表态变成真正的安全约束。

常见问题

FAQ
OpenAI 已经决定停止前沿 AI 研发了吗? +

没有。现有消息指向奥尔特曼在内部会议上讨论可能放慢节奏,OpenAI 尚未公布暂停研发或确定的减速计划。

奥尔特曼为什么希望其他 AI 公司同步放慢? +

前沿模型存在强烈竞争。单家实验室降速可以增加安全测试时间,也可能让未参与者获得竞争窗口,因此他提到了跨实验室协调。

OpenAI 内部是否已有关于放慢 AI 的公开表态? +

OpenAI 首席科学家 Jakub Pachocki 已公开主张,在共同安全门槛建立前,行业应允许必要的自愿减速,同时继续推进对齐、监控和防御能力。

怎样判断 OpenAI 是否真正放慢了研发节奏? +

可观察其是否公开高风险能力的触发门槛、额外评估条件、训练或部署的停止标准,以及外部能否复核这些决定。

找到适合你的 AI 工具

CAGCAG 持续收录值得关注的 AI 产品。

浏览全部分类