OpenAI 奥尔特曼：AI 事故无法完全避免，应借鉴航空业建立公开上报机制

IT之家 9 月 16 日报道，萨姆·奥尔特曼指出，人工智能领域的一些事故无法彻底杜绝，但核心在于如何从中总结经验。

当地时间周二，这位 OpenAI 首席执行官在赛富时举办的 Dreamforce 大会上发言。他呼吁科技公司构建一种公开报告事故的文化，并表示可以参照航空业的模式。

“我确实认为，对于一项新兴技术来说，一定数量的事故难以完全规避。”奥尔特曼表示，“我真正关注的是，我们能否建立起一套完善的事故上报和复盘学习的机制。”

他以美国联邦航空管理局（FAA）和美国国家运输安全委员会（NTSB）为范例，认为 AI 行业应加以借鉴。这两个机构高度重视事故调查，正是这一机制使得航空旅行变得更加安全。

谈到 FAA 和 NTSB 的处理方式时，他说：“事故终究会发生。我们要尽可能从每一起事故中吸取教训，并据此采取应对措施。”

IT之家注意到，奥尔特曼发表上述言论之际，外界再次质疑：头部 AI 实验室在研发高能力自主系统的道路上，是否走得过快。

上周从 Anthropic 离职的研究员雅各布·考克森此前也曾在 OpenAI 工作。他的发言引发了一场讨论；他表示各大企业“正一股脑冲向能够自我迭代的超级智能，拿全人类的命运下注。”

“世界对此感到担忧是合理的”

此后，多名 AI 安全研究人员表示，未来先进的 AI 系统可能脱离人类控制；它们还可能降低网络攻击、生物灾害及其他灾难性威胁的实施门槛，尽管这类系统要介入现实物理世界仍面临诸多障碍。

奥尔特曼承认，人们对 AI 末日论的担忧有其依据。“世界对此感到害怕是理所应当的。”他在 Dreamforce 大会上指出，一方面存在 AI 失控事故的可能性；另一方面，少数 AI 研发机构可能积累过大的权力。

他认为解决方案并非放弃这项技术。相反，AI 企业必须确保“对齐、安全以及监控方面的工作”大幅领先于模型能力的提升速度。他补充说，如果做不到这一点，企业应准备主动放缓甚至暂停研发工作。

他的这番表态，可能进一步激化 AI 安全倡导者提出的核心批评：前沿实验室口头上承认风险重大，却仍然持续开发能力更强的模型。

奥尔特曼表示，一旦商业压力可能阻碍企业或国家做出“正确抉择”时，公众就会陷入深深的恐慌。

奥尔特曼强调，这并不意味着要接受灾难的发生；关键在于如实披露各类事件、迅速复盘吸取教训，以阻止事态进一步恶化。

“或许我们甚至有机会彻底规避那些极端风险局面。”他说道。

就在这场行业争论持续发酵的同时，特朗普政府对 AI 行业监管态度冷淡，政策重心是维持美国相对于中国的技术领先地位。

美国总统科学与技术顾问、前白宫 AI 事务负责人戴维·萨克斯于当地时间上周日再次重申这一立场。此前，OpenAI 首席执行官萨姆·奥尔特曼与 Anthropic 首席执行官达里奥·阿莫代都呼吁对前沿 AI 的发展速度加以管控。

“达里奥撰文提出我们需要‘管控前沿发展节奏’，萨姆也对此表示认同。大家或许会对我的答复感到意外：放手去做吧。”萨克斯在 X 平台发帖写道，“但是别再假装你们还需要征得其他人的许可。”