前OpenAI安全员工公开发声

人工智能模型能力不断提升的同时，AI安全问题也越来越受到行业内部人士关注。

近日，曾在OpenAI工作三年半的David Robinson宣布离职，并在《大西洋》杂志发表文章，公开谈及自己离开公司的原因。他认为，包括OpenAI在内的AI企业目前仍然缺乏足够谨慎的安全意识，而随着模型能力不断增强，过去依赖快速试错的开发方式可能带来更严重的后果。

Robinson曾参与制定OpenAI现行的Preparedness Framework，并负责监督12次前沿模型发布所对应的安全报告。因此，他此次公开表达的观点，也被外界视为AI企业内部关于发展速度与安全边界争论的又一次集中体现。

他为何质疑“迭代部署”

Robinson将矛头指向OpenAI长期采用的“迭代部署”思路。

这种模式的基本逻辑是先让模型进入真实环境，在实际使用过程中发现问题，再针对暴露出来的风险不断加强安全措施。

这种方式在软件行业十分常见，也能够帮助开发团队快速获得真实世界反馈。

但Robinson认为，当AI系统越来越强大之后，这种“发现问题再修补”的方式可能变得越来越危险。

在他看来，普通软件出现问题之后可以更新补丁，但如果高度自主的AI系统出现严重失控，其后果可能并不会给人类留下第二次修正的机会。

因此，他提出，AI行业已经到了不能单纯依靠“试错”的阶段。

AI越强大，安全试错空间越小

Robinson最担心的，是AI能力增长速度可能已经超过安全研究的发展速度。

他指出，当前人工智能领域正在快速推动模型向更强的推理能力、自主执行能力和智能代理方向发展，但研究人员对于如何确保这些系统始终按照人类目标行动，仍然存在大量未知。

这实际上涉及人工智能领域的重要研究方向——“对齐”。

所谓AI对齐，核心问题是如何让人工智能系统的行为符合人类设定的目标、规则和价值要求。

问题在于，模型能力越强，对齐问题的重要性就越高。

如果一个能力有限的系统出现错误，其影响可能相对容易控制；但如果一个高度自主的AI系统能够长期运行、调用工具、访问网络甚至自主执行复杂任务，那么同样的安全漏洞可能产生完全不同的后果。

Robinson因此认为，AI能力继续大幅提升之前，必须同步推进更加可靠的安全研究。

他希望AI企业借鉴核电和航空业

在Robinson看来，AI行业需要改变的不只是某一条安全规则，而是整个安全文化。

他认为，前沿AI实验室应该更多吸收核电、航空等高风险行业的安全经验。

这些行业的共同特点是，不能把安全建立在“出了问题之后再处理”的基础上，而是需要通过冗余设计、严格测试、风险评估以及多重保护机制，尽可能让单个错误不会演变成灾难。

Robinson认为，前沿AI系统同样需要这样的思路。

尤其是在AI代理逐渐拥有自主行动能力之后，单纯依赖工程师在事后发现问题、关闭系统或者修复漏洞，可能已经不足以应对潜在风险。

OpenAI回应：必要时会暂停训练和发布

面对Robinson的批评，OpenAI并没有认同其对公司安全文化的判断。

OpenAI发言人表示，公司一直在确保模型的能力不会超过自身能够安全管理和保障的范围。如果确有必要，OpenAI会暂停训练，或者暂缓模型对外发布。

公司同时表示，正在进一步强化研究和测试环境的安全措施，加强模型行为监测，并扩大第三方评估等安全工作。

这意味着双方的分歧并不完全在于“AI是否需要安全”，而更多集中在一个更加现实的问题上：

究竟应该以多大的速度推进AI能力提升？

AI行业的“速度”与“安全”之争

Robinson的离职并非孤立事件。

近年来，AI行业内部已经出现越来越多关于发展速度、安全边界以及模型自主性的讨论。OpenAI和其他AI企业都面临类似压力：一方面，模型能力需要持续提升才能保持竞争力；另一方面，模型越强大，潜在风险的规模也可能同步扩大。

这形成了一个难以回避的矛盾。

如果企业发展过慢，可能在激烈的技术竞争中失去优势；如果发展过快，则可能出现测试不充分、安全机制跟不上模型能力增长的问题。

尤其是当AI从聊天机器人逐渐向能够自主完成任务的智能代理发展之后，传统的软件安全思路也面临新的挑战。

真正的考验是能否建立更成熟的安全体系

Robinson的观点未必意味着AI行业必须停止发展。

更现实的问题是，AI能力快速增长之后，安全体系是否也能同步升级。

如果模型能力已经可以独立完成越来越复杂的任务，那么安全测试、权限管理、实时监控、异常行为识别以及人工干预机制，就不能再只是产品发布之后的补丁，而应该成为模型研发过程中的基础设施。

这场争论最终指向的，也许并不是“AI应该发展还是停止发展”，而是一个更加关键的问题：

当人工智能变得越来越强大时，人类究竟能否建立与其能力相匹配的安全边界？

对于OpenAI以及整个AI行业而言，这或许比单纯追求下一代模型的参数规模和能力提升更加重要。