OpenAI 前安全部门员工：AI 模型迭代部署太激进，公司的文化已经崩坏

一名前 OpenAI 安全部门员工近日公开批评该公司在人工智能安全方面的做法，认为其激进的模型迭代部署模式和高压企业文化显著增加了系统故障风险。

戴维·鲁宾森（David Robinson）在《大西洋》杂志发表的文章中指出，包括 OpenAI 在内的多家人工智能企业对安全研究投入不足，应在研发更强大系统前优先保障安全防护机制。

鲁宾森批评 OpenAI 采用的‘迭代部署’模式，即先发布系统再逐步加固安全措施。他强调，这种试错方式已不再适用于当前高度复杂的AI系统，应参照核电与航空等高风险行业的安全标准。

这位任职三年半的前员工曾参与起草 OpenAI 风险应对框架，并监督12次前沿模型发布对应的安全报告。他表示，公司为追求版本更新速度，忽视了应有的审慎标准。

OpenAI 发言人回应称，公司始终在控制模型能力，必要时会暂停训练或暂缓发布。鲁宾森则警告称，AI能力发展速度已超越研究人员对对齐问题的理解水平。

该争议反映了人工智能行业在快速发展过程中面临的安全挑战，此前已有多起安全管控失效事件，引发包括 Anthropic 在内的竞争对手被外界审视。