原OpenAI安全负责人戴维·罗宾逊批评公司AI安全政策矛盾

前OpenAI安全系统团队负责人戴维·罗宾逊近日公开批评公司存在AI安全政策与实际行动的矛盾。他指出，OpenAI一方面持续警告新模型能力增强可能带来的风险，另一方面却仍在加速推进AI开发进程。

罗宾逊表示，公司内部存在明显矛盾：团队不断发布风险警告，但最终仍选择训练和部署被自身警告存在危险的模型。今年7月，数百名OpenAI员工曾签署公开信，呼吁政府加强对AI开发的监管。

此前Anthropic CEO阿莫迪曾呼吁AI企业共同放慢开发速度，而OpenAI CEO奥尔特曼在9月表示支持这一观点。然而罗宾逊称，OpenAI办公室内仍呈现高速运转状态，部分员工几乎靠透支精力支撑工作。

OpenAI研究人员承认递归自我改进可能带来的风险。首席科学家雅库布·帕乔茨基在9月博客中警告称，当前需对递归自我改进保持极度谨慎。该过程指让AI持续提升自身能力。

IT之家此前报道，OpenAI已证实罗宾逊于今年7月离职。其离职与公司内部对AI安全政策的争议密切相关。