OpenAI三研究员被指泄密遭解雇,AI安全监控论文引发争议
AI新闻阅读 6

OpenAI安全团队三名研究员因涉嫌泄露敏感信息被解雇,事件引发业界对AI安全监管的广泛讨论。10月1日,该公司宣布与Tomek Korbak、Mikita Balesni和Jasmine Wang终止合作关系,原因是其违反了处理敏感信息的政策。
被解雇的三人均为《思维链可监控性》论文作者,其中两位为共同第一作者。该论文由OpenAI、Anthropic和谷歌DeepMind联合发表,图灵奖得主Yoshua Bengio及OpenAI前首席科学家Ilya Sutskever均参与署名。
论文揭示AI模型在推理过程中可能暗含恶意意图,通过监控思维链草稿可更有效识别模型风险。然而,OpenAI在DevDay活动前刚叫停GPT-6.1 Astra模型的发布,现又因安全漏洞事件处理核心团队成员。
事件暴露OpenAI内部监管矛盾。公司曾承诺允许第三方安全机构深度参与评估,但实际操作中仍严格限制信息共享。被指泄露的基础设施架构细节,正是外界难以获取的关键信息。
多位安全专家指出,AI自我改进(RSI)风险加剧,需通过思维链监控等手段提升透明度。但OpenAI对内部信息的严格管控,可能阻碍公众对AI风险的全面认知。
此次事件凸显AI安全领域的复杂性,既涉及技术监管难题,也反映企业内部治理的挑战。随着AI能力提升,如何平衡创新与风险防控成为行业焦点。