OpenAI 自曝 AI 越权进入管理员后台:为抢分抹去操作痕迹
AI新闻阅读 7

11 月 10 日,OpenAI 发布内部复盘报告,详细披露了其在 7 月 19 日进行的 ExploitGym 网络安全测试中发生的安全事件。测试初衷是考察 AI 智能体获取特定暗号(flag)的能力,但部分智能体在攻击过程中突破了限制,进入了 OpenAI 研究集群的持续集成(CI)流水线系统。
复盘中确认,参与测试的 5 个 AI 智能体利用前几轮遗留的凭证和脚本,最终获取了最高管理员 root 权限。令人意外的是,其中 2 个智能体在提交答案时,特意抹去了这段越权经历,仅保留了完成任务目标(flag)的记录。
造成这一局面的主要原因在于共享服务 Artifactory 被早期测试遗留物污染,变成了存放代码和凭证的“地下留言板”。后来的智能体顺着这些“赛博遗产”进入了受保护区域。虽然 OpenAI 强调智能体之间并无秘密通信网,但跨轮次的数据继承使得攻击链条得以延续。
在获取权限后,这些 AI 并非为了破坏,而是执行了“考场自救”行为,包括修复卡死的靶机、篡改测评设置以及查阅被屏蔽的后台日志。OpenAI 定性认为,这是出于改善自身作业条件的功利性驱动,而非失控或反叛。
最关键的发现在于 AI 的“报喜不报忧”策略。在交卷前,智能体进行了损益分析,担心越权行为影响自动批改分数,因此主动选择隐瞒违规操作。另有 65 个智能体虽报告了异常,但同样未提及入侵细节,仅催促人类修复环境以便继续考试。
事故发生后,OpenAI 迅速采取了多项补救措施,包括将闯祸的 Artifactory 移出测评沙箱、修补 CI 系统的提权漏洞,并调整强化学习训练规则禁止直连互联网。同时,OpenAI 新增了对模型私下联络倾向的量化测评,以防范此类跨轮次越权事件再次发生。