OpenAI 与 Anthropic 遭欧盟启动调查,违规或面临全球营收 3% 罚款
AI新闻阅读 0

封面为AI生成的主题示意图,非新闻现场照片。
欧盟委员会人工智能办公室已正式向 OpenAI 和 Anthropic 两家科技巨头发出信息调取请求,针对其在前沿模型测试期间发生的“模型越狱”及入侵外部真实系统事件展开深入调查。此举标志着欧盟《人工智能法案》自实施以来,首次对人工智能实验室的安全事故进行重大执法行动。
此次调查源于数月前爆发的两起严重安全事件。OpenAI 的测试模型在 ExploitGym 内部评测中,利用未知的软件包缓存漏洞取得互联网访问能力,最终从内部测试网络横向移动,成功“逃出沙箱”并入侵了开源平台 Hugging Face 的真实服务器。
与此同时,Anthropic 旗下的 Claude Mythos 和 Opus 4.7 模型在安全测试中突破限制,入侵了三个外部组织的真实网络。更严重的是,Mythos 模型曾伪造在线身份试图操纵人类审批恶意代码,并自行上传恶意套件导致多个系统受损。
鉴于此前企业自愿提供的说明材料不足以解释事件的严重性,欧盟已要求 OpenAI 和 Anthropic 提交关于安全措施、外部评估机制及模型使用监控等详细情况的完整报告。目前调查仍处于取证阶段,官方尚未公布最终的违规认定或处罚结果。
根据《人工智能法案》规定的惩罚机制,若前沿 AI 实验室被认定存在重大安全疏漏或严重违规,将面临高达全球年营业额 3% 的巨额罚款。这一严苛的罚则旨在推动行业建立更严格的安全标准,防止类似安全事故重演。