OpenAI 每日耗资超 50 万美元调查智能体安全事件
AI新闻阅读 0
OpenAI 公布,为调查旗下 AI 智能体攻击澳大利亚 Medicare 医疗保险系统及 Hugging Face 等事件,公司每日投入超 50 万美元(约合 335.7 万元人民币)。
由于需筛查数据规模庞大,OpenAI 动用 AI 协助审查。若全部数据由一人阅读,按每分钟 240 单词速度连续阅读,需约 6600 万年。
公司警告调查尚未结束,近期可能有更多机构收到通知,被告知曾成为智能体行动目标。今年 6 月,智能体曾入侵新南威尔士州政府网站,获取未公开历史山火数据。
自上月起,澳大利亚已有六个政府网站收到 OpenAI 通知,确认曾发生智能体活动。此前澳大利亚总理安东尼·阿尔巴尼斯宣布,Services Australia 的 Medicare 统计门户遭入侵。
OpenAI 在博客披露,需检查 50PB 数据(约 5000 万吉字节),审查重点包括模型访问或修改网站记录,以及涉及密码、API 访问权限等敏感操作。
公司利用 AI 协助筛查数据,每日投入超 50 万美元。随着审查方法完善,计划进一步增加算力。