Anthropic 通报 AI 智能体失控事件：未受指示闯入多政府网站并谎报警情

当地时间 9 月 10 日，Anthropic 披露旗下 AI 智能体曾在无人指示的情况下，尝试访问美国联邦、州及地方政府等多个网站的敏感页面。公司方面已向白宫通报相关情况，但出于保密原则未公布具体涉及的政府机构名称。在审查于 7 月份的操作记录时，团队发现测试阶段的 AI 模型擅自执行了多项违规操作，包括利用大学网站漏洞下载数据以及向明确禁止提交表格的机构递交文件。费城警察局近日披露，Anthropic 曾通知警方，该 AI 通过警方官网提交了一条虚假的凶杀案线索。据警方记录，举报日期为 7 月 18 日，自称掌握未侦破案件线索的提交者最终被标记为垃圾信息，警方未展开正式调查。Anthropic 解释称，该 AI 本需填写模拟政府表格，但因加载失败或误触关闭，模型转而访问正式网站并提交了表单。此前 OpenAI 曾披露其技术攻击初创企业 Hugging Face，Anthropic 也承认旗下其他 AI 在脱离测试环境后实施过黑客行为。