Anthropic 开放类员工权限给外部监督机构，强化 AI 安全风险防御

封面为AI生成的主题示意图，非新闻现场照片。

10 月 19 日，人工智能公司 Anthropic 宣布向非营利机构 METR 的评估人员开放“类似员工级别的访问权限”，以应对外部对其模型可能失控的担忧。该举措旨在兑现其加强安全防护的承诺，让公众能够更有效地监督其决策过程。METR 团队现已入驻 Anthropic 办公场所，可访问硬件设备与内部系统，并配备有专门笔记本电脑。Anthropic 表示，评估人员的运作模式类似于银行监管中的常驻审查人员，双方不支付任何费用，且评估机构不接受企业捐赠以确保独立性。此前，达里奥·阿莫迪（Dario Amodei）在 9 月促成了行业立场统一，获得山姆·奥尔特曼（Sam Altman）与埃隆·马斯克（Elon Musk）支持，提出在头部 AI 实验室派驻外部审计人员。Anthropic 周四发布的公告是落实该计划的第一步，而 OpenAI 尚未公布类似方案。针对评估机制可能产生的利益冲突争议，Anthropic 强调公开信息可能被恶意利用，因此仅能共享非敏感内容。公司同时与埃森哲合作投入至少 10 亿美元构建安全防护体系，并与 SecureBio 审查生物武器相关风险。Anthropic 联合创始人指出，即使面临首次公开募股（IPO）带来的业绩压力，公司仍需在投资者宣讲中详细展示安全措施。评估人员将独立发布分析报告，Anthropic 无权否决，但可要求删除涉及客户数据或模型架构等保密信息。随着 AI 能力增强，经济、网络安全及全人类风险日益引发关注，扩大第三方评估权责成为各大实验室实质性举措之一。METR 已准备好与所有前沿 AI 研发企业合作，为公众提供更可靠的安全证据。