Anthropic 开放最强 Claude 模型测试权限,已发现超10万漏洞
AI新闻阅读 0

Anthropic 宣布扩大网络安全测试计划,允许经过资质审核的安全团队在更宽松的防护条件下测试其最先进的人工智能模型。此前其‘玻璃翼计划’(Project Glasswing)已帮助发现超过10万个软件漏洞。
根据路透社报道,玻璃翼计划在4月至7月期间,合作方已核实发现129000个漏洞,而Anthropic自身开源扫描工作在4月至10月期间额外发现5500个漏洞。目前超过33000个漏洞被评定为严重或高危等级,但公司认为实际影响可能是现有数据的五倍。
新版‘网络核验计划’(Cyber Verification Program,CVP)整合了玻璃翼计划与旧版核验计划,允许不同资质的安全团队使用Claude Mythos、Claude Opus及Claude Sonnet等模型。项目分为防御、红队和专项三个层级,分别对应不同的测试权限与申请条件。
防御层级适用于事件响应与恶意软件分析,红队层级增加渗透测试权限但仅接受机构申请,专项层级则面向电网、航空系统等关键基础设施,需经美国政府与Anthropic联合审核资质。现有玻璃翼计划成员将自动归入专项层级。
Anthropic 表示,新计划旨在提升全球关键软件安全性,同时强调所有测试活动需严格遵循安全管控措施,防止潜在风险。