Anthropic紧急更新招股书:承认AI已触发自我加速,禁止全自动研发下一代模型
AI新闻阅读 0

正在冲刺纳斯达克IPO的AI公司Anthropic近期向美国证券交易委员会(SEC)提交了一份更新的S-1招股书。与一周前的首版相比,这份修订文件在第29页明确将原本表示“可能无法”识别加速的表述,改为了“过去就曾未能识别”,承认公司在内部研发中已出现AI速度远超人类监测能力的情况。
根据招股书披露的内部测算,Anthropic即将触发的「自我加速」阈值意味着在AI辅助下,短短一年时间就能完成过去基线速度下两年的研发进度。由于大模型能力难以实时量化,相关研究员往往需等待数月才能通过代码产量和实验周期数据倒推出真实的加速倍率,导致监管总是滞后于技术迭代。
尽管内部数据显示到今年9月已有超过90%的代码由AI助手Claude生成,且其算力开销已超过全体员工月薪总和,公司仍坚决划下红线:绝不脱离人类监督让Claude全自动设计下一代前沿模型。此举旨在防止潜在漏洞、偏差或欺骗倾向在跨代积累中因缺乏人为审查而被放大。”
为强化安全控制,Anthropic计划在研发流程的关键决策环节引入强制性的人类审查签字机制。此外,公司已推迟一个多全新基座模型的预训练启动时间,并限制强能力的Mythos模型仅通过Project Glasswing项目向少数机构定向提供,以应对模型权重窃取和加固安全措施的需求。
与此同时,Anthropic在算力上的投入急剧增加,已签约包括博通1612亿美元设备租赁、谷歌云1213亿美元TPU算力、亚马逊AWS 1100亿美元、微软Azure及SpaceX等在内的巨额合约。这笔表外承诺总额接近9000亿美元,显示出该公司深陷不敢减速的囚徒困境,必须依靠AI高速研发来消化算力并支撑年化近700亿美元的营收目标。”