Anthropic开源「可证明推理」系统FlashProve,17秒验证大模型真伪终结套壳乱象
AI新闻阅读 0

Anthropic今日联合零知识证明领域的核心学者,正式开源了名为FlashProve的大模型可证明推理系统。该系统旨在终结大模型 API 供应链中「挂羊头卖狗肉」的灰色地带,允许开发者在不获取任何模型权重、不信任中心化机构的前提下,通过纯数学方式验证大模型回答的真实来源。验证流程分为三个步骤:首先,服务商在模型上线前利用零知识编码为权重生成唯一的数字指纹;其次,每次对话请求处理后,系统自动附带一份约19MB的密码学证明;最后,任何用户仅使用普通家用CPU运行验证程序,在17秒内即可判定回答真伪,整个过程无需访问服务器或重跑模型。FlashProve的技术核心建立在zkSNARK(零知识简洁非交互式知识论证)之上,利用BLAKE2哈希函数构建安全防线,具备抗量子计算攻击能力。针对400亿参数大模型显存不足的挑战,系统采用流式读取机制,将庞大的权重数据分段送入GPU处理,成功在单张H100显卡上实现高效验证,同时利用零知识编码隐藏模型内部的路由选择路径。该项目的代码仓库呈现独特结构:高达95.2%的代码量由Lean 4数学证明语言编写,总计约398MB。Anthropic透露,从底层C++与CUDA代码到114页的技术论文及大量测试审校工作,均主要借助Claude AI完成。人类专家仅负责确立完备性、知识可靠性与零知识三大顶层安全定义,将中间复杂的推导过程完全交由Lean 4编译器内核逐行核对。FlashProve系统已实现三个关键安全保障:若服务商按承诺运行,证明通过概率极高;若尝试以假模型冒充或篡改内容,造假成功概率低于$2^{-100}$,数学上等同于不可能;同时,验证过程严格保证零知识特性,证明文件无法泄露任何模型权重信息。相关代码与技术文档已按Apache 2.0协议开源,传送门地址为GitHub上的anthropics/FlashProve仓库。这一突破标志着大模型技术进入「AI造系统、Lean保真伪」的新纪元,将原本依赖人工审计和昂贵算力的鉴伪手段转变为低成本、高可信的自动化流程,大幅降低了开发者识别虚假API和防止模型被恶意替换的风险。