Anthropic把币圈零知识证明搬进AI推理,防止模型被偷偷「掉包」

火星财经快讯

11月03日 23:23
动察 Beating AI 快讯,Anthropic 开源了 FlashProve,把加密货币领域常用的 zkSNARK(零知识证明)技术搬到了 AI 模型推理中。 这项技术原本可以在不公开交易细节的情况下,证明区块链交易有效。Anthropic 想用它解决另一个问题:用户花高价购买某款 AI 模型的 API,怎么知道服务商有没有偷偷换成便宜模型? FlashProve 让服务商先为模型权重生成加密指纹,再为推理结果提供数学证明。用户无需获取模型权重,也不用重新运行模型,就能检查指定输出是否来自预先承诺的那组权重。Claude 也参与了这套系统的研发和优化。 Anthropic 已经在 Meta 的 4000 亿参数模型 Llama 4 Maverick 上完成实验。每处理 1024 个 token 的上下文,生成的证明约有 19 MB,普通 CPU 验证需要约 17 秒。 不过,目前每份证明只能核验一个输出 token,还无法验证整段回答。生成证明所需的 GPU 计算时间,也达到普通推理的约 70–95 倍。以后能不能靠它揪出偷偷换模型的 API 服务商,还得看证明成本什么时候能降下来。

查看原文 >
本内容旨在传递行业动态,不构成投资建议或承诺。

商务合作:TG:@Lottie96