Anthropic 正研发 FlashProve，用于验证 AI 模型身份

OmniTools 11月4日消息，据 TechCrunch 报道，Anthropic 正在研发一套名为 FlashProve 的开源系统，用于验证某项 AI 输出究竟由哪个模型生成。该系统旨在提供“可验证推理”（provable inference），即通过密码学证明确认输出确实来自特定模型。

FlashProve 要求 AI 实验室为每个发布的模型公开“指纹”，后续可与具体输出匹配并进行密码学校验。该指纹不会泄露模型权重，因此商业闭源模型也可使用；系统设计为轻量级，验证可在本地设备完成。

研究团队表示，该系统可防止 AI 公司暗中替换更便宜或更昂贵的模型，也可用于核验第三方关于某项任务由先进模型完成的主张。相关技术规范和部分代码已在 GitHub 以开源许可证发布，研究仍在进行中，暂无在 Anthropic 或其他实验室部署的计划。