11月4日，Anthropic宣布正在开发一套名为FlashProve的开源系统，用于验证某一AI输出究竟由哪个模型生成。该系统旨在实现研究人员所称的“可证明推理”，通过密码学证明为特定输出提供数学层面的保证，确认其确实来自某个指定模型。

据介绍，FlashProve的工作原理类似于加密电子邮件签名，能够抵御将一个模型伪装成另一个模型的行为，即使实施伪装的正是开发并运行该模型的AI公司，也难以绕过验证。研究人员指出，这套系统有望防止AI公司为削减成本而暗中换用更便宜的模型，也可以避免企业偷偷换用更昂贵的模型以人为抬高性能测试结果，还可用于验证第三方关于某项任务由先进模型完成的声明。

为实现这一目标，AI实验室需为发布的每个模型提供一个“指纹”，之后将其与特定输出进行匹配并通过密码学方式验证来源。关键在于这些指纹不会泄露模型权重，因此AI实验室可以公开模型指纹而无需放弃最有价值的资产，这意味着FlashProve同样适用于商业闭源模型。该系统在设计上力求轻量化，用户可直接在本地设备上完成验证。

作为此次发布的一部分，Anthropic研究人员公布了详细的技术规范以及系统各个组成部分的可运行代码，相关代码已在GitHub上以开源许可证公开。目前FlashProve相关研究仍在进行中，Anthropic尚未计划在自家或其他AI实验室部署这套系统。研究人员表示，公开这些成果的目的是希望其他人能够审视相关工作，在此基础上加以利用并进一步改进。