人工智能在 Cloudflare 的 CIRCL 中究竟发现了什么将人工智能审计管道指向 Cloudflare 的 CIRCL 实验性密码学库确认了七个实际存在的漏洞涵盖从阈值 RSA 中严重的 float64 精度损失到基于属性加密中的完全访问控制漏洞等。目前这七个漏洞都已在代码库上游修复。这是关于人工智能代理在开源密码学项目中发现的漏洞系列文章的第一篇。1. 构建 zkao 的目标与过程在 zkSecurity正在构建名为 zkao 的人工智能审计代理目标是让人工智能持续审查代码直至其他人工智能工具无法再发现任何漏洞。构建 zkao 是迭代过程最终要打造能发现所有人工智能可检测到的漏洞的自动化审计工具这涉及提出新想法和技术将安全研究人员的专业知识编码到 zkao 中同时持续实验以了解方法有效性、模型演变等。此外实验还帮助构建基准测试套件深入了解大语言模型在密码学方面的推理方式。2. 实验过程与结果几个月前开始对选定代码库实验使用大语言模型扫描开源密码学项目采用仅使用大语言模型和大语言模型结合技能两种配置。对于大语言模型发现实际漏洞的重要项目还运行 zkao 查看其能否独立检测相同问题多数情况下zkao 不仅能发现所有问题还能识别更复杂、严重的漏洞。实验结果满意决定整理成文本系列文章先聚焦 Cloudflare 的 CIRCL 库管道扫描发现许多潜在问题七个值得报告目前已修复多数在 Cloudflare 漏洞奖励计划中获确认并奖励。3. 人工智能生成报告需人工介入人工智能生成的是潜在问题非最终报告团队人员需对每个问题验证检查可利用性简化概念验证处理漏洞披露事宜。减少这一步骤是 zkao 的主要设计目标之一当前版本已能承担大部分验证工作。4. 漏洞严重程度和修复情况概览人工智能对自身发现的漏洞评定的严重程度可能存在偏差列出了人工智能评定的每个漏洞的严重程度以及 Cloudflare 在修复后确认的严重程度还验证了当前版本的 zkao 能一致重现所有七个漏洞。人工智能评定的严重程度与确认的严重程度之间的差距值得研究。5. 逐个分析七个漏洞包括 float64 中的多项式求值问题、通过证明者可控的安全参数进行 DLEQ 证明伪造、BLS 聚合验证缺少消息唯一性检查、通过 FillBytes 符号碰撞导致 DLEQ 可靠性破坏、通过位或开关绕过 HPKE PSK 验证、使用 int64 存储拉格朗日系数、CP - ABE 中因一行 AND 份额错误导致的访问控制破坏等漏洞分别介绍了漏洞情况、严重程度评定差异、修复方法等。6. 几点收获一是人工智能在评定漏洞严重程度方面表现不佳且存在不对称性多数情况高估问题影响但也有低估情况目前无完整解释和解决方案初步假设评估影响困难与下游调用者有关需添加严重程度矩阵和明确威胁建模步骤目前仍依赖人工评定严重程度二是模型组合并非对称角色可能反转提醒不要依赖特定模型名称得出结论促使将 zkao 设计为“模型无关”工具三是人工智能能收集问题但不总能关联起来zkao 致力于解决此问题。7. 后续计划感谢 CIRCL 维护者迅速修复问题本系列文章将继续发布其他项目中已解决的确认漏洞。扫描了 200 多个密码学项目得到一千多个潜在问题最大瓶颈是漏洞分类优先选择维护良好且广受欢迎的项目。欢迎密码学项目维护者合作验证若项目未扫描或代码库有重大变化乐意重新扫描可通过相关方式联系。