Cloudflare 用 Python 框架限制 AI 智能体进行 WAF 黑盒渗透测试

Cloudflare 构建了一个受控的测试框架，利用前沿大语言模型探测其 Web 应用防火墙（WAF），在 45 个场景中生成 1,107 次尝试，最终促成托管规则集的三项变更。该实验并非让模型直接执行攻击，而是以已拦截的攻击载荷为起点，通过反馈循环让模型提出编码方式、载荷位置或交付方式的变体。

系统核心在于将概率性的探索转化为可验证证据：Python 测试框架负责构造和重放 HTTP 请求、维护场景状态并实施限制，而模型仅负责提出下一个变体或审查响应。这种架构避免了模型直接控制请求执行，防止了不可控的破坏行为。在记录的 1,107 次尝试中，607 次形成筛选结果集，其中 49 项被认定为有效发现，主要涉及命令注入或服务端请求伪造（SSRF）。

这一模式反映了行业对 AI 安全工程的共识，即围绕模型构建测试框架以限制执行、保存状态并验证发现。类似的逻辑也出现在 Google Mandiant 的智能体漏洞发现框架和 OpenAI 的 Codex Security 中，它们都强调将漏洞发现与独立验证分离，避免大量看似合理但未经验证的发现淹没安全团队。事实是 Cloudflare 实现了从种子到修复的闭环；推断是未来 AI 安全工具将普遍采用此类隔离架构；猜测是其他厂商可能正在开发类似的黑盒测试系统。