arXiv cs.CR· Chieh-Yuan Chang, Guan-Wei Chen, Chia-Yi Hsu, Chih Yang, Chia-Mu Yu, Chun-Ying Huang·· 4 小时前精选AI 评分82
NameTrap 论文:仅通过重命名变量即可将 AI 编码智能体导向特定安全漏洞
NameTrap: Steering AI Coding Agents Toward Security Vulnerabilities via Variable Names
AI 导读
arXiv cs.CR 发表的 NameTrap 研究证实,攻击者无需植入恶意代码或显式指令,仅通过重命名第三方 Python 文件中的标识符,即可诱导 AI 编码智能体生成包含 CWE-78、CWE-79、CWE-327 和 CWE-502 等漏洞的代码。该攻击利用 Web 托管代码作为上下文,使智能体在克隆仓库或读取源码时受到污染,成功率在六种智能体配置下达到 22.5% 至 56.0%,部分组合高达 75.0%,显著优于随机重命名及 prior XOXO 攻击。
实验细节显示,攻击者在本地通过探针确认重命名后的文件能触发目标弱点,而对外发布的诱饵文件本身不包含任何脆弱语句或指令。该攻击对繁体中文提示词有效,且在模型间具有迁移性;尽管存在安全提醒类防御措施,但未能一致性地阻止漏洞引入。更关键的是,三种基于 AI 的安全分析器和四种静态分析器均未报告这些被污染文件中的目标弱点,表明当前主流检测手段对此类隐式攻击完全失效。
事实层面,变量名操纵已构成可量化的攻击面,且现有工具链无法识别。推断层面,这意味着依赖 Web 内容的 AI 智能体生态中,任何公开代码库都可能成为潜在的投毒源,风险从代码逻辑层下沉至命名规范层。猜测层面,若未来智能体广泛采用 RAG 检索外部代码,此类攻击可能规模化爆发,迫使行业重新评估“可信代码”的定义与验证机制。
推荐理由
揭示变量名即可诱导漏洞,证明静态分析失效且现有防御无法阻断此类隐蔽攻击。
来源:arXiv cs.CR · arxiv.org