arXiv cs.CR· Jie Zhu, Ronik Bhaskar, Heather Zheng, Ben Y. Zhao, Kexin Pei·· 2 小时前AI 评分72
自然代码变换可混淆智能体在漏洞分析中的判断
Natural Code Transformation Confuses Agents in Vulnerability Analysis
AI 摘要
该论文指出当前用于自动化漏洞发现的 AI 智能体在面对功能相同但经过自然代码变换的真实世界代码提交时,会产生截然不同的分析结果。研究者通过挖掘真实开发模式构建了自然变换语料库,并验证了即使单一形式的变换也能有效降低 Codex with GPT-6 Sol 等前沿智能体的漏洞发现成功率。
研究核心证据在于“自然代码变换”这一概念,即源自真实软件开发的、保持功能不变且非恶意的代码重构模式。实验显示这种变换能导致智能体在多个代码领域和漏洞类别中表现不一致,从而形成防御机制。论文进一步探讨了变换组合使用的增强保护效果以及针对此类防御的自适应攻击者行为。
事实层面确认了智能体对代码表面形式的高度敏感性;推断层面表明利用现有开发习惯进行防御可能比传统对抗样本更隐蔽且难以被逆向;猜测层面在于未来是否会出现专门针对此类自然变换优化的攻击模型,或促使智能体架构向更关注语义而非表层结构的方向演进。
来源:arXiv cs.CR · arxiv.org