arXiv cs.CR· Fujiao Ji, Yerim Kim, Yena Cho, Seonhye Park, Hyoungshick Kim, Doowon Kim·· 6 小时前AI 评分75
PhishGen 论文实测显示商业模型生成的钓鱼网站功能成功率高于无审查模型
PhishGen: Understanding LLM Capabilities in Automated Phishing Website Generation
AI 摘要
PhishGen 框架通过自动化指标、众包用户研究和执行测试,评估了 14 个大语言模型(涵盖商业、开源及无审查类别)生成钓鱼网站的保真度与端到端功能。研究发现,尽管 96.2% 的绕过安全策略的输出能渲染页面,但感知保真度仅为 2.02/5,且仅 38.7% 能完成完整的凭证窃取流程,其中未保存错误是主要失败模式。
关键事实在于,GPT-4.1 的功能成功率高达 86.3% 至 94.1%,而无审查模型极少超过 45.4%,这直接反驳了无审查模型构成最大威胁的普遍假设。虽然单个钓鱼工具包(phishing kits)在样本完整性上仍优于 LLM 生成结果,但三个强效 LLM 的整体成功率(70.9% 至 89.7%)已超越工具包水平,表明 LLM 正以牺牲平均完整性为代价,实现低门槛、可扩展的可用钓鱼页生成。
推断认为,当前基于相似度的防御机制可能因无法识别生成器层面的指纹而失效,需转向混合检测策略。猜测部分指出,随着提示词工程与绕过策略的迭代,LLM 生成的钓鱼页可能在视觉欺骗性上进一步逼近真实目标,但执行层面的稳定性仍是其相对于成熟工具包的主要短板。
来源:arXiv cs.CR · arxiv.org