arXiv cs.CR· Qi Liu, Geng Hong, Xinyang Zhang, Pei Chen, Yutong Li, Min Yang·· 3 小时前精选AI 评分87
10家AI搜索平台测试显示普通发布可快速进入引用并生成答案
From Public Posts to AI-Search Citations: Measuring the Fragility of AI Search
AI 导读
该研究通过跨平台映射与标记实验,揭示了AI搜索平台存在低门槛的引用操纵路径:在17,211次引用实例中,前20个域名占单平台引用的20.5%至70.8%,且22个测试发布平台中有15个具备低或中等账户及发帖门槛。实验证实,在优选平台上进行普通发布能显著改变AI搜索结果,8个平台在7天内引用了虚构概念,一篇高偏好文章的影响力甚至超过20篇低偏好匹配帖。更关键的是,这种路径已商业化,14美元的GEO(垃圾外链)购买仅用一小时便让某平台引用了带有设计标记的内容。
数据细节显示,AI搜索的筛选层将来源选择转化为安全问题,因为平台不公开引用逻辑且引用随时间变化,导致难以归因。研究指出,新用户在易发布域名的普通内容可能成为间接进入AI答案的路径,这不同于传统搜索的关键词匹配机制。文中未提及具体平台名称,但明确测试覆盖了10家平台,涉及6,356个唯一源域名。
事实层面确认了低门槛发布与引用之间的强相关性;推断表明现有AI搜索的引用机制缺乏足够的防操纵设计;猜测部分认为若不加干预,此类低成本注入可能演变为系统性信息污染风险。材料未提供平台方的回应或修复计划,仅基于观测数据提出框架性结论。
推荐理由
量化了普通发布即可被AI搜索引用的路径成本,直接修正对AI搜索抗操纵性的认知。
来源:arXiv cs.CR · arxiv.org