LLM匿名化对抗基于Web搜索的智能体重识别攻击

该论文针对具备Web搜索能力的智能体LLM提出新的威胁模型，指出原本微弱的上下文线索可能被跨引用为身份重识别证据，而现有防御手段往往在去除标识符或扰动文本时牺牲了下游分析价值。作者提出AURA（Anonymization with Utility-Retention Adaptation）框架，采用掩码重构机制将隐私定位与效用保留解耦，并通过对抗性隐私检查与效用保留筛选候选方案。

实验基于真实用户访谈记录，使用三种攻击者模型下的Web搜索智能体进行重识别攻击测试，同时通过受访者档案事实、编码表事实和联合上下文效用网格评估效用。结果显示，在非差分隐私方法中，自适应范围的AURA在三类攻击模型下均实现了最低的重识别次数；在匹配范围和骨干模型的前提下，其掩码重构设计在同等隐私水平下比 prior LLM anonymizer 多保留了6.4个百分点的单元网格恢复率。

事实层面，AURA通过解耦策略在Web搜索智能体攻击场景下平衡了隐私与效用；推断层面，这表明单纯依赖显式标识符移除或通用扰动已不足以应对智能体时代的重识别风险，需引入上下文感知的重构机制；猜测层面，若未来智能体普遍集成实时搜索，此类“弱线索复用”可能成为数据泄露的新常态，推动匿名化工具从静态处理转向动态对抗评估。