语言嵌入在推荐系统中暴露身份泄露风险

该论文通过实证证明，推荐系统中用于表示物品内容的语言嵌入（Language Embeddings）存在严重隐私泄露风险。当攻击者拥有外部来源的辅助物品文本时，仅需使用简单的余弦相似度攻击即可在多个大模型和候选集设置下，以高平均倒数排名（MRR）恢复物品身份。这种泄露不仅发生在攻击信息与受害者表示高度重叠时，即便描述来源独立，语义对齐也会导致持续泄露。 研究进一步发现，物品身份的泄露会传播至用户层面，导致基于稀疏评分数据的用户重识别。针对缓解措施，作者评估了“混淆描述”（obfuscated descriptions）方案，结果显示该方法在降低泄露的同时显著牺牲了推荐效用，揭示了隐私保护与业务性能之间清晰的权衡关系。实验基于两个真实世界数据集，涵盖了多种语言模型配置。 事实层面确认了嵌入向量作为中间表示并非天然安全；推断表明当前广泛采用的基于嵌入的推荐架构需重新评估其对外部数据泄露的防御能力；猜测部分在于混淆描述的优化空间是否能在不大幅损失效用的前提下平衡安全，这取决于具体场景下的语义保留阈值。