跳到正文
原文
arXiv cs.CR· Shanghao Shi, Jian Xiao, Hao Li, Yuanhaur Chang, Yevgeniy Vorobeychik, Nathan Jacobs, Neal Patwari, Ning Zhang·· 6 小时前AI 评分75

大语言模型通过视觉推理可精确定位照片位置且防御需针对微小线索

Not Where You Think: Protecting Location Privacy Against Reasoning-Based Geolocation

AI 摘要

最新研究指出,具备推理能力的大模型仅凭普通照片中的视觉信息即可推断拍摄地点,即使元数据和明显地理标识已被移除。作者提出GeoTrace结构化推理攻击,在包含自然、城市及住宅等525张全球图片的基准测试中,Gemini-3-Flash能在1公里内定位25.71%的图片,GPT-5-mini能定位16.95%。

分析发现,粗粒度定位主要依赖广泛的场景属性,而精确到街道级别的定位则不成比例地依赖于少量独特且可编辑的微小局部线索。基于此发现,团队开发了GeoShift主动防御工具,它不是简单删除地理证据,而是保留稳定的场景属性,选择视觉上兼容的错误目标地点,并战略性重写高影响力的地理揭示线索,从而构建连贯的替代地理假设。实验显示,在GPT-5-mini下,GeoShift将街道级定位率从16.95%降至2.48%,在Gemini-3-Flash下从25.71%降至3.81%,同时保持图像质量并有效抵御自适应攻击。

事实层面,该论文证实了当前主流推理模型存在严重的隐私泄露风险,且攻击成功高度依赖特定类型的视觉特征。推断层面,这意味着现有的隐私保护策略若仅关注去除元数据或模糊地标可能无效,必须转向针对微观视觉特征的动态修改。猜测层面,未来针对此类攻击的对抗性训练可能会成为多模态模型的标准配置,但用户侧的GeoShift类工具能否大规模普及仍取决于其易用性和对图像真实性的影响评估。

来源:arXiv cs.CR · arxiv.org