跳到正文
原文
arXiv cs.CR· Georgios Feretzakis, Alexandros Papaspyridis·· 7 小时前AI 评分65

端侧离线生成式AI信任机制实证:签名包无法防御投毒且检索门控存在盲区

Trust Mechanisms for Offline Generative AI at the Edge: A Connectivity-Regime Framework and an Empirical Study on a Raspberry Pi 5

AI 摘要

该研究在树莓派5上评估了离线生成式AI的信任机制,提出C0-C4连接状态框架并实测Qwen2.5模型,发现现有方案无法建立证据真实性。虽然经验校准的检索分数门控能近乎完美检测知识缺口(AUROC 0.97),但在处理同领域不可回答问题时表现不佳(0.68)。确定性输出验证器可将畸形输出转为明确拒绝且不损失正确答案,但基于NLI的验证器效果甚微。

关键事实显示,3B模型以不到一半的延迟和能耗达到与7B模型相同的金答案包含率,但7B模型更频繁超过token-F1阈值;增加检索段落数反而降低正确率(从75%降至52%)。在更新通道安全方面,验证签名包仅需约4.5毫秒,而嵌入过程需29分钟;尽管签名和哈希检查能拦截部分攻击,但一个有效签名的投毒包能通过所有检查,导致原本正确的30个问题中14个返回注入答案。

推断表明,单纯依赖数字签名或本地检索验证不足以保障离线场景下的内容安全,必须引入外部可信源或更复杂的动态校验机制。猜测认为未来端侧Agent可能需结合多模态交叉验证来弥补单一文本验证的不足。事实层面确认了当前技术栈在极端隔离环境下的具体性能边界,而非理论上的可行性。

来源:arXiv cs.CR · arxiv.org