AI模型可通过加密后门隐藏任意计算能力

1. 12:00
   arXiv cs.CR精选

   arXiv 论文证明 AI 模型可通过加密后门隐藏任意计算能力

   该研究通过构建嵌入加密神经网络的对抗性后门攻击，证明了在敌对条件下，基于诱发（elicitation）的能力评估假设并不成立。研究人员利用数字保险箱技术，使隐藏电路在接收到秘密触发器前保持加密状态，仅在特定条件下解密并执行，从而实现了在拥有完整模型权重访问权限的情况下，仍难以被检测或解释的任意计算隐藏。 实验部分在 PyTorch 中实现概念验证，针对化学反应用预测任务（作为 CBRN 相关能力的代理），测试了微调、权重噪声、基于梯度的触发器搜索和潜在对抗训练等多种诱发方法。结果显示这些模型对上述方法具有抵抗力，结合密码学保证，揭示了当前基于诱发机制的能力审计存在根本性局限。作者已公开其模型以支持防御改进。 事实层面，该工作展示了加密后门在理论上的可行性及在特定任务中的实证抵抗性；推断层面，这意味着现有的红队测试和预部署评估可能无法发现此类深度隐藏的危险功能；猜测层面，若该技术被恶意利用，将导致模型在部署后突然激活未授权能力，且常规审计手段失效。

当前热度 9·可比范围峰值 9（10月12日 14:00）·近 24 小时可比范围变化 –

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。