热点事件持续更新

NeuPerm利用置换对称性破坏神经网络参数中的恶意软件

1 篇报道1 个报道来源3 小时前更新

先了解这件事

报道摘要

Daniel Gilkarov 和 Ran Dubin 在 arXiv 上发布 NeuPerm 方法，旨在通过利用神经网络置换对称性的理论特性，破坏隐藏在预训练模型参数中的自执行恶意软件。该研究针对模型共享场景下用户可能 unknowingly 直接执行或间接依赖恶意模型的威胁，提供了一种简单且有效的防御手段。实证结果显示，NeuPerm 对模型性能几乎没有影响，并能成功干扰此前仅能通过高度复杂的量化过程解决的先进攻击。与以往类似工作不同，该方法被证明在大型语言模型（LLMs）上同样有效，填补了现有技术在 LLM 领域应用的空白。源代码已公开在指定 URL 处。事实层面，NeuPerm 利用置换对称性作为防御机制，且在 LLM 上验证有效；推断层面，该方法可能成为模型分发前的标准清洗步骤，降低恶意代码注入风险；猜测层面，若大规模采用，可能改变当前模型共享生态的安全基线，但具体部署成本与兼容性需进一步观察。

摘自 arXiv cs.CR

报道时间线

沿着报道，了解事件的不同侧面。

10月8日

12:00
arXiv cs.CR
NeuPerm 论文提出利用置换对称性破坏隐藏在神经网络参数中的恶意软件
Daniel Gilkarov 和 Ran Dubin 在 arXiv 上发布 NeuPerm 方法，旨在通过利用神经网络置换对称性的理论特性，破坏隐藏在预训练模型参数中的自执行恶意软件。该研究针对模型共享场景下用户可能 unknowingly 直接执行或间接依赖恶意模型的威胁，提供了一种简单且有效的防御手段。实证结果显示，NeuPerm 对模型性能几乎没有影响，并能成功干扰此前仅能通过高度复杂的量化过程解决的先进攻击。与以往类似工作不同，该方法被证明在大型语言模型（LLMs）上同样有效，填补了现有技术在 LLM 领域应用的空白。源代码已公开在指定 URL 处。事实层面，NeuPerm 利用置换对称性作为防御机制，且在 LLM 上验证有效；推断层面，该方法可能成为模型分发前的标准清洗步骤，降低恶意代码注入风险；猜测层面，若大规模采用，可能改变当前模型共享生态的安全基线，但具体部署成本与兼容性需进一步观察。

本事件热度走势

还没有足够的连续观测数据，暂不绘制趋势。