跳到正文
原文
arXiv cs.CR· Alfredo Metere·· 6 小时前精选AI 评分78

Enclawed:基于硬件根信任与共识治理的LLM Agent确定性安全运行时

A Deterministic Security Runtime for LLM Agents on MPI and Batch-Scheduled HPC Systems: Consensus-Governed, Hardware-Rooted Supervision of Every Rank

AI 导读

该论文针对高性能计算(HPC)环境中运行大语言模型智能体时缺乏运行时监督且控制主机易受攻击的问题,提出了名为Enclawed的确定性安全运行时架构。该系统通过Enclaweder硬件根信任机制确保节点无法伪造签名,结合策略驱动的启动门控与基于签名的心跳租约机制,实现了对并行作业中每个计算秩(rank)的实时监管与异常终止。

实证数据显示,在16个真实模型智能体发起的24次植入指令尝试中,系统成功拦截了全部攻击并允许了所有108次合法启动;针对12种包含共谋协调器的活体攻击测试均实现了故障关闭(fail-closed)。该方案无需管理员权限,仅通过SSH即可集成到现有集群,对16秩LAMMPS作业的图形处理器计算循环无侵入,仅增加约3秒的启动延迟。

事实层面,Enclawed核心代码与HPC Agent安全基准已开源;推断层面,该架构为高价值HPC资源上的AI代理提供了可验证的执行环境,可能改变科研仿真与工业模拟中的安全基线;猜测层面,这种硬件根信任模式若推广至通用云环境,将重塑大规模分布式AI任务的审计与隔离标准。

推荐理由

提出硬件根信任与共识治理的运行时方案,解决HPC场景下被篡改任务无法检测的盲区。

来源:arXiv cs.CR · arxiv.org