KNOX 提出基于可信执行环境的生成式模型监管沙箱方案

该论文针对现有法规要求 AI 模型在部署前运行于监管沙箱但缺乏具体技术机制的问题，提出了 KNOX 框架。KNOX 是首个利用可信执行环境（TEE）构建的监管沙箱，旨在同时满足合规性检查、机密性保护、可验证性及可扩展性四大需求。其核心机制是通过生成经 attest 的策略清单，在执行器行动前由参考监视器进行比对，仅允许匹配的操作，并将所有动作与裁决记录在可验证的执行图中供监管机构核查。

实验部分展示了 KNOX 在处理智能体工作负载时的表现，能够检测对规定的合规情况及偏离预期行为（如提示词注入导致的异常）。系统不仅实现了防篡改的证据生成以保护模型权重不被泄露给监管方，还确保了证据可由多方监管者独立验证。实测数据显示，该方案在实现上述功能的同时，性能开销低于 1%，证明了其在实际部署中的可行性。

从行业角度看，KNOX 填补了从“监管要求”到“技术实现”之间的空白，特别是解决了传统沙箱无法兼顾合规监控与模型资产保护的痛点。这标志着 AI 安全治理正从软件层面的策略控制向硬件辅助的底层隔离演进。事实层面确认了 TEE 在监管场景的适用性；推断层面认为未来监管工具链可能强制集成此类硬件级审计接口；猜测层面在于该方案能否成为主流云厂商或大模型厂商的标准合规组件，目前尚无商业落地数据支持。