CipherGenome: 同态推理保护基因组 MoE 模型

CipherGenome 提出一种针对基因组基础模型的稀疏混合专家（MoE）网络的同态推理协议，解决将私有基因组发送至租赁加速器时面临的数据泄露风险。该协议将 151 亿参数模型中的嵌入、注意力机制和路由层保留在可信的轻量级客户端，而将占参数总量 95.8% 的专家投影层外包给不可信且可能串通的 GPU 服务器，全程基于模块-LWE 加密进行。 实验显示，单个服务器若仅托管一个专家层，能以 99.8% 的 top-1 准确率恢复输入核苷酸，构成严重的安全漏洞；而 CipherGenome 通过利用专家层线性结构、公开权重及 GPU 整数张量核心在模 $2^{48}$ 下精确评估密文 - 权重乘积的特性，在不需多项式近似或自举的情况下实现了安全推理。在 12 个细菌基因组的 72 个窗口测试中，加密带来的 KL 散度增加低于预注册的非劣效性边界，与 bf16 推理结果无法区分，同时使上述逆向攻击降至随机水平。此外，通过可复用公共提示、线压缩和每层填充技术，端到端延迟降低 3.54 倍，流量减少 6.8 倍，路由泄露准确率从 54.9% 降至 8.9%，且兼容同态的 int4 专家层性能未劣于明文版本，单专家单 token 的服务器端成本比 CKKS 基线低六个数量级以上。 事实层面，该研究验证了特定架构下同态推理的工程可行性与安全性提升；推断层面，这暗示未来基因组大模型可能转向“端侧处理敏感逻辑 + 云侧执行密集计算”的混合部署模式；猜测层面，此类方案若推广至通用 LLM，可能改变当前依赖全量加密或差分隐私的行业路径，但具体落地仍受限于硬件对整数运算的支持程度。