Hacker News · AI· csmantle·· 4 小时前精选AI 评分83
Qwenputer:在 Qwen3.5 4B 权重中编译运行的 RISC-V CPU
Qwenputer: A functioning, deterministic RISC-V CPU inside Qwen3.5
AI 导读
作者将一个完整的 32 位 RISC-V CPU 直接编译进 Qwen3.5 4B 模型的权重中,利用 Gated DeltaNet 层作为 RAM,使模型能在前向传播过程中自主执行算术运算、C 语言和 MicroPython 代码,完全无需外部工具调用或运行时环境。
该实验通过设置门控值为 1、写强度 beta 为 1 以及使用 one-hot 键编码,将 GDN 状态矩阵转化为可寻址的精确内存,解决了传统线性注意力机制无法保持数值精确的问题。实测显示,该 CPU 通过了官方 riscv-tests,在 DeepMind 和 NUPA 的长整数算术测试集上得分达到 97.5% 至 100%,且输出结果与参考机器完全一致,同时未显著影响模型的自然语言生成能力(KL 散度仅 6e-4)。
此外,作者还实现了基于权重的文件系统,支持文件保存与持久化,使模型在不同会话间能保持约 90% 的事实一致性。虽然当前实现需要额外驱动加载固件且计算速度较慢(每秒约 3,200 个 CPU token),但其核心意义在于展示了“模型即硬件”的可能性,为 AI 安全研究中的不可篡改监控和可解释性提供了新的技术路径。事实部分基于原文提供的基准测试数据和架构描述;推断部分认为这可能改变对模型推理能力的评估方式;猜测部分涉及未来是否会有更多厂商采用此架构。
推荐理由
材料证明可在模型权重内编译确定性 CPU 并运行代码,为无需外部沙箱的精确推理提供新范式。
来源:Hacker News · AI · divagr.com