跳到正文
原文
Reddit · MachineLearning· /u/DotaMate·· 9 小时前AI 评分42

Kapitsa 0.2.26 发布:Qwen Flash-Next 180B 等模型在 M5 Max 上实现 KFlash 加速推理

Benchmarking: Qwen 27B, 35B, QFN180B; Nemotron Bolt 74B, Flint40B & Clover 35B (Q4) on M5 Max 2026 on Kapitsa with KFlash [P]

AI 摘要

Kapitsa 0.2.26 更新推出,利用 KFlash 技术在 M5 Max 芯片上显著加速 Qwen Flash-Next 180B、Nemotron Bolt 74B 及 Clover 35B 等模型的本地推理。

来源:Reddit · MachineLearning · reddit.com