Llmspeed 展示本地大模型在多种硬件上的运行速度

Llmspeed 工具展示了 Qwen 3.6/3.8、DeepSeek V4、Llama 3.1 等模型在 NVIDIA RTX 5090、Mac Studio M5 Ultra 及 H100 云实例等硬件上的单设备短提示词推理速度。数据源自社区基准测试，涵盖从 CPU-only 到专业显卡的广泛配置，帮助用户在购买硬件前评估本地大模型性能。该工具已在 GitHub 开源。