跳到正文
原文
InfoQ 中文· 智源研究院·· 2 小时前精选AI 评分80

智源 FlagOS 2.2 发布:算子库扩容至 1454 个并实现新模型 Day0 适配

智源众智 FlagOS 2.2 让前沿模型与多元算力协同演进

AI 导读

智源研究院于 2026 年 10 月 17 日在北京正式发布 FlagOS 2.2,核心进展在于将公开算子库规模从 564 个扩充至 1454 个,新增 890 个算子,并在 10 款异构 AI 芯片测试范围内实现了约 27% 的整体性能提升。该版本首次推出 FlagGems-SGLang 以支持多芯片高性能推理,同时引入 FlagOS-Compressor 统一权重转换与量化流程,使新模型在一天内完成多达 12 款芯片的适配。

材料中披露了具体的商业化对比数据:基于 FlagOS 技术栈优化的 GLM-5.3-Flash 在昇腾 910B 上的逻辑服务吞吐达到优化前的 2.04 倍;在特定配置下,按租金折算的算力成本较对应商业 API 计费参考低 19.4%—27.6%。此外,针对 DeepSeek V4.1 Flash 在平头哥 810E 上的测试显示,高并发场景下解码速度提升超过 80%,证明了跨芯复用对降低推理成本的潜力。

事实层面,FlagOS 2.2 已覆盖包括华为昇腾、天数智芯、摩尔线程等在内的国产芯片,并向下兼容 vLLM、SGLang 等主流框架插件。推断层面,该工具链试图解决“AI 模型快速换代而算力基础设施需长期服役”的矛盾,通过软件优化延长硬件生命周期。猜测层面,虽然下载量增加四倍且贡献者增加 55%,但其在非智谱生态内的实际渗透率仍需观察,且部分端侧加速效果(如 ARM CPU)尚需结合同条件基线进一步验证。

推荐理由

通过昇腾 910B 实测数据量化存量算力成本优势,为评估异构芯片替代商业 API 提供具体参照。

来源:InfoQ 中文 · infoq.cn