LLM 不会取代 AI 编译器而是调用它们并编写底层代码

Michael J. Klaiber 在 2026 年 9 月的分析中指出，认为大语言模型会直接通过权重内部完成编译（in-weights compilation）的观点在效率和正确性上均不可行。将 Transformer 的随机生成过程用于内存规划、指令选择等确定性任务，不仅消耗数十亿次浮点运算，还引入了无法复现的调试难题。文章强调，正如现代 LLM 调用 ffmpeg 进行视频编码而非自行模拟信号处理一样，AI 编译器应作为工具被 LLM 调用，而非被其替代。

核心论点在于 LLM 在编译领域的实际增量价值体现在两个层面：一是作为编排者（orchestrator），利用工具模式驱动现有的搜索循环、分析器和验证器，并将调优结果记录为可复用的提示（hints）以摊销推理成本；二是作为作者（author），负责生成 Triton 或 CUDA 内核、MLIR lowering 模式及后端支持。这种代码生成必须依赖严格的中间表示（IR）接口和验证基础设施，确保生成的内核在数值精度和性能上达标，否则“更快”可能意味着“错误”。

事实层面，机器学习辅助优化（如 MLGO、Ansor）早已作为组件存在于 LLVM 和 TVM 等生产级编译器中，证明了模型作为组件而非替代者的可行性。推断层面，随着 LLM 介入底层代码编写，编译器工程师的角色将从手写代码转向构建更严谨的系统环境、定义“正确性”标准以及设计可验证的 IR 接口。猜测层面，未来 AI 编译器社区（如 CODAI 2027）将聚焦于如何暴露干净的接口以适配 LLM 驱动的自动化流程，这可能导致编译器基础设施的重要性不降反升，而非消亡。