Reddit · MachineLearning· /u/Winter_Mistake_3185·· 4 小时前AI 评分42
Open GPU kernel engineering series: naive GEMM to FlashAttention, H100 and Blackwell
Open GPU kernel engineering series: naive GEMM to FlashAttention, H100 and Blackwell (44 sessions, code public) [P]
AI 摘要
一位开发者发布了包含 44 个会话的免费 GPU 内核工程系列课程，涵盖从 naive GEMM 到 FlashAttention、H100 及 Blackwell 架构的实战内容。课程以屋顶线模型和 FlashAttention 为例，通过实时编码与性能分析演示如何优化内存带宽与计算效率。该系列要求具备 C/C++、线性代数及 PyTorch 基础，代码已公开并持续收集反馈。
来源：Reddit · MachineLearning · reddit.com