在 AWS Trainium 上使用 torchtitan 训练 Qwen3

文章演示了在单台 trn2.48xlarge 实例上通过 torchtitan 以三种方式训练 Qwen3-4B-Instruct-2507。这三种方法分别基于 Transformers v5 后端、torchtitan 原生 Qwen3 支持以及结合 NKI MoE 内核的自定义实现。