Exowatt 利用 SageMaker Serverless 微调 Qwen3 模型

Exowatt 利用 Amazon SageMaker AI serverless model customization 构建了一套无需管理 GPU 实例的自动化微调流水线，成功将 Qwen3-1.7B 和 Qwen3-14B 微调至超越 Claude Sonnet 4.6、Claude Opus 4.7 等前沿模型的精度，同时实现了最高 49 倍的单千次决策成本降低。 该方案针对两个核心场景：一是边缘端的告警分类任务，使用量化后的 Qwen3-1.7B 在 CPU 上运行，达到 0.911 macro-F1，且完全离线；二是云侧能源市场分析，使用 Qwen3-14B 结合 Amazon Bedrock Custom Model Import，达到 0.975 macro-F1，按小时计费无闲置成本。训练过程依赖合成数据增强（Paraphrase），如利用 Qwen3-VL-235B 和 Claude Sonnet 4.6 生成多样化语料，证明了高质量数据比单纯增加参数量或 Epoch 数更有效。 这一案例揭示了“专用小模型”在工业级应用中的商业价值：通过将推理下沉至边缘端消除 API 调用延迟与网络依赖，并利用 Serverless 架构将迭代周期从数月缩短至数天。事实层面，微调模型在特定指标上确实超越了通用大模型；推断层面，这标志着垂直领域 AI 正从依赖云端大模型转向本地化、低成本、高确定性的私有化部署模式。