跳到正文
原文
arXiv cs.AI· Keegan Wang·· 5 小时前AI 评分70

在 GPT-5.4-nano 上迭代提示词,将行为蒸馏至 Qwen3-8B

Iterate on an LLM, Serve on an SLM

AI 摘要

研究提出先在 GPT-5.4-nano 上通过实时流量迭代提示词以收敛行为,再将其蒸馏至 SLM。LoRA 微调的 Qwen3-8B 基于 11.6k 条真实生产决策训练,与教师模型一致性达 0.913,且推理延迟降低约 2.5 倍、成本极低。该方法为构建类似智能体系统提供了快速开发、实时反馈与低成本推理的蓝图。

来源:arXiv cs.AI · arxiv.org