Hugging Face 发布 Phonon 端侧 TTS 模型,CPU 首字音频延迟低至 28ms
A Closer Look at Phonon TTS. Launching High-Quality On-Device Speech That Tops the Benchmarks.
Hugging Face 联合 Gradium 正式发布 Phonon 文本转语音(TTS)模型,该模型可在无网络环境下运行于手机、浏览器及各类嵌入式设备。Phonon 包含两个版本:31m 参数量仅约 65MB,支持英语并采用 Apache 2.0 协议允许商用;40m 参数量约 75MB,支持英法德西葡五语种但仅限非商业用途。模型基于 Pocket TTS 架构,利用流匹配(flow matching)技术生成音频,解决了传统小型模型音质不佳的难题。
在 Hugging Face Open TTS Leaderboard 评测中,Phonon 表现突出。在可懂度方面,它在德语和西班牙语中排名第一,并在所有测试语言中进入前三,优于许多体积大 100 倍的模型。在速度指标上,Phonon 凭借 28ms(31m 版)和 38ms(40m 版)的首字音频时间(Time-to-First Audio),大幅领先竞品,成为 CPU 流式推理的新标杆。此外,Hugging Face 推出了专用的 ptts 推理框架,支持 CPU、GPU 及 NPU 等多种后端,并原生集成至 Transformers v5.21 版本。
事实层面,Phonon 已开源权重并提供 Gradium Studio 用于自定义声音克隆。推断层面,这一发布标志着端侧语音交互从“可用”迈向“好用”,特别是对于隐私敏感或弱网环境下的应用(如离线助手、车载系统)。猜测层面,随着端侧算力提升,未来可能出现更多针对特定硬件优化的轻量级多模态模型,进一步降低对云服务的依赖。
Phonon 在 CPU 流式推理延迟上刷新基准,证明小参数模型可兼顾低延迟与高音质,改变对端侧语音质量的预期。
来源:Hugging Face Blog · huggingface.co