Hugging Face 发布 AnySpeechRecognizer 与 AnyDecisionModel:支持多引擎端侧语音识别与结构化决策的 Swift 工具包
Introducing AnySpeechRecognizer and AnyDecisionModel: Open Models for Speech and Decisions on Apple Platforms
Hugging Face 官方发布两个 Swift 工具包 AnySpeechRecognizer 和 AnyDecisionModel,旨在为 Apple 平台(macOS 26、iOS 26)提供超越原生 API 的本地化机器学习能力。AnySpeechRecognizer 封装了 Apple SpeechAnalyzer 接口但允许开发者替换底层引擎,默认使用 Apple 引擎,同时支持 NVIDIA Parakeet v3/Ultra/Unified 及 Alibaba Qwen3-ASR 模型;其中 Parakeet 系列支持实时流式输入与说话人分离(Speaker Diarization),而 Qwen3-ASR 虽覆盖更多中文方言但仅支持文件转录且速度较慢。AnyDecisionModel 则提供了一种无需生成文本即可获取分类、评分及 Yes/No 问题概率的结构化决策接口,支持 MLX、Core AI、llama.cpp、Jev 及 Ollama 等后端,并引入 Cloudflare Clef 模型的训练决策头以优化概率输出。
材料中披露的具体技术细节显示,Parakeet v3 模型体积约 600MB,配合 8 秒编码器可将实时分析时间缩短约三分之一,但在 LibriSpeech 测试集上实时转录的词错误率(WER)约为 4.73%;Qwen3-ASR 1.7B 版本需占用 2.4GB 内存且运行较慢,更适合离线场景。在决策任务方面,Emoji Magnet 示例应用展示了利用前缀缓存(prefix caching)在 M4 Max 设备上对 343 个 Emoji 进行批量判断的能力,单次请求耗时约 0.5 秒,且通过 rotationDebiasing 机制可消除选项位置偏差。所有模型均通过 Core ML 或 GGUF 格式转换后托管于 Hugging Face Hub,下载量从 250MB 至 2.4GB 不等,且依赖 Swift 6.2+ 及 Apple Silicon 硬件环境。
事实层面,该工具包已公开 GitHub 仓库并提供命令行评估工具 hear,支持在本地设备运行特定版本的 Parakeet 和 Qwen3-ASR 模型。推断层面,这一发布标志着端侧 AI 开发正从单一模型调用转向“模型即插件”的架构,开发者可像切换浏览器内核一样在本地无缝切换不同厂商的语音或决策模型,从而降低对云服务的依赖并提升数据隐私性。猜测层面,随着 Core AI 后端在 macOS 27 和 iOS 27 中的加入,未来可能进一步整合更多系统级优化,但目前受限于 swift-huggingface 版本兼容性,部分功能尚未完全打通。
提供在 Apple 硅上运行 NVIDIA Parakeet 与 Qwen3-ASR 的 Swift 封装及决策概率输出方案,直接解决本地语音识别引擎切换与结构化决策置信度获取的工程痛点。
来源:Hugging Face Blog · huggingface.co