跳到正文
原文
AWS Machine Learning Blog· Pierre Lienhart·· 4 小时前AI 评分40

Deepgram 如何优化 Nova-3 语音 AI 在 AWS Trainium2 上的大规模推理

How Deepgram optimized voice AI at scale with AWS Trainium

AI 摘要

Deepgram 将 Nova-3 语音模型迁移至 AWS Trainium2,通过 TorchNeuron、NKI 内核及 Rust 运行时优化,实现每美元处理音频量提升 11%–70%。

来源:AWS Machine Learning Blog · aws.amazon.com