跳到正文
原文
Mistral AI·· 4 小时前精选AI 评分82

Mistral 发布 Timestral 时间序列基础模型家族,209M 参数在三大基准上超越 SOTA

Introducing Timestral

AI 导读

Mistral AI 正式推出首个时间序列基础模型家族 Timestral,包含 5M、28M、123M 和 209M 四种参数量级,其中最大模型以仅 209M 的参数量在 GIFT-Eval、TIME 和 fev-bench 三大公开基准上均排名第一,超越了 TimesFM-3 和 Falcon-2.0 等更大规模的模型。

该模型的核心优势在于其架构设计与训练策略:它采用解耦视界预测(Decoupled Horizon Forecasting)和协变量感知注意力机制,支持多变量联合预测及已知未来协变量输入;训练数据主要由合成数据构成,通过两阶段训练实现了强大的零样本泛化能力。在部署效率方面,Timestral 无需 GPU 即可在标准服务器 CPU 上运行,例如 209M 模型处理三周历史数据仅需 140 毫秒,且提供 21 个分位数的概率预测输出。

事实层面,Timestral 已开源 GitHub 仓库并开放 Mistral Forge 微调服务,允许企业私有化部署。推断层面,这种小参数、高能效的特性意味着工业物联网场景中的边缘计算设备可直接本地运行复杂的时间序列分析,不再依赖云端算力。猜测层面,基于合成数据主导的训练模式可能预示着传统时序建模中“收集真实数据”的成本结构将发生根本性迁移,但具体效果仍需观察其在长尾分布数据上的表现。

推荐理由

材料证明时间序列预测可脱离 GPU 在 CPU 运行,且合成数据预训练能实现跨域零样本泛化。

来源:Mistral AI · mistral.ai