跳到正文
原文
MIT Technology Review · AI· Tim Rausch·· 3 小时前AI 评分52

AI 推理背后的隐藏账单:每份输出文件背后留下 130 倍的数据足迹

AI’s hidden storage bill: What inference leaves behind

AI 摘要

文章指出 AI 基础设施规划普遍存在盲区,即过度关注 GPU 算力而忽视了推理产生的后端数据存储成本。WD-IDC 调研显示,95% 的企业在过去一年因生成式 AI 导致数据量增加,其中 61% 增幅超过 25%。这种增长并非线性,而是具有累积效应:推理请求不会像训练那样结束,每一次调用都会留下日志、缓存上下文、中间渲染结果和安全记录等“数据足迹”。

核心证据来自 WD 的内部测量数据:一个返回给用户的 8 秒视频(720p,约 4MB)在后台留下的关联数据超过 500MB,是用户可见文件大小的 130 倍。随着企业生成更高分辨率或更长时长的视频,单条内容的后端足迹将扩展至数百 GB。McKinsey 预测到 2030 年,AI 推理需求将以 35% 的年复合增长率增长,远超训练的 22%,届时将占据数据中心需求的 40% 以上。这意味着存储支出正以每年 25% 的速度超越可预测的算力预算。

推论在于,传统的 CapEx 导向的硬件采购逻辑已失效。由于数据保留策略与原始存储成本脱钩,且大量冷数据正转化为 RAG 和推理的输入资产,企业需重新定义存储架构。若继续将存储视为算力的“零头”,未来 12-18 个月内该部分成本可能成为总成本的显著部分。真正的挑战在于构建支持全生命周期管理的分层架构,平衡热层性能与冷层容量,而非单纯堆砌高性能 SSD。

来源:MIT Technology Review · AI · technologyreview.com