跳到正文
MIT Technology Review · AI· Tim Rausch·· 19 天前AI 评分42

AI 推理产生的隐性存储成本:被忽视的基础设施账单

AI’s hidden storage bill: What inference leaves behind

AI 导读

AI 推理产生的后端数据(如日志、缓存)远超用户可见输出,导致存储成本常被低估。WD 测量显示 8 秒视频生成约 500MB 后端数据,是 3.97MB 输出文件的 130 倍。IDC 调研发现 95% 的企业因生成式 AI 数据量增加,且 96% 预计需更快的归档检索以支持 RAG。

来源:MIT Technology Review · AI · technologyreview.com