推理成本飙升,混合基础设施成企业AI省钱与控制权关键抉择!
Hybrid infrastructure decisions put AI costs and control in focus
SiliconANGLE 重要 算力商业化 🕐 今天 03:58

📖 AI 总结

企业AI正进入成本敏感阶段,混合基础设施成为这一趋势的核心战场。随着推理支出攀升,企业开始重新权衡模型运行位置、模型选择以及数据交由第三方的程度。戴尔高管透露,短短三个月内,前沿模型生成的token占比从80%骤降至80%由开源模型生成,主因是成本压力。推理增长已快于训练,且越来越多地向数据产生的最边缘延伸。与此同时,内存价格上涨推高整体技术成本,明年市场供应仅增加约20%。这意味着企业需要在控制成本与保持创新之间寻找平衡,而能否掌控数据和基础设施正成为战略决策的关键考量。

🔍 深度解读 换个视角,同一件事有不同答案

正在读取芙娘的解读…
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅