企业AI正进入成本敏感阶段,混合基础设施成为这一趋势的核心战场。随着推理支出攀升,企业开始重新权衡模型运行位置、模型选择以及数据交由第三方的程度。戴尔高管透露,短短三个月内,前沿模型生成的token占比从80%骤降至80%由开源模型生成,主因是成本压力。推理增长已快于训练,且越来越多地向数据产生的最边缘延伸。与此同时,内存价格上涨推高整体技术成本,明年市场供应仅增加约20%。这意味着企业需要在控制成本与保持创新之间寻找平衡,而能否掌控数据和基础设施正成为战略决策的关键考量。
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅