随着智能体工作负载快速增长,企业AI扩展正遭遇预算瓶颈:原本按数月规划的云token额度,部分客户在数周内即耗尽,成本压力正重塑部署策略。戴尔与英特尔的专家指出,企业不应只依赖云端前沿模型,而应重新审视本地基础设施与开源权重模型的价值,以缓解token消耗压力。与此同时,智能体AI正在改变硬件需求结构,CPU在编排、推理和边缘计算中的使用比重上升,但许多买家仍过度聚焦GPU。专家建议,企业可先在沙箱环境测试开源模型,评估实际工作负载需求,并充分利用数据中心已有的CPU资源与闲置算力。这一趋势表明,企业AI规模化的关键不再是单纯堆算力,而是在成本、性能与部署位置之间寻求平衡。
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅