云端token账单爆表!企业AI推理被迫搬回本地
Dell and Intel weigh the costs of enterprise AI scalability
SiliconANGLE 重要 商业化算力Agent 🕐 今天 05:24

📖 AI 总结

随着智能体工作负载快速增长,企业AI扩展正遭遇预算瓶颈:原本按数月规划的云token额度,部分客户在数周内即耗尽,成本压力正重塑部署策略。戴尔与英特尔的专家指出,企业不应只依赖云端前沿模型,而应重新审视本地基础设施与开源权重模型的价值,以缓解token消耗压力。与此同时,智能体AI正在改变硬件需求结构,CPU在编排、推理和边缘计算中的使用比重上升,但许多买家仍过度聚焦GPU。专家建议,企业可先在沙箱环境测试开源模型,评估实际工作负载需求,并充分利用数据中心已有的CPU资源与闲置算力。这一趋势表明,企业AI规模化的关键不再是单纯堆算力,而是在成本、性能与部署位置之间寻求平衡。

🔍 深度解读 换个视角,同一件事有不同答案

正在读取芙娘的解读…
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅