📖 AI 总结

文章探讨了Agent时代数据中心基础设施面临的核心挑战，指出单个机柜能承载的Agent数量并不取决于GPU算力，而受限于主机端CPU的调度与排队能力。文章引用英特尔白皮书的数据，拆解了一轮Agent任务的耗时构成：模型调用仅占约40%，其余60%发生在CPU侧，其中工具执行占35%、数据服务占10%、状态搬运约8%、编排调度占7%。随着并发会话增加，主机端CPU耗时占比从单请求时的0.4%至0.6%骤升至32个会话时的11%至15%，且约94%的增长来自调度与队列排队而非实际计算。沙箱快照的压缩、解压与内存分配等操作需线性排队，进一步放大延迟，并导致GPU实际工作时间仅占50%至60%。文章认为，这印证了阿姆达尔定律，行业应从理论性能上限转向按实际交付量倒推系统资源分配，重视CPU与GPU的协同调度设计。