英伟达高管Ian Buck在Fully Connected活动上指出,AI工厂的经济逻辑正从单纯依赖高性能GPU转向系统级效率。随着智能体系统调用多个模型、数据库和工具,整个数据中心必须作为一台计算机协同运作,网络、存储、处理器和软件需大规模配合,并提升每单位电力产生的输出。衡量AI工厂经济性的核心指标正变为“每瓦token数”,因为电力容量是数据中心部署规模的天然上限。推理是AI工厂的商业产出环节,但训练并未被取代,企业需持续通过强化学习和在线对齐更新模型。低延迟推理则构成新的经济层级,在金融科技等实时场景中,更快推理的token价值更高。
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅