2026年,AI 行业的重心正从“训练更大模型”转向“推理”。黄仁勋在 GTC 2026 上称这一年为“推理的拐点”。文章指出,推理的实际运行方式与普遍认知不同:推理模型会反复自我追问,在高推理强度下产生大量串行计算,导致显卡有大半时间处于闲置状态。这一发现意味着,以 GPU 为核心的传统硬件架构难以充分适配推理负载,整个硬件行业被迫调整打法。其意义在于,推理不再是训练的附属环节,而是驱动硬件革新的独立力量,围绕推理效率重新设计芯片与系统,将成为下一阶段 AI 竞争的关键。
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅