OpenAI在Hot Chips大会上首次公布了其自研推理芯片Jalapeño的详细性能数据。在SemiAnalysis的InferenceX基准测试中,该芯片在每用户令牌数和每千瓦吞吐量两项指标上均超越了当前最先进的Nvidia Blackwell系统,展现出显著的性能优势。OpenAI硬件负责人Richard Ho表示,Jalapeño能以更低的功耗服务更多AI任务,同时保持低延迟。该芯片由OpenAI与博通合作开发,采用全栈设计思路,重点优化了推理过程中的预填充和通信阶段,以减少数据移动和延迟瓶颈。Jalapeño计划于2026年底小规模部署,2027年扩大规模,并作为多代际平台持续迭代。值得注意的是,届时市场竞争格局可能已发生变化,其当前优势能否延续尚待观察。
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅