🔥 今日值得一读 Jalapeño芯片实测碾压现有旗舰:每千瓦吞吐量暴涨,推理速度翻倍!
OpenAI’s Jalapeño chip is built for fast inference at scale, benchmarks show
TechCrunch AI 🔥 重点 算力芯片论文方法 🕐 08-25 22:22

📖 AI 总结

OpenAI在Hot Chips大会上首次公布了其自研推理芯片Jalapeño的详细性能数据。在SemiAnalysis的InferenceX基准测试中,该芯片在每用户令牌数和每千瓦吞吐量两项指标上均超越了当前最先进的Nvidia Blackwell系统,展现出显著的性能优势。OpenAI硬件负责人Richard Ho表示,Jalapeño能以更低的功耗服务更多AI任务,同时保持低延迟。该芯片由OpenAI与博通合作开发,采用全栈设计思路,重点优化了推理过程中的预填充和通信阶段,以减少数据移动和延迟瓶颈。Jalapeño计划于2026年底小规模部署,2027年扩大规模,并作为多代际平台持续迭代。值得注意的是,届时市场竞争格局可能已发生变化,其当前优势能否延续尚待观察。

🔍 深度解读 换个视角,同一件事有不同答案

正在读取芙娘的解读…
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅