OpenAI自研推理芯片Jalapeño实测成绩出炉：单瓦性能超越英伟达GB300，推理吞吐量最高提升104倍
OpenAI自研推理芯片Jalapeño实测成绩出炉：单瓦性能超越英伟达GB300，推理吞吐量最高提升104倍Hot Chips 2026大会重磅发布在近日举办的Hot Chips 2026大会上，OpenAI正式公布了其首款自研AI推理芯片"Jalapeño"（墨西哥辣椒）的首批独立基准测试结果，在业界引起强烈反响。这款与博通（Broadcom）联合开发的专用集成电路（ASIC），在多项关键指标上大幅超越了英伟达的旗舰级GB300系统，为AI推理市场带来了全新的竞争格局。从设计到流片仅9个月Jalapeño是OpenAI在今年6月正式发布的一款专为大语言模型（LLM）推理任务而设计的ASIC芯片，主要服务于ChatGPT、Codex以及OpenAI的API应用。从项目启动到制造流片，Jalapeño仅用时9个月，堪称高性能ASIC领域最快的开发周期之一。这一速度得益于OpenAI工程团队与博通的深度软硬件协同，以及利用AI模型加速了部分设计与优化工作。在硬件规格方面，Jalapeño配备了6颗HBM4内存，总容量216GB，额定功耗仅为700瓦。相比之下，英伟达GB300的功耗高达1400瓦。OpenAI计划以128颗Jalapeño芯片为一组机架进行部署，可实现1.7 Exaflops的4bit计算能力，并配备27.5TB的HBM4内存。实测性能全面超越最新的基准测试由第三方机构SemiAnalysis使用InferenceX套件完成，对比对象为英伟达GB200和GB300机架系统。测试模型涵盖OpenAI的GPT-OSS 120B、DeepSeek R1以及月之暗面的万亿参数模型Kimi K2.5。核心数据表现震撼：混合Token峰值吞吐量：Jalapeño比竞品高出1.5倍至1.9倍每用户峰值解码吞吐量：高出2.7倍至3.8倍极端低延迟场景：吞吐量可达英伟达GB300的104.3倍端到端延迟：降低了1.7倍至3.6倍实际功耗：额定700瓦，实测持续功耗保持在550W或以下SemiAnalysis给出了极高的评价，称其"击败了我们测试过的每一款英伟达、AMD和谷歌芯片"。"在我们尝试的这三种模型上，我们证明了该架构不仅适用于内部模型，也适用于其他模型，这是一款通用且非常灵活的加速器。"——OpenAI硬件负责人理查德·何战略意义：挑战"英伟达税"尽管Jalapeño在推理性能上表现出色，但OpenAI硬件负责人明确表示，OpenAI仍然需要大量英伟达芯片，因为Jalapeño无法用于模型训练，而训练正是英伟达的强势领域。就在一周前，英伟达刚同意为OpenAI在俄亥俄州的数据中心园区提供高达1050亿美元的融资支持。Jalapeño的发布是OpenAI"全栈战略"的关键一步，彰显了其摆脱单一供应商依赖、自建底层算力基础设施的决心。分析人士指出，Jalapeño的大规模部署可能受制于HBM内存供应，目前三星、SK海力士、美光的HBM产能已基本预售至2027年。未来规划OpenAI正按多代路线图推进芯片计划，第二代芯片即将流片，第三代已在概念设计中。Jalapeño将于2026年底小规模部署，2027年扩大规模。这标志着AI芯片领域正在从英伟达一家独大逐渐走向多元化竞争的新格局。本文内容基于公开网络资讯整理