一颗叫”辣椒”的芯片,正在搅动英伟达的算力霸权。
OpenAI首颗自研推理芯片Jalapeño近日被半导体研究机构SemiAnalysis实测,结论相当炸裂:在每瓦性能上,它击败了该机构此前测过的所有英伟达、AMD和谷歌芯片,包括最新的Blackwell,甚至还有未全面上市的Rubin。
这颗芯片由OpenAI与博通(Broadcom)合作开发,专为AI推理设计。更让人意外的是它的研发速度:从设计启动到流片只用了16个月,其中CoWoS封装节点完成于2025年11月,距今仅9个月。行业惯例是18到36个月。
一家没有芯片设计积累的公司,第一代产品就打平行业巨头。这件事本身比跑分更重要。
实测数据:多项指标领先GB200和GB300
SemiAnalysis研究人员进入OpenAI实验室,用自研基准套件InferenceX跑了完整测试。
在GPT-OSS 120B模型上,Jalapeño每秒输出约1459个Token,英伟达GB200只有535个。端到端延迟差距更明显:完成同样任务,Jalapeño只要1.65秒,GB300需要近6秒,快了3.6倍。高交互场景下,GB300被推到最快解码速度(每秒169个Token)时,Jalapeño的吞吐量达到它的104.3倍。
能效是这次对比的核心维度。每兆瓦每秒输出Token数这个指标,Jalapeño在GPT-OSS模型上达到约5300万,GB200 NVL72只有约1000万。SemiAnalysis指出,这个数字本质上等于每焦耳产出的Token数,直接决定数据中心的收入天花板。在算力被电力卡脖子的当下,这一项的分量最重。
成本账也算得过去。把供电、散热、网络全部纳入,Jalapeño单芯片每小时总拥有成本约1.56美元,与H100的1.55美元基本持平,而英伟达Vera Rubin高达3.61美元。
OpenAI芯片负责人Richard Ho透露,Jalapeño在700瓦低功耗下就能跑出强劲性能,最快今年晚些时候投入使用,目标是大幅压低数据中心电力开支。
AI设计芯片:GPT-Astra深度参与全程
16个月的研发周期靠什么压出来的?答案是AI自己。
SemiAnalysis披露,OpenAI在芯片设计过程中大量使用内部模型,旗舰模型GPT-Astra深度参与了研发全程。AI辅助设计让SIMD单元面积缩减8%,矩阵引擎面积缩减10%,时序和功耗表现还优于初始版本。
软件层面同样如此。OpenAI用内部扩展版Codex编写内核,部分内核代码长达约3000行。自研内核编程语言Gluon(基于Triton构建)加上自研推理引擎”Teacup”,配合AI快速调优——不到两周,芯片在特定交互速度下的吞吐量提升超过2倍;8天内,张量并行从TP8扩展到TP32,跨机架全机柜规模部署跑通。
SemiAnalysis的评价很犀利:跑在英伟达GPU上的OpenAI模型,正在设计一颗威胁CUDA护城河的芯片。英伟达自己的GPU,正在实时催生自己的潜在接班人。
Anthropic也已启动自家芯片项目,并计划把研发周期压到OpenAI所用时间的一半。AI设计芯片的飞轮,多家公司都在推。
架构拆解:通用设计为何反而更快
外界原本预设Jalapeño是颗专配OpenAI自家模型的定制芯片。SemiAnalysis的结论恰恰相反:这是一颗面向AI推理的通用芯片,能跑各类模型和工作负载,团队甚至用Codex把《毁灭战士》移植上去跑。
设计哲学只有一条:消除固定延迟。GPU依赖复杂的内存层级,Jalapeño把计算核心与HBM切片直接绑定,每个核心片对自己那片HBM有低延迟的本地视图,核心片之间走专用高带宽集合通信网络同步。
执行单元上,Jalapeño采用乱序执行(OoO)核心搭配L1缓存,没有用其他加速器常见的软件管理暂存器。小批量、低延迟场景下,它更容易逼近硬件理论峰值。
内存带宽是拉开差距的关键。Jalapeño用上HBM4,单封装带宽达到15.4TB/s,每瓦HBM带宽为22;作为对比,英伟达Rubin是11.1,GB300只有5.71。HBM4引脚速度10Gbps,略高于Rubin的9.6Gbps,供应商据称为三星。
从零构建软件栈反而成了优势。没有历史包袱,架构决策更干净,这正是CUDA生态之外的新玩家能快速起量的原因。
英伟达的麻烦:护城河还在吗
SemiAnalysis在报告里抛出一个大胆判断:CUDA的护城河可能已经死了。
依据是软件成熟速度。英伟达Rubin的CoWoS流片比Jalapeño还早一个月完成,但外界能看到的公开基准数据只来自CoreWeave的工程样片,英伟达没有开放第三方进实验室自由测试。硬件差距看不出多少,软件成熟度的差距却摆在明面上。
资本市场的反应也说明问题。此前英伟达曾两日市值蒸发4300亿美元,Blackwell芯片小时租金从2.75美元涨到4.08美元、涨幅48%的算力紧供给,正在被自研芯片阵营分走预期。
当然,保留意见也得说清楚。目前测试只覆盖8k1k这类相对简单的工作负载,AgentX多轮长上下文测试尚未完成。更复杂的智能体场景下,路由器、前缀缓存的表现还是未知数。公测样片均为A0步进,量产预计2027年才逐步爬坡。
下一步:B0入厂,10GW版图展开
Jalapeño的故事没讲完。
B0步进已进入晶圆厂,预计每瓦性能较A0再提升约25%,单颗计算die的MXFP4算力达13.4 PFLOPs,TDP维持700W。系统方案与Celestica合作设计,每个ASIC机柜装128颗芯片,双机柜总功耗约160kW,与GB300双宽机柜相当。单一扩展网络域最多可连2048颗Jalapeño XPU,覆盖16个机架。
更大的图景是OpenAI与博通签署的10GW定制加速器合作协议——这个量级大致相当于十座核电机组的满发功率。下一个里程碑是100MW部署规模。
Richard Ho强调,英伟达仍是重要合作伙伴,OpenAI对算力的需求极其庞大,短期不会放弃现有供应商。
Jalapeño的意义或许不在今天能替代多少英伟达芯片。它证明了一件此前被普遍质疑的事:一家AI公司,用AI工具,在创纪录的时间里,造出了一颗真正有竞争力的芯片。
这个飞轮已经转动。下一个上去推的,可能是Anthropic,也可能是更多等不及算力的AI公司。
苏公网安备32010502011527号
发表回复