资讯 2026-08-26 2分钟 295

OpenAI自研芯片Jalapeño跑赢英伟达GB300,最大卖点是高吞吐、低延迟

作者
金豆子
OpenAI自研芯片Jalapeño跑赢英伟达GB300:高吞吐低延迟 OpenAI,自研芯片,Jalapeño,英伟达 ## 自研芯片Jalapeño:性能超越英伟达GB300 OpenAI首款自研大模型推理芯片Jalapeño,在公开基准测试中**单位功耗处理能力和响应速度均超越英伟达GB300**。该芯片与博通合作开发,从设计到流片耗时约16个月。 ### 性能亮点:高吞吐、低延迟 - **测试结果**:在SemiAnalysis的InferenceX基准中,Jalapeño在几乎所有场景下的性能功耗比均领先GB300,且未使用多Token预测(MTP)技术。 - **实际表现**:运行DeepSeek R1模型时,单用户生成速度超700 Token/秒,在Kimi模型上优势更明显。 - **设计优势**:芯片针对Prefill和通信阶段进行优化,减少数据搬运,软硬件协同设计使其成为通用推理处理器。 ## 700瓦功耗下的成本考量 Jalapeño在约**700瓦功耗**下实现较强性能,直击AI数据中心的电力成本痛点。OpenAI硬件负责人Richard Ho表示,随着部署扩大,该芯片将“大幅降低成本”,并逐步将更多推理负载转向自研基础设施。 ## 不会取代英伟达 **Jalapeño仅面向推理,不用于模型训练**,且未与英伟达新一代Vera Rubin对比。该芯片预计2026年底小规模部署,2027年扩大使用。OpenAI同时保留Cerebras Systems等多家供应商,以满足巨大算力需求。Jalapeño已规划为多代际平台,**第二代芯片将于未来数月完成流片**,第三代已启动概念设计。
作者

金豆子

2270 篇 1 粉丝

评论 (0)

sitemap