博主头像

OpenAI自研芯片力压英伟达 | Jalapeño | 英伟达Blackwell | Vera R

外来客 • 2026-08-26 06:02:53

分享
𝕏 f
声明:本文为对公开视频内容的摘要整理, 未经本站独立核实,可能与原视频存在出入,不代表本站立场、观点或建议; 观点与版权归原作者及原平台所有。 如涉及版权问题,请联系我们,核实后立即删除。 [ 免责声明 ]

📰 核心观点

  • OpenAI 联合博通在 16 个月内完成自研推理芯片 Jalapeño 从组队到流片,打破 ASIC 行业通常需 3 年的周期共识。
  • 该芯片并非针对 OpenAI 自家模型定制,而是通用 AI 推理芯片,在多项基准测试中性能功耗比超越英伟达、AMD 及谷歌竞品。
  • 数据中心瓶颈已从算力转向电力,每兆瓦 Token 吞吐量成为核心竞争指标。
  • OpenAI 采用非分离式 Prefill/Decode 架构,以应对生产流量中动态变化的输入输出比例,避免硬件闲置。

📊 关键事实与论据

  • 性能数据:在 Inference X 基准测试中,Jalapeño 未使用多 Token 预测(MTP)即击败开启 MTP 的竞品;在 DeepSeek-R1 模型低并发场景下,单用户每秒 Token 数超 700;GPT-OSS 模型达到每用户每秒 1400 Token。
  • 硬件规格:B0 版本基于台积电 N3P 工艺,单计算芯粒提供 13.4 PFLOPS 算力,封装带宽 15.4 TB/s;HBM 由三星提供,带宽高于英伟达 Rubin 的 9.6 Gbps。
  • 架构设计:采用 MXFP 数值格式和权重驻留脉动阵列,支持小维度矩阵乘法以避免性能断崖;使用乱序执行核心和 L1 缓存,通过 Codex 辅助优化内核代码。
  • 系统部署:机架包含 128 颗芯片,通过铜缆背板连接;扩展网络支持最多 2048 颗芯片互联,全局单向带宽 1.6 TB/s;整机功耗约 160 千瓦。
  • 软件生态:使用自研编程语言 Gluon,基于 Triton 扩展,支持可证明正确的布局转换;内部推理引擎 Teacock 在无需人工干预下快速生成高效内核。

⚖️ 结论与风险

  • 竞争优势:Jalapeño 在性能功耗比上优于英伟达 Blackwell,且因博通较低利润率具备 TCO 优势;软件栈从零构建,无向后兼容包袱。
  • 潜在风险:当前数据基于 OpenAI 提供的工程样品,Semi-Analysis 未运行完整测试套件;缺乏 Agent X 等贴近生产环境的长上下文测试数据;对比对象 Rubin 已出货而 Jalapeño 仍为样品,存在代际差异。
  • 行业影响:若路径走通,将动摇 CUDA 护城河,并可能颠覆对通用编译器的依赖;但大规模量产预计 2027 年才逐渐放量,可靠性与部署能力仍是挑战。

博主头像 👤 同一博主

查看该博主全部 63 篇

🧭 类似博主

0 条评论

发表评论

请先 登录 后参与讨论。