OpenAI自研芯片力压英伟达 | Jalapeño | 英伟达Blackwell | Vera R
外来客 • 2026-08-26 06:02:53
声明:本文为对公开视频内容的摘要整理,
未经本站独立核实,可能与原视频存在出入,不代表本站立场、观点或建议;
观点与版权归原作者及原平台所有。
如涉及版权问题,请联系我们,核实后立即删除。
[ 免责声明 ]
📰 核心观点
- OpenAI 联合博通在 16 个月内完成自研推理芯片 Jalapeño 从组队到流片,打破 ASIC 行业通常需 3 年的周期共识。
- 该芯片并非针对 OpenAI 自家模型定制,而是通用 AI 推理芯片,在多项基准测试中性能功耗比超越英伟达、AMD 及谷歌竞品。
- 数据中心瓶颈已从算力转向电力,每兆瓦 Token 吞吐量成为核心竞争指标。
- OpenAI 采用非分离式 Prefill/Decode 架构,以应对生产流量中动态变化的输入输出比例,避免硬件闲置。
📊 关键事实与论据
- 性能数据:在 Inference X 基准测试中,Jalapeño 未使用多 Token 预测(MTP)即击败开启 MTP 的竞品;在 DeepSeek-R1 模型低并发场景下,单用户每秒 Token 数超 700;GPT-OSS 模型达到每用户每秒 1400 Token。
- 硬件规格:B0 版本基于台积电 N3P 工艺,单计算芯粒提供 13.4 PFLOPS 算力,封装带宽 15.4 TB/s;HBM 由三星提供,带宽高于英伟达 Rubin 的 9.6 Gbps。
- 架构设计:采用 MXFP 数值格式和权重驻留脉动阵列,支持小维度矩阵乘法以避免性能断崖;使用乱序执行核心和 L1 缓存,通过 Codex 辅助优化内核代码。
- 系统部署:机架包含 128 颗芯片,通过铜缆背板连接;扩展网络支持最多 2048 颗芯片互联,全局单向带宽 1.6 TB/s;整机功耗约 160 千瓦。
- 软件生态:使用自研编程语言 Gluon,基于 Triton 扩展,支持可证明正确的布局转换;内部推理引擎 Teacock 在无需人工干预下快速生成高效内核。
⚖️ 结论与风险
- 竞争优势:Jalapeño 在性能功耗比上优于英伟达 Blackwell,且因博通较低利润率具备 TCO 优势;软件栈从零构建,无向后兼容包袱。
- 潜在风险:当前数据基于 OpenAI 提供的工程样品,Semi-Analysis 未运行完整测试套件;缺乏 Agent X 等贴近生产环境的长上下文测试数据;对比对象 Rubin 已出货而 Jalapeño 仍为样品,存在代际差异。
- 行业影响:若路径走通,将动摇 CUDA 护城河,并可能颠覆对通用编译器的依赖;但大规模量产预计 2027 年才逐渐放量,可靠性与部署能力仍是挑战。
👤 同一博主
AI时代结账页面将消失 | Stripe Will Gaybrick | AI agent | 人工
前Uber CEO八年蛰伏欲重构工业AI | Travis Kalanick | Industria
大语言模型并非终局 | Rich Sutton | 强化学习 | 大语言模型 | 持续学习 | 合成
Cerebras CS-4:性能翻倍 | WSE-3晶圆级引擎 | AI推理芯片 | 内存带宽 |
硅谷口水战,AI十年内能治愈所有疾病么?| Dario Amodei | 癌症治疗 | AI药物研发
英伟达的新护城河 | 黄仁勋 | OpenAI | 人工智能 | AI算力 | 数据中心 | GPU
Cursor推出代码托管平台Origin | GitHub | AI编程 | AI Agent |
智能的基石与未来 | 李飞飞 | 安德鲁·休伯曼 | ImageNet | 计算机视觉 | 空间智能
草台班子?! Claude的安全护栏竟然一年没开 | Anthropic 168页AI风险报告解读
AI内存十年涨五倍需求 | SK海力士崔泰源 | HBM | 内存短缺 | AI Agent | D
🧭 类似博主
0 条评论
发表评论
请先 登录 后参与讨论。