撰文：Rita

Hot Chips 2026 大会传递了一个清晰的信号：AI 芯片竞赛的规则正在改变。

8 月 31 日，巴克莱发布大会专题报告指出，今年最核心的主题不再是“谁算力最强”，而是“谁能用最少的电做最多的事”。token/watt（每瓦特电能产出的 token 数）已成为衡量 AI 硬件成功的最关键指标。数据中心物理空间和电力供应双重受限，硬件供应商、超大规模厂商和组件供应商都在强调同一个目标：在固定的功率预算下榨取系统性能的极限。巴克莱认为，行业正从追求单一芯片峰值性能转向优化整个机架的系统效率，这场转变将重新定义 AI 硬件的竞争格局。

token/watt 取代算力成为第一优先级

大会多个演讲反复强调一个核心逻辑：数据中心电力供应已不再是“如果不够就扩建”的问题，而是“只有这么多瓦特，你能产出多少 token”。

AMD 对其加速器做了多项优化，包括增强超越函数引擎、增加张量数据搬运单元等，以提升单位功耗的计算效率。微软推出了软件定义本地访问数据流（SDLA）架构，通过显式的软件编排和独立的数据流与控制流分离，在提升能效的同时降低总体拥有成本。

巴克莱指出，这种优化压力正在自上而下传导至整个硬件栈，从计算核心到内存架构，从片间互联到封装设计，每一个环节都必须在有限功率预算内追求极致效率。

推理工作负载分区成为关键架构分歧

当前业界对推理工作负载的分区方式正经历深刻分歧。传统做法是训练和推理使用不同芯片，最新的芯片用于训练，上一代产品退居推理。现在，推理本身也在被进一步拆分。

最主流的方式是将预填充（计算密集）和解码（内存密集）分离到不同硬件上运行。英伟达在大会上展示了 External-Drafter 推测解码方案，由一个前置模型生成候选 token，再由主模型验证和确认。Cerebras 同样走推理分区的路线，将预填充和解码拆分，并与 AMD 和 AWS 建立了合作关系。巴克莱估算，这些方案能在 token/千瓦指标上带来一个数量级的提升。

OpenAI 选择了相反的道路。其 Jalapeno 芯片将预填充、推测生成和解码全部放在同一芯片上完成。OpenAI 的逻辑是：分区方案需要在不同硬件之间移动 KV 状态，不如将 KV 保持在同一个系统内，根据推理步骤的需求灵活调配计算、内存和网络资源。

巴克莱认为，两种方案都会存在，不同 AI 实验室和超大规模厂商最终将采用多种解决方案。Jalapeno 只是第一代产品，随着时间的推移，分区方案可能会占据更大份额。

ASIC 生态走向多元化和系统级竞争

超大规模厂商的 ASIC 正从针对特定用例（如 Meta 的广告推荐系统）向更通用的 Agentic AI 解决方案扩展。芯片设计正在覆盖更多问题领域，从而获得更广泛的适用性。

竞争正从单一计算模块扩展到整个基础设施层。每个 ASIC 方案都在通过独特的互联拓扑和内存配置来提升系统级性能。互联和内存的差异化正在成为新的竞争焦点。

谷歌 TPU 已引入联发科作为第二供应商，同时也在将 Marvell 纳入一个推理变体方案。巴克莱判断，当前 TPU 仍以博通为“主计划”，但 COT（客户自有工具）模式在 2026 年下半年将获得更多关注。

OpenAI 的 Jalapeno 芯片从初始 RTL 到流片仅用了 9 个月，工程师团队表示大部分 IP 是从零开发的。虽然巴克莱不清楚博通在核心设计中的参与程度，但博通和 Marvell 在 SerDes 和供应链能力上的积累，使其在 ASIC 量产中仍具有重要的价值。

基础 die 定制与 3D DRAM 引领内存创新

内存的容量、带宽和功耗是本届大会的另一个核心议题。英伟达的 NVHBM 计划将自定义内存控制器从 XPU 芯片移至 HBM 基础 die 上。这项改进预计将带来最高 30%的内存带宽提升、15%的 HBM 功耗降低，并在 XPU 计算芯片上腾出 25%的面积。

核心争议在于谁掌握定制化的主导权。内存长期被视为大宗商品，但定制化解决方案将使 XPU 设计者更依赖单一内存供应商。巴克莱倾向于认为，最终控制权将掌握在加速器公司而非内存厂商手中，加速器公司需要保持多个供应来源的灵活性。

3D DRAM 是另一个正在成型的方向。三星的 zHBM 方案已在探索中，Cerebras 计划在 CS-6 中采用混合键合技术。这些方案有可能大幅提升功耗效率和整体带宽，但热管理和供电仍是早期阶段的重大挑战。

CXL 内存扩展同样值得关注。巴克莱对此前 CXL 的推广持保留态度，但这次大会上的行业需求信号不容忽视。第一波用例预计将集中在内存扩展，后续才会向内存池化演进。

AI 芯片竞赛已从“算力峰值”阶段进入“能效优化”阶段。token/watt 取代 FLOPS 成为衡量标准，推理分区成为关键架构选择，ASIC 竞争延伸至系统级差异化，内存定制化与 3D 堆叠正在改写游戏规则。当每一瓦特都必须精打细算时，谁能在系统层面做出最优权衡，谁就能在下一个阶段占据优势。

免责声明

本文系潮向研究对第三方券商研究报告（巴克莱，2026 年 8 月 31 日）的整理与解读，结合公开市场信息的整理。文中引述的评级、目标价、盈利预测及相关判断，均为该券商分析师的观点，仅代表其所属机构立场，不代表潮向研究的观点，也不构成任何投资建议。

市场有风险，决策需独立。本文不应作为买卖任何证券的依据。