2026.09.24 | AC | ASIC | TPU Supply Chain Check
原标题：TPU 调研：供应链调研以及TPU后续迭代
摘要
TPU 供应链重构：MediaTek 成本优势与交付风险并存
- 公司调整 TPU 供应链策略，引入 MediaTek 采用 Full-custom 模式以降低成本，旨在通过节省资本支出增购 HBM 资源。
- MediaTek 进度滞后，TPU V9 样品预计推迟至 2027Q2 提交，且面临 Intel 工艺良率低、SerDes 研发周期长及电压控制经验不足等瓶颈，量产确定性弱于 Broadcom。
- TPU V9 架构升级显著，BF16 算力达 14.6-673.8 TFLOPS，HBM4e 容量升至 280GB+，SRAM 扩容至最高 550MB 以减少对 HBM 的依赖。
- 推理性能优势稳固，TPU V7 能效比为 5.42 TFLOPS/watt，优于 GB200 的 3.57 TFLOPS/watt，且 TCO 成本较 GPU 方案低约 25%-40%。
以下为专家观点
Q&A
请介绍一下TPU后续几代产品（如V8、V9、V10）的核心更新、主要适配的产品以及性能提升情况？
对于TPU V8，目前由Broadcom负责的项目正在推进中。若不考虑HBM和CoWoS短缺的影响，预计到2026年底，芯片组出货量可达210万颗。而由MediaTek负责的训练芯片，订单量较低，并且预计MediaTek今年（2026年）无法提交样品，更有可能在2027年第二季度提交，之后才能开始服务器托盘的部署和集成。
对于TPU V9，最初有三个模型。其中一个模型原计划与Broadcom合作，但由于在合作模式上（从full turnkey转向semi-custom）未能达成一致，因此该合作未能推进。目前，一个高端模型和一个采用HBM4e的推理模型（inference one）都交给了MediaTek。然而，终端客户对采用MediaTek的芯片存在顾虑，更倾向于选择Broadcom或Marvell等已有实际产品落地经验的供应商，因为MediaTek目前的所有方案仍停留在纸面阶段，尚未产出任何样品。因此，公司可能会调整策略，将采用HBM4e的模型转交给Marvell。
对于TPU V10，目前规划了两个模型。一个是计划由MediaTek设计、TSMC生产的入门级模型；另一个是计划采用三星2纳米工艺生产的模型，合作方可能是Broadcom或AMD，但具体供应商尚未最终确定。
随着模型向Agent演进，TPU V8和V9在架构或技术上做了哪些具体的升级以适应新的硬件需求？
TPU V9规划了三个不同型号。首先是用于训练的TPU 9 Homofish，它将采用HBM4，并具备多晶片（multi-chiplet）扩展能力，其计算晶片（compute die）将由MediaTek设计。其次是高端推理型号TPU V9 Triggerfish，它将配备大量的HBM4e，并集成一个CPU wall（与AMD合作开发的项目）以及大量的SRAM。
网络互联方面，计划继续使用Boardfly技术。需要指出的是，TPU V9目前尚未投产，所有设计细节仍处于内部与MediaTek的讨论阶段。
在TPU V9的供应链中，Google与Broadcom、MediaTek和Marvell等不同供应商合作的考量是什么？这些合作模式有何不同？
与多家供应商合作主要是出于保障供应链多元化的战略考虑。过去，Google仅与Broadcom合作。引入MediaTek时，采用了“semi-custom”模式，即客户自有工具（customer own tooling）。在该模式下，双方共同承担HBM、TSMC产能和PCB的预订，共享配额。例如，如果MediaTek耗尽其配额，Google可以使用自己的配额来支持生产，此时芯片的ASP（平均销售价格）会相应降低。然而，Broadcom从未同意semi-custom模式。
对于TPU V9，Google要求MediaTek采用“full-custom”模式，即由Google预订所有HBM、封装、基板等资源，并与MediaTek共享配额。这种模式下，MediaTek无法像Broadcom那样通过预订折扣获取额外利润。当Google要求Broadcom转向semi-custom模式时，遭到了拒绝，这是其在TPU V9项目中被排除的主要原因之一。另一个原因是Broadcom自身已有高达1,000亿美元的积压订单，客户包括OpenAI、ByteDance等，为避免其产能过载，Google决定暂时将供应链重心转移至MediaTek。
此外，公司计划将一款采用较旧HBM3的TPU V9项目交由Marvell负责。
从TPU V9和V10开始，与Broadcom、MediaTek、Marvell等供应商的合作模式将如何演变？订单将如何分配？
直到TPU V8，Broadcom都是主要合作方。但在TPU V9中，目前没有分配给Broadcom的型号，其三个模型中有两个分配给MediaTek，一个分配给Marvell，但与Marvell的合作仍在讨论中，尚未最终确定。
展望未来，计划在2027年，由MediaTek负责的TPU V9训练模型将进入非常早期的生产阶段。而高端的Triggerfish模型将于2028年第一季度初投产，具体产量取决于Anthropic和Meta等客户的订单情况。
尽管目前没有将具体型号分配给Broadcom，但并未将其完全排除。Google已与Broadcom锁定了产能，可用于支持到2030年的芯片生产。当前的挑战是说服包括Anthropic、Meta、New Cloud和BlackRock在内的客户，让他们相信MediaTek的芯片与Broadcom的产品同样强大。如果客户接受，MediaTek将成为主要供应商。如果客户不接受，将提供Marvell作为替代方案。若客户坚持只使用Broadcom，Google也为其预留了部分产能，虽然规模不大，但足以满足该部分客户到2029年的需求。
未来几代TPU计划解决哪些关键问题？在计算、内存、互联和软件支持方面会有哪些重要变化？
未来TPU的发展主要聚焦于解决以下几个核心问题：
在互联方面，为解决单芯片算力不足的问题，计划构建更大规模的TPU集群。例如，在TPU V9中，计划在一个pod内连接超过11,000颗芯片。这将通过名为Virgo的互联技术实现，以突破现有OCS（Optical Circuit Switching）的连接瓶颈。同时，通过名为Boardfly的技术来解决MoE（Mixture of Experts）模型的通信问题，目标是将网络跳数从目前的16跳减少到7跳，使TPU能够与更远的芯片通信，从而减少工作负载转换，实现网络最大直径降低56%。
在计算与内存方面，一个关键目标是减少KV Cache的占用，以支持更长的上下文并使用更少的token生成内容。同时，通过用更大容量的SRAM替代部分HBM来降低对HBM的依赖。此外，一个核心瓶颈在于集合通信（collective communication）、规约和同步。通过名为CAE（Collective Acceleration Engine）的技术，计划将相关指标从TPU V8的2.5-3倍提升至TPU V9的7.8-8.2倍，从而以更低的功耗和更少的token处理更多计算任务。
在软件支持方面，由于目前用户普遍习惯于使用NVIDIA的CUDA生态系统，TPU的采用率受限。因此，TPU V9将大幅提升对PyTorch TPU的支持能力，并增强对Jax的支持系统，旨在降低用户的使用门槛，吸引更多开发者采用TPU生态。
针对TPU V9计划在一个pod中连接11,000颗芯片，以及处理更长上下文和优化HBM使用的目标，目前是否有明确的解决方案？
这些问题目前正处于设计和演进的过程中，尚未形成最终的、确定的解决方案。针对大规模集群的互联问题、支持更长上下文的KV Cache优化，以及解决HBM容量和带宽瓶颈的方案，都还在积极的探索和开发阶段。
当前在解决HBM供应瓶颈问题上进展如何，是否有明确的解决方案？
目前尚无确切的解决方案，仍在尝试多种方法。问题根源在于HBM4的供应量非常有限，NVIDIA已与三星和SK Hynix锁定了绝大部分产能并提前下了更多订单，导致即使愿意支付溢价也无法获得供应。为应对此问题，正在探索几种替代路径：其一，考虑放弃最新的HBM4，转而使用HBM3E或更早版本的产品；其二，尝试在TPU芯片上增加SRAM的容量以替代HBM。SRAM的挑战在于其物理尺寸较大，目前TPU 8的SRAM容量为384MB，另一款TPU型号为288MB。计划为TPU 9将SRAM容量提升至450-500MB之间，但更高容量将因芯片尺寸过大而导致良率下降，故不可行。其三，利用谷歌去年（2025年）推出的TurboQuant技术，该技术宣称可显著减少高达70%的HBM使用量。这些措施都处于持续的探索和评估阶段，旨在减少对HBM的依赖或提升KV Cache的性能。
如果联发科无法在2026年第四季度结束前解决其基于英特尔设计的TPU V9的良率问题，谷歌是否会重新转向采用博通基于台积电CoWoS技术的方案？
首先，评估联发科表现的最终期限并非2026年第四季度，而是2027年。目前尚未收到联发科的量产样品，仅有一些Golden Sample和Tape-out样品。如果到2027年第三或第四季度，其良率问题仍未解决，公司不会完全放弃与联发科的合作，但会降低其业务优先级。主要原因是成本差异巨大：联发科的报价大约是博通十分之一。与联发科合作节省的资本支出可用于采购HBM等其他关键资源。因此，即使联发科无法达到预期，公司可能会将分配给它的三款模型中的高端模型转交给Marvell或博通，但保留低端模型的合作。只有在联发科完全无法交付任何产品的情况下，才会考虑将其从供应商名单中移除。此外，从长远来看，实现Full Custom Tooling需要与联发科或Alchip这样的合作伙伴进行，而博通和Marvell不会接受这种合作模式。
博通是否仍在为谷歌推进两个2nm TPU项目？
关于2nm项目，目前并未正式将任何项目分配给博通，主要因为双方在半定制化（semi-custom）合作条款上尚未达成一致。但这并不意味着未来不会合作。公司已为博通预留了部分2nm产能，以应对主要客户（如Anthropic、Meta）可能不接受联发科方案的风险。公司内部可以承担使用联发科芯片的风险，但付费客户则需要更成熟的方案。最终决定将取决于联发科TPU 8样品的性能表现，届时会向客户展示数据，证明联发科方案的性价比。在最终芯片性能数据出来之前，与博通的项目分配处于待定状态。
随着底层LLM向更大、更稠密的MoE模型演进，以及出现更多Agent类动态负载，TPU在推理方面的优势相对于GPU是增强了还是减弱了？
TPU在推理方面的优势依然非常稳固。以GB200与已部署的TPU V7进行比较：
在训练性能（FP32）方面，GB200的能效比为10.71 TFLOPS/watt（15 PFLOPS @ 1.4 kW），而TPU V7为5.42 TFLOPS/watt（4.61 PFLOPS @ 0.85 kW），GPU的训练性能约为TPU V7的两倍。
但在推理性能（FP8）方面，GB200的能效比为3.57 TFLOPS/watt（5 PFLOPS @ 1.4 kW），而TPU V7的能效比仍为5.42 TFLOPS/watt（4.61 PFLOPS @ 0.85 kW）。这意味着TPU V7在推理上的性能不仅是GB200的两倍，同时功耗更低。
从TCO角度看，运行FP8推理任务时，GB200的每小时TCO为1.26美元，而谷歌内部使用TPU的成本为0.76美元，对外部客户（如Anthropic）的成本约为0.95美元。
从性能功耗比来看，GB200为2.88 TFLOPS/watt，而谷歌TPU为4.25 TFLOPS/watt。
综合来看，TPU在推理性能、成本和功耗方面，目前仍全面优于GB200。
MediaTek在当前项目中面临哪些主要的技术挑战和瓶颈？
MediaTek在当前项目中面临多方面的挑战。首先是流片（tape-out）问题，自2025年以来，其从台积电获取合格样品的尝试已失败超过两次。这是MediaTek首次执行此类项目，未能成功交付功能完备的流片样品。
其次，在实际性能表现上，尽管纸面数据显示其性能与Broadcom相当，但真实环境测试结果远未达到Broadcom的水平。
再者，在面向未来的技术升级方面，当行业普遍转向应用于3D堆叠的448G SerDes时，MediaTek因缺乏相应授权而无法跟进。为此，公司被要求研发一种全新的36G SerDes标准，这是全球范围内首次尝试。预计MediaTek及其合作伙伴需要一年半到两年的时间才能完成这项新标准的研发，这对于计划于2027年启动初期产能爬坡的TPU 9项目构成了时间上的挑战，并可能导致TPU 9的延期。
此外，项目还面临电压控制（voltage control）的挑战，这是一个在多Die与HBM集成时因机械应力产生的物理问题。Broadcom凭借多年经验能在大约三周内解决此类问题，而首次面对此问题的MediaTek则需要长达四个半月的时间。
在Die-to-Die互联技术方面，尽管2025年时未能解决，但目前已达到可接受的水平，虽然仍未及Broadcom的水准。
最后，一个当前未能解决的关键问题是EMIB（Embedded Multi-die Interconnect Bridge）基板封装。由于Intel的工艺对MediaTek而言是全新的，其在使用Intel的GVM 4和4E工艺上缺乏经验，导致在良率上迟迟无法达标。考虑到TPU 9计划使用Intel的晶圆厂进行生产，目前的良率问题使得2027年实现大规模量产的目标变得非常困难。