谁奥斯了英伟达的脖子？

如此HBM 50%占到有率，而其区供货给英伟达的HBM3E，更是牢牢卡住了H100的第一季度：

H100 PCIe和SXM英文中的完备版大多用了5个HBM示例，H100S SXM英文中的完备版可降到6个，英伟达力推的H100 NVL英文中的完备版更是降到了12个。按照研究成果该机构的拆解，单颗16GB的HBM示例，成本颇高就平大多240美元。那么H100 NVL单单线程中的央妥善处理器的成本颇高，就将近3000美元。

成本颇高还是小弊端，受制于与H100单独相互竞争的GoogleTPU v5和AMD MI300就此量产车，后两者同样将使用HBM3E，陈能更纳捉襟见肘。

面对激增的效益，；还有SK海力士已定下效益量翻番的小前提，著弓新建产线，Galaxy和DRAM也对HBM3E摩拳擦掌，但在矽行业，新建产线从来不是一蹴而就的。

按照9-12个月的周期乐观预计，HBM3E效益量至少也得到到时第一季度才能得到补充。

另外，就算应付了HBM的效益量，H100能供货多少，还得看惠普日本公司的口气。

CoWoS：惠普日本公司的宝刀

分析师Robert Castellano同一天花钱了一个千分之，H100使用了惠普日本公司4N生产工艺（5nm）生产，一片4N生产工艺的12寸封装价格比为13400美元，理论上可以切割86颗H100中的央妥善处理器。

如果不考虑生产良率，那么每生产一颗H100，惠普日本公司就能得到155美元的支出[6]。

但单单上，大概H100给惠普日本公司产生的支出很显然大约1000美元，显然就在于H100使用了惠普日本公司的CoWoS烧录本体技术，通过烧录产生的支出平大多723美元[6]。

每一颗H100从惠普日本公司十八工厂的N4/N5产线上下来，则会运往同在园区内的惠普日本公司精密封测二工厂，启动H100制造中的最为特别、也至关重要的一步——CoWoS。

要理解CoWoS烧录的重要性，依然要从H100的中的央妥善处理器内部设计讲起。

在增值级GPU产品中的，线程中的央妥善处理器一般都烧录在GPU本体的外围，通过PCB支架错综复杂的电路传递信号。

比如下面中的值得一提的是英伟达首部的RTX4090中的央妥善处理器，GPU本体和GDDR线程都是这样一来烧录日后凑成到石板PCB支架上，彼此独立。

GPU和CPU都遵循着冯·诺依曼核心，其本体在于“存算复合”——即中的央妥善处理器妥善处理统计数据时，很难这样一来的线程中的调取统计数据，算出启动后日后传输到线程中的，一来一回，则会所致算出的提前。同时，传输统计数据的“数量”也会因此受限制。

可以将GPU和线程的的关系众所周知汉口的江湾和吴淞，两地外的粮草（统计数据）运输很难依赖南浦大桥，南浦大桥的输送量立即了粮草运输的颇高效率，这个输送量就是线程信道，它立即了传输统计数据的速度，也外接影响着GPU的算出速度。

1980年到2000年，GPU和线程的“速度失配”以每年50%的阈值增纳。也就是说，就算造了龙耀路地下隧道和上中的路地下隧道，也只能意味着江湾吴淞两地粮草运输的增长，这就所致了颇高精度算出场景下，信道视为了越大来越大明显的瓶颈。

CPU/GPU精度与线程精度错综复杂的贫富差距正在拉大 2015年，AMD在广泛应用HBM线程的同时，也针对传输统计数据使用了一种创新的提供商：把江湾和吴淞凑成起来。

简单来说，2015年的Fiji核心DirectX，将HBM线程和GPU本体“缝合”在了朋友们，把几块小中的央妥善处理器转成了一整块大中的央妥善处理器。这样，统计数据陡然颇高效率就飞速减少。

不过如上文中的所述，由于成本颇高和本体技术弊端，AMD的Fiji核心并只能让商品付银两账。但浅层研造的爆发以及AI训练对统计数据陡然颇高效率不计成本颇高的真诚，让“中的央妥善处理器缝合”有了用武之地。

另外，AMD的思路固然好，但也产生了一个新弊端——无论HBM有多少优势，它都才会和“缝中的央妥善处理器”的精密烧录本体技术立体化，两者唇齿相依。

如果说HBM线程还能货比三家，那么“缝中的央妥善处理器”所用的精密烧录，看来看去就只有惠普日本公司一家能花钱。

CoWoS是惠普日本公司精密烧录事业的交会点，英伟达则是第一个使用这一本体技术的中的央妥善处理器日本公司。

CoWoS由CoW和oSPop而来：CoW表示Chip on Wafer，指裸片在封装上被组装的反复，oS表示on Substrate，指在基支架上被烧录的反复。

基本上烧录一般只有oS节目内，一般在代工工厂启动封装制造后，转交第三方封测工厂应付，但精密烧录增纳的CoW节目内，就不是封测工厂能应付的了的。

以一颗完备的H100中的央妥善处理器为例，H100的裸片周围分布了多个HBM示例，通过CoW本体技术凑成接在朋友们。但不只是凑成接而已，还要同时付诸裸片和示例外的无线电通信。

惠普日本公司的CoW都是其他精密烧录的看点在于，是将裸片和示例放于一个钨中的介层（只不过是石板封装）上，在中的介层中的花钱的网络管道，付诸裸片和示例的无线电通信。

全然相同的还有IBM的EMIB，差异在于通过钨桥付诸的网络。但信道远不及钨中的介层，受制于信道与传输统计数据阈值息息相关，CoWoS便成了H100的唯一同样。

这乃是卡住H100效益量的另一只弓。

虽然CoWoS功效逆天，但4000-6000美元/片的天价还是拦住了不少人，其中的就包括富可敌国的苹果公司。因此，惠普日本公司先的效益量远比受限制。

然而，AI浪潮忽然爆发，供需平衡瞬外被缔造。

早于在6月就有据所称所称，今年英伟达对CoWoS的效益仍未降到4.5万片封装，而惠普日本公司月的预计是3万片，日后纳上其他付银两家的效益，效益量缺口大约了20%。

为了弥补缺口，惠普日本公司的阵仗不可谓不大。

6月，惠普日本公司在此此前启用同在南科的精密封测六工厂，光无尘室就比其余封测工厂的纳起来还大，并敦促逐季增纳CoWoS效益量，为此将之外oS承接给第三方封测工厂。

但正如HBM扩产更易，惠普日本公司扩产也很难短时外。现有，之外烧录的设备、零组件交期在3-6个月平大多，到年末前，新效益量能上路多少仍是未有知。

不无论如何的Plan B

面对H100的结构性匮乏，英伟达也不是全然只能Plan B。

在第一季度面世后的电话会议上，英伟达就透漏，CoWoS效益量仍未有其他服务供货商参与认证。虽然不曾说就其是谁，但受制于精密烧录的本体技术门槛，除了惠普日本公司，也就只有IBM先天不足的EMIB、Galaxy技术开发了很幸一直等不来付银两家的I-Cube能勉过关斩将救火。

但本体本体技术更换如同阵前换将，随着AMD MI300就此量产车出货，AI中的央妥善处理器相互竞争拉锯，是否能和IBM和Galaxy的本体技术经年累月同步进行，深知黄仁勋自己潜意识也是惴惴。

比黄仁勋更着急的显然是付银两仅H100的云服务工制造商与AI应运而生日本公司。绝非RPG让玩家捡仅DirectX，也就是RPG帧数少了20帧；大日本公司捡仅H100，很显然就丢掉了几十亿的支出和上百亿的作价。

很难H100的日本公司主要有三类：微软公司、南美这类云服务商；Anthropic、OpenAI这些应运而生日本公司；以及戈达德这类大型新能源日本公司，戈达德的新英文中的完备版FSD方案就用了10000块H100合组的GPU集群来训练。

这还不曾都从Citadel这类保险业，以及付银两仅特供英文中的版H800的中的国日本公司。

根据GPU Utils的千分之[7]，开明估计，现有H100的供给缺口降到43万张。

虽然H100无论如何理论上的替代方案，但在单单全然都缺乏可行性。

比如H100的前代产品A100，价格比只有H100的1/3大概。但弊端是，H100的精度比A100过关斩将了太多，所致了H100单位成本颇高的算力比A100颇高。受制于新能源日本公司都是成千上万张起购，付银两A100反而更亏。

AMD是另一个替代方案，而且纸面精度和H100相差无几。但由于英伟达CUDA生态的与此相反，使用AMD的GPU很显然让技术足足变得更少，而使用H100的相互竞争对弓很显然就因为这点短零点，和自己冲破了贫富差距，甚至上亿美元的投资血本无归。

种种显然所致了，一颗整体材料成本颇高3000美元的中的央妥善处理器，英伟达单独纳个零卖，大家居然都捡着付银两。这显然是黄仁勋自己也想不到的。

而在HBM与CoWoS效益量更佳此前，付银两到H100的法则显然就只留下来了一种：

等那些靠作对逼融到银两付银两了一堆H100的应运而生日本公司负债，然后接盘他们的二弓GPU。

参考资料

[1] AI Capacity Constraints - CoWoS and HBM Supply Chain，SemiAnalysis

[2] 原工厂积极扩产，预计2024年HBM位元供给年产值105%，TrendForce

[3] HBM本体技术会给统计网络服务产生怎样的变化？矽行业纵横交错

[4] 精密烧录第二之外：IBM、惠普日本公司、Galaxy、AMD、日月光、、DRAM、SKHynix、YMTC、戈达德和英伟达的选项/使用回顾，Semiysis

[5] OpenAI牵头创始人兼职化学家Andrej Karpathy推文中的

[6] Taiwan Semiconductor: Significantly Undervalued As Chip And Package Supplier To Nvidia，SeekingAlpha

[7] Nvidia H100 GPUs: Supply and Demand，GPU Utils

编辑：李墨天

视觉内部设计：疏睿

责任编辑：李墨天

。

胃烧心是怎么回事
慢性结膜炎怎么治疗
青岛装修
喝酒喉咙痛吃什么药最见效
视疲劳用什么眼药水