英偉達最火算卡H100成本分析(圖)
【看中國2023年8月30日訊】近期,跟同事討論英偉達的威廉亚洲官网 財報,把目前最火熱的算卡H100的物料成本給拆了一下,結合近期海外媒體的一些測算,其中有不少有意思的地方:
1. H100的物料成本(Bill of Materials, BOM),其中主要就是三個部分:核心邏輯晶元、HBM存儲晶元、CoWoS封裝。另外還有PCB板和其他一些輔助器件,價值佔比相對較低。
2. 在網上找了一張H100的圖(SXM5模組,下圖),簡單標注一下:中間紅色框就是核心邏輯晶元,周圍圍繞著6顆HBM存儲晶元,然後7顆晶元整體用CoWoS工藝(一種Chiplet技術)封裝起來。
目前最火熱的英偉達算卡H100(SXM5模組)(網路圖片)
3. 首先是核心邏輯晶元:這是一顆面積為814mm2的Die(裸晶),是核心中的核心,由台積電臺南18號工廠生產,工藝節點用的是「4N」,其實並非真正的4nm,叫做5nm+或許更合適。
4. 這一塊核心晶元成本多少?台積電一片4N工藝的12寸晶圓價格為13400美元,面積大概70695mm2,理論上能切80多塊,考慮到良率和損耗,至少也能切65塊,單塊價格在200美元左右。
5. 然後是HBM3存儲晶元,一共6顆,圍繞著GPU,左右各3塊,採購自韓國廠商SK海力士。每個HBM晶元容量16GB,每GB大概15美元,6顆晶元加起來大概要1500美金左右。
6. 最後是CoWoS封裝。這是一種2.5D的封裝工藝,算是台積電的獨家技術。相比把晶元堆疊在一起的3D封裝,CoWoS工藝能夠提供更好的成本、散熱和吞吐帶寬,後兩者對GPU特別重要。
7. CoWoS封裝的成本台積電不會對外公布,但台積電財報披露了CoWoS工藝目前佔總營收7%,客戶只有英偉達和AMD。海外分析師Robert Castellano據此做了一個測算,大概封裝一塊H100需要723美金。
8. 這樣,我們把之前三塊成本相加,大概在$2500左右,其中台積電佔1000美金(邏輯晶元+CoWoS),SK海力士佔1500美金(未來三星會染指),再算上PCB等其他材料,整體物料成本不超過3000美金。
9. 那H100賣多少錢呢?35000美金,直接加了一個零,毛利率超過90%。過去10年,英偉達毛利率大概在60%上下,現在受高毛利的A100/A800/H100的拉動,今年Q2英偉達的毛利率已經站上了70%。
10. 這有點反常識:英偉達嚴重依賴台積電的代工,後者地位無人撼動,但這麼一塊3.5萬美金的卡,製造它的台積電只能拿1000美金,而且只是收入,不是利潤。這可能也是代工模式的魅力所在。
11. 不過,用毛利率來定義暴利,對於晶元公司意義不大,要是從沙子開始算,那毛利率更高。一張4N工藝的12寸晶圓,台積電賣給誰都差不多是1.5萬美金一片,英偉達能加個零賣給客戶,的確是人家本事。
12. 加零的關鍵是CUDA軟體生態,十幾年的持續砸錢,累計已經投入幾百億美金。目前,英偉達全球超過2萬人,大都是高薪的軟硬體工程師,把它們的薪資扣完,英偉達還能剩30∼40%的淨利潤率。
13. 目前,H100的瓶頸主要卡在台積電,而台積電的產能瓶頸又卡在CoWoS封裝上,正在瘋狂上產能。海外機構GPU Utils分析,目前H100的需求是43.2萬張,現在一卡難求,從下單到收貨至少要等3∼6個月。
14. H100的成本結構,驗證了業界的一個共識:英偉達是一家軟硬體生態公司,賣的是系統,不是硬體。蘋果是這種境界的集大成者!
(文章僅代表作者個人立場和觀點)