英偉達今年預計賣出55萬塊H100 GPU：平均售價3萬美元，利潤高達9倍

極客網·芯片8月25日 GPU市場需求旺盛，導致英偉達 H100 GPU供不應求。根據《金融時報》最近的報道，英偉達預計其最新的H100 GPU今年在全球的銷量達到55萬塊。

對GPU的需求顯然來自生成式AI的開發(fā)熱潮，但高性能計算市場也在盡力搶購。目前尚不清楚這個數字是否包括中國專用的A800和H800 GPU。

另據行業(yè)KOL透露，英偉達制造一塊H100 GPU的成本為3320美元，而平均零售價約為3萬美元，利潤高達9倍。

英偉達GPU大部分流向美國公司，中東也在搶購

報道指出，雖然大部分GPU流向美國科技公司，但沙特阿拉伯已經購買了3000多塊，阿聯酋也購買了數千塊。

阿聯酋已經在阿布扎比馬斯達爾城的國有技術創(chuàng)新研究所開發(fā)了自己的開源大型語言模型，這個名為Falcon模型使用了384塊A100 GPU。

沙特阿卜杜拉國王科技大學正在建造自己的基于GPU的超級計算機Shaheen III，它采用了700個Grace Hopper芯片，結合了Grace CPU和H100 Tensor Core GPU。這些GPU被用來創(chuàng)建一個LLM。

H100 GPU是英偉達的旗艦產品，具有14592個CUDA內核、80GB HBM3容量、5120位內存總線，平均售價高達3萬美元。黃仁勛曾聲稱，這是公司第一款為生成式AI設計的芯片。

據報道，2023年上半年與2022年全年相比，生成式AI初創(chuàng)企業(yè)的投資增長了5倍以上。自從2022年第三季度以來，生成式AI基礎設施類別的投資增長已經超過70%。

3320美元成本賣30000，英偉達GPU利潤驚人

Nvidia H100 GPU的成本取決于其封裝方式以及用戶購買的數量。目前(2023年8月)H100 PCIe GPU的零售價約為3萬美元(交貨時間也可能有所不同)。

粗略估計，到2023年，全球GPU市場支出將達到165億美元，其中很大一部分資金將流向英偉達。

據《巴倫周刊》資深作家Tae Kim在最近發(fā)布的一篇社交媒體帖子中估計，英偉達制造一塊H100 GPU的成本為3320美元，而根據其零售價格，這意味獲得將近9倍的利潤。

有媒體報道，英偉達的合作伙伴臺積電的產能，已幾乎無法滿足GPU的市場需求。GPU需要采用更復雜的CoWoS制造工藝(臺積電的一種“2.5D”封裝技術，其中多個有源硅芯片，通常是GPU和HBM堆棧，集成在無源硅中間層上) 。使用CoWoS增加了一個復雜的多步驟、高精度的工藝過程，減慢了GPU的生產速度。

英偉達DGX系統(tǒng)副總裁兼總經理Charlie Boyle證實了這一點。Boyle表示，生產的延遲并不是由于臺積電的需求計算錯誤或晶圓產量問題，而是受到芯片封裝CoWoS技術的限制。

此外由于可用性降低、大量采購和價格上漲，GPU的供不應求已經開始影響HPC（高性能計算）市場的發(fā)展。

生成海報

免責聲明：本網站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網站出現的信息，均僅供參考。本網站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網站中的網頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時，應及時向本網站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網站在收到上述法律文件后，將會依法盡快聯系相關文章源頭核實，溝通刪除相關內容或斷開相關鏈接。