AMD發(fā)布GPU加速器MI300X：訓(xùn)練AI模型比英偉達(dá)H100最高快60%

12月7日消息，AMD在7日凌晨 2 點(diǎn)舉辦“Advancing AI”活動中，正式宣布了旗艦 AI GPU 加速器 MI300X，其性能比英偉達(dá)的 H100 高出 60%。

IT之家報(bào)道，AMD 提到，在訓(xùn)練性能方面，MI300X 與競爭對手（H100）不相上下，并提供具有競爭力的價(jià)格 / 性能，同時(shí)在推理工作負(fù)載方面表現(xiàn)更為出色。

該芯片完全基于 CDNA 3 架構(gòu)設(shè)計(jì)，混合使用 5nm 和 6nm IP，晶體管數(shù)量達(dá)到 1530 億個(gè)。

設(shè)計(jì)方面，主中介層采用無源芯片布局，該芯片使用第 4 代 Infinity Fabric 解決方案容納互連層。中介層總共包括 28 個(gè)芯片，其中包括 8 個(gè) HBM3 封裝、16 個(gè) HBM 封裝之間的虛擬芯片和 4 個(gè)有源芯片，每個(gè)有源芯片都有 2 個(gè)計(jì)算芯片。

每個(gè)基于 CDNA 3 GPU 架構(gòu)的 GCD 總共有 40 個(gè)計(jì)算單元，相當(dāng)于 2560 個(gè)內(nèi)核。總共有八個(gè)計(jì)算芯片 （GCD），因此總共有 320 個(gè)計(jì)算和 20,480 個(gè)核心單元。

在良率方面，AMD 將縮減這些內(nèi)核的一小部分，我們將看到總共 304 個(gè)計(jì)算單元（每個(gè) GPU 小芯片 38 個(gè) CU），總共有 19,456 個(gè)流處理器。

內(nèi)存方面，MI300X 采用 HBM3 內(nèi)存，容量最高 192GB，比前代 MI250X（128 GB）高 50%。該內(nèi)存將提供高達(dá) 5.3 TB / s 的帶寬和 896 GB/s 的 Infinity Fabric 帶寬。

AMD 為 MI300X 配備了 8 個(gè) HBM3 堆棧，每個(gè)堆棧為 12-Hi，同時(shí)集成了 16 Gb IC，每個(gè) IC 為 2 GB 容量或每個(gè)堆棧 24 GB。

相比之下，NVIDIA 即將推出的 H200 AI 加速器提供 141 GB 容量，而英特爾的 Gaudi 3 將提供 144 GB 容量。

在功耗方面，AMD Instinct MI300X 的額定功率為 750W，比 Instinct MI250X 的 500W 增加了 50%，比 NVIDIA H200 增加了 50W。

其中一種配置是技嘉的 G593-ZX1 / ZX2 系列服務(wù)器，提供多達(dá) 8 個(gè) MI300X GPU 加速器和兩個(gè) AMD EPYC 9004 CPU。這些系統(tǒng)將配備多達(dá) 8 個(gè) 3000W 電源，總功率為 18000W。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實(shí)，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。