DeepSeek開源新突破：DeepGEMM庫揭秘，訓(xùn)練推理動力強(qiáng)勁

標(biāo)題：DeepSeek開源新突破：DeepGEMM庫揭秘，訓(xùn)練推理動力強(qiáng)勁

DeepSeek在開源周的第三天宣布開放DeepGEMM代碼庫，這一舉措無疑在深度學(xué)習(xí)社區(qū)中引起了廣泛的關(guān)注。DeepGEMM是為簡潔高效的FP8通用矩陣乘法（GEMMs）而設(shè)計，其性能在各種矩陣形狀上與專家調(diào)優(yōu)的庫相匹配或超越。

DeepGEMM是專為英偉達(dá)Hopper架構(gòu)運(yùn)算設(shè)計的，其設(shè)計理念是簡潔高效。為了解決FP8張量核心累加不精確的問題，它采用了CUDA核心的兩級累加（提升）方法，這一創(chuàng)新性的解決方案使得DeepGEMM在性能上有了顯著的提升。

在設(shè)計上，DeepGEMM只有一個核心內(nèi)核函數(shù)，代碼量約為300行，這充分體現(xiàn)了其簡潔高效的設(shè)計理念。然而，其性能表現(xiàn)卻讓人眼前一亮，無論是在普通的GEMM運(yùn)算還是在專家混合（MoE）分組的GEMM運(yùn)算中，DeepGEMM都表現(xiàn)出了強(qiáng)大的實力。

DeepSeek團(tuán)隊在H800上使用NVCC 12.8測試了DeepSeek-V3/R1推理中可能使用的所有形狀（包括預(yù)填充和解碼），結(jié)果顯示DeepGEMM計算性能最高可達(dá)1358 TFLOPS，內(nèi)存寬帶最高可達(dá)2668 GB/s。這一驚人的性能表現(xiàn)無疑證明了DeepGEMM的強(qiáng)大實力。

相比于基于CUTLASS 3.6的優(yōu)化實現(xiàn)，DeepGEMM的可提速最高可達(dá)2.7倍。這一點(diǎn)足以證明DeepGEMM的優(yōu)越性。另外，在分組GEMM（MoE模型）中連續(xù)性布局、掩碼布局下，DeepGEMM的性能提升更是高達(dá)1.2倍。這無疑為MoE模型提供了強(qiáng)大的動力支持。

為了更好地推廣和使用DeepGEMM，DeepSeek團(tuán)隊還對其環(huán)境要求進(jìn)行了詳細(xì)介紹。首先，必須支持Hopper架構(gòu)的GPU，sm_90a。其次，Python 3.8及以上和CUDA 12.3及以上（推薦12.8）也是必需的。另外，PyTorch 2.1及以上和CUTLASS 3.6及以上也是推薦的環(huán)境。這些環(huán)境要求不僅說明了DeepGEMM的兼容性，也表明了DeepSeek對用戶支持的重視。

總的來說，DeepGEMM的開源是一個重大的突破，它為深度學(xué)習(xí)社區(qū)提供了新的動力和支持。它的簡潔高效的設(shè)計和強(qiáng)大的性能表現(xiàn)使其在各種矩陣形狀上的表現(xiàn)都令人印象深刻。DeepSeek團(tuán)隊的努力和貢獻(xiàn)值得我們的贊賞和肯定。我們期待著DeepGEMM在未來的應(yīng)用中能夠帶來更多的驚喜和突破。

在未來的發(fā)展中，我們相信DeepGEMM將會成為深度學(xué)習(xí)領(lǐng)域的一股重要力量，為訓(xùn)練和推理提供更強(qiáng)大的動力。同時，我們也期待著DeepSeek團(tuán)隊能夠帶來更多的開源突破，推動深度學(xué)習(xí)領(lǐng)域的發(fā)展。

生成海報

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。