DeepSeek感謝騰訊技術(shù)團(tuán)隊,開源通信框架性能飛躍:DeepEP帶來全新篇章

深度優(yōu)化通信框架,為AI大模型訓(xùn)練打開全新篇章

AI領(lǐng)域,高效的通信框架是模型訓(xùn)練的關(guān)鍵因素之一。近期,騰訊技術(shù)團(tuán)隊針對DeepSeek開源的DeepEP通信框架進(jìn)行了深度優(yōu)化,使其在多種網(wǎng)絡(luò)環(huán)境下均實現(xiàn)顯著性能提升,為企業(yè)開展AI大模型訓(xùn)練提供了更高效的解決方案。這一技術(shù)方案不僅獲得了DeepSeek的公開致謝,還引發(fā)了業(yè)界的廣泛關(guān)注。

DeepEP是一個為專家混合(MoE)和專家并行(EP)量身定制的通信庫,它提供高吞吐量和低延遲的全對全GPU內(nèi)核。該庫還支持低精度運(yùn)算,包括FP8,這為AI模型訓(xùn)練提供了更多可能性。

騰訊星脈網(wǎng)絡(luò)團(tuán)隊在DeepEP開源后便展開技術(shù)攻關(guān),發(fā)現(xiàn)兩大關(guān)鍵瓶頸:一是對于雙端口網(wǎng)卡帶寬利用率不足,二是CPU控制面交互存在時延。針對這些問題,騰訊技術(shù)團(tuán)隊展開了深入的研究和優(yōu)化。

首先,他們針對雙端口網(wǎng)卡帶寬利用率不足的問題,采取了一系列措施來提高帶寬利用率。通過對網(wǎng)絡(luò)通信協(xié)議的優(yōu)化,以及對數(shù)據(jù)傳輸方式的改進(jìn),成功提升了網(wǎng)絡(luò)通信效率,實現(xiàn)了性能翻倍。

其次,針對CPU控制面交互存在時延的問題,騰訊技術(shù)團(tuán)隊采取了更加高效的控制面通信方式,減少了時延。同時,通過對CPU資源的優(yōu)化利用,進(jìn)一步提高了整體性能。這些優(yōu)化措施不僅在RoCE網(wǎng)絡(luò)環(huán)境下實現(xiàn)了性能翻倍,反哺到IB(InfiniBand)網(wǎng)絡(luò)時更使原有通信效率再提升30%。

經(jīng)過騰訊技術(shù)團(tuán)隊的深度優(yōu)化,DeepEP通信框架在多種網(wǎng)絡(luò)環(huán)境下均實現(xiàn)了顯著性能提升。在測試中,優(yōu)化后的通信框架性能在RoCE網(wǎng)絡(luò)環(huán)境提升100%,IB網(wǎng)絡(luò)環(huán)境提升30%。這一顯著的性能提升為企業(yè)開展AI大模型訓(xùn)練提供了強(qiáng)有力的支持。

值得一提的是,該技術(shù)已全面開源,并成功應(yīng)用于騰訊混元大模型等項目的訓(xùn)練推理。在騰訊星脈與H20服務(wù)器構(gòu)建的環(huán)境中,這套方案展現(xiàn)出出色的通用性。這一開源通信框架的性能飛躍,不僅為其他企業(yè)開展AI大模型訓(xùn)練提供了借鑒和參考,也為整個AI領(lǐng)域的發(fā)展注入了新的動力。

DeepSeek對騰訊技術(shù)團(tuán)隊的感謝,正是對這種技術(shù)突破和創(chuàng)新精神的認(rèn)可。這種深度優(yōu)化和開源共享的機(jī)制,將推動整個行業(yè)的技術(shù)進(jìn)步,為AI領(lǐng)域的未來發(fā)展打開全新篇章。

總的來說,騰訊技術(shù)團(tuán)隊對DeepEP通信框架的深度優(yōu)化,不僅提升了該框架的性能,也為企業(yè)開展AI大模型訓(xùn)練提供了更高效的解決方案。這一技術(shù)方案的成功應(yīng)用,展現(xiàn)了騰訊在AI領(lǐng)域的實力和領(lǐng)先地位。我們期待著騰訊在未來能夠繼續(xù)發(fā)揮其在AI領(lǐng)域的優(yōu)勢,為整個行業(yè)的發(fā)展做出更大的貢獻(xiàn)。

(免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請進(jìn)一步核實,并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負(fù)任何法律責(zé)任。
任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時,應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實,溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 )

贊助商
2025-05-07
DeepSeek感謝騰訊技術(shù)團(tuán)隊,開源通信框架性能飛躍:DeepEP帶來全新篇章
深度優(yōu)化通信框架,為AI大模型訓(xùn)練打開全新篇章 在AI領(lǐng)域,高效的通信框架是模型訓(xùn)練的關(guān)鍵因素之一。近期,騰訊技術(shù)團(tuán)隊針對DeepSeek開源...

長按掃碼 閱讀全文