被稱為開眼看世界的林則徐,在自己的書房中寫了這樣一副對(duì)聯(lián),以做自勉:海納百川,有容乃大,壁立千仞,無(wú)欲則剛。
包容的胸懷是我們做成很多事情的根基,也是一項(xiàng)產(chǎn)業(yè)戰(zhàn)略、科技事業(yè)發(fā)展的關(guān)鍵。近幾年,數(shù)據(jù)基礎(chǔ)設(shè)施國(guó)產(chǎn)化,在科技自立的大背景下如火如荼。比如,以計(jì)算和存儲(chǔ)為主要構(gòu)成的HPC/AI數(shù)據(jù)基礎(chǔ)設(shè)施事關(guān)國(guó)計(jì)民生,在以科技創(chuàng)新和基礎(chǔ)科研為代表的關(guān)鍵領(lǐng)域均扮演著重要角色。但很多科技科研場(chǎng)景的HPC/AI數(shù)據(jù)基礎(chǔ)設(shè)施當(dāng)前都依托X86 CPU+GPU+Lustre存儲(chǔ)+IB交換機(jī)這個(gè)大一統(tǒng)的抱團(tuán)生態(tài)體系,且已成為業(yè)界公認(rèn)的HPC/AI設(shè)施最佳性能組合之一。如何兼顧科技科研領(lǐng)域的效率成果與自立自強(qiáng),為HPC/AI等多樣性算力應(yīng)用關(guān)鍵場(chǎng)景,提供最適合業(yè)務(wù)的數(shù)據(jù)底座,成為一個(gè)關(guān)鍵問題。
這種情況下,“海納百川,有容乃大”的意義就凸顯了出來(lái)。不久之前,在深圳一所國(guó)家重點(diǎn)實(shí)驗(yàn)室,華為OceanStor Pacific分布式存儲(chǔ)與早期依托X86 CPU+GPU+Lustre存儲(chǔ)+IB交換機(jī)組網(wǎng)構(gòu)建的某大科學(xué)裝置AI集群進(jìn)行了綜合的POC測(cè)試。其結(jié)果顯示,華為OceanStor Pacific分布式存儲(chǔ)完美兼容匹配該大科學(xué)裝置的AI集群生態(tài)環(huán)境,更重要的是通過(guò)實(shí)測(cè),其多項(xiàng)指標(biāo)性能和功能均優(yōu)于現(xiàn)有系統(tǒng)。華為與該國(guó)家重點(diǎn)實(shí)驗(yàn)室聯(lián)合操作的這項(xiàng)POC測(cè)試意義極其深遠(yuǎn)重大,遠(yuǎn)超于一款產(chǎn)品或解決方案發(fā)布:它代表了一種實(shí)事求是,兼容并蓄的發(fā)展策略;是一塊國(guó)產(chǎn)先進(jìn)存儲(chǔ)面向全球的敲門磚,一艘中國(guó)科技與全球化間的破冰船;對(duì)于科學(xué)研究,乃至更多領(lǐng)域的數(shù)字化、智能化進(jìn)程來(lái)說(shuō),這是十分幸運(yùn)的。
數(shù)據(jù)之潮,時(shí)代之需:科研場(chǎng)景的存儲(chǔ)挑戰(zhàn)
X86+GPU主導(dǎo)的大一統(tǒng)生態(tài)技術(shù)體系經(jīng)過(guò)了數(shù)十年發(fā)展和構(gòu)建,其大樹根基在全球和中國(guó)已經(jīng)十分深遠(yuǎn)。大量國(guó)際國(guó)內(nèi)的數(shù)字化工具和軟件應(yīng)用,數(shù)字化成果都捆綁X86+GPU。這在某種程度上來(lái)說(shuō)是種無(wú)奈,但也是客觀存在不可回避的現(xiàn)實(shí)。
尤其在科研領(lǐng)域,HPC/AI正在全球各個(gè)學(xué)科的研究中扮演重要角色,X86+GPU算力平臺(tái)可以更方便教授學(xué)者與科研從業(yè)人員接觸全球最新學(xué)術(shù)動(dòng)態(tài)和驗(yàn)證科研成果。這種強(qiáng)慣性的作用下,短時(shí)間內(nèi)強(qiáng)行脫離X86生態(tài)是不現(xiàn)實(shí)的。因此,早期甚至當(dāng)前新建的很多HPC/AI基礎(chǔ)設(shè)施,選擇建立在X86+GPU體系上。
隨著HPDA的整體發(fā)展,從業(yè)務(wù)負(fù)載上而言需要考慮HPC/AI、大數(shù)據(jù)以及AI的混合疊加,需要支持應(yīng)用驅(qū)動(dòng)的科學(xué)計(jì)算工作流,進(jìn)而推動(dòng)負(fù)載以數(shù)據(jù)為中心,從計(jì)算科學(xué)發(fā)現(xiàn)轉(zhuǎn)向數(shù)據(jù)科學(xué)發(fā)現(xiàn)轉(zhuǎn)變。
科技科研的突破速度取決于數(shù)據(jù)基礎(chǔ)設(shè)施的性能,特別是對(duì)數(shù)據(jù)存儲(chǔ)性能帶來(lái)極致挑戰(zhàn)。第一個(gè)挑戰(zhàn)是應(yīng)用的數(shù)據(jù)量級(jí)從PB級(jí)正在加速走向EB級(jí);第二個(gè)挑戰(zhàn)是應(yīng)用的負(fù)載從單一走向多樣化,也就是常說(shuō)的混合負(fù)載;最后一個(gè)挑戰(zhàn)是應(yīng)用類型的變化,從簡(jiǎn)單走向復(fù)雜。核心是數(shù)據(jù)與業(yè)務(wù)的耦合度在增加,數(shù)據(jù)計(jì)算需要參與整個(gè)業(yè)務(wù)流程的多個(gè)環(huán)節(jié),且環(huán)環(huán)相扣,缺一不可。
在當(dāng)前推進(jìn)科技科研自立自強(qiáng)的大時(shí)代背景下,面對(duì)這些數(shù)據(jù)中心存儲(chǔ)挑戰(zhàn)和需求,以及面對(duì)X86+GPU體系暫不可完全替代,國(guó)內(nèi)業(yè)界都希望看到先進(jìn)的國(guó)產(chǎn)存儲(chǔ)兼容X86+GPU環(huán)境的下的HPC/AI應(yīng)用,也可以提供媲美Lustre存儲(chǔ)的性能和功能。
更佳性能,更優(yōu)選擇:華為分布式存儲(chǔ)的價(jià)值呈現(xiàn)
不久之前,華為OceanStor Pacific分布式存儲(chǔ)與在深圳某國(guó)家重點(diǎn)實(shí)驗(yàn)室依托X86 CPU+GPU+Lustre存儲(chǔ)+IB交換機(jī)組網(wǎng)構(gòu)建的大科學(xué)裝置AI集群進(jìn)行了POC測(cè)試。從測(cè)試結(jié)果上看,整體兼容效果良好,沒有出現(xiàn)任何兼容問題,并且使用了華為OceanStor Pacific分布式存儲(chǔ)之后,存儲(chǔ)在功能、性能上優(yōu)于現(xiàn)有系統(tǒng),融入計(jì)算集群的效果也更加良好。
這次測(cè)試對(duì)接的成功,表明華為在技術(shù)創(chuàng)新、產(chǎn)品兼容上的進(jìn)取姿態(tài),也表明其為科研創(chuàng)新,乃至更廣闊計(jì)算、存儲(chǔ)領(lǐng)域做出貢獻(xiàn)的決心??蒲薪逃c國(guó)家實(shí)驗(yàn)性,在一個(gè)國(guó)家的計(jì)算基礎(chǔ)設(shè)施中具有代表性意義。與該大科學(xué)裝置AI集群的成功對(duì)接,可以看作華為OceanStor Pacific分布式存儲(chǔ)敲開了國(guó)產(chǎn)存儲(chǔ)為HPC/AI提供更優(yōu)選擇的大門。HPC/AI應(yīng)用場(chǎng)景下,Lustre不再獨(dú)領(lǐng)風(fēng)騷。
一般來(lái)說(shuō),多元算力包括x86、ARM、AI、GPU計(jì)算等多種計(jì)算生態(tài),存儲(chǔ)需要根據(jù)不同的計(jì)算場(chǎng)景與計(jì)算設(shè)施,為用戶提供最佳體驗(yàn)。華為分布式存儲(chǔ)的價(jià)值與優(yōu)勢(shì),釋放到HPC/AI場(chǎng)景,可以有效滿足科研等場(chǎng)景中的存儲(chǔ)需求。
具體而言,華為OceanStor Pacific分布式存儲(chǔ)通過(guò)這樣幾個(gè)角度,破除HPC/AI場(chǎng)景的存儲(chǔ)困局。
首先解決海量數(shù)據(jù)高性價(jià)比存儲(chǔ)的問題:我們知道隨著HPC/AI業(yè)務(wù)量的不斷增長(zhǎng),往往最先遇到的是機(jī)房空間不足和存儲(chǔ)成本高昂的問題。為此,華為推出了 華為OceanStor Pacific分布式存儲(chǔ)高密專用硬件,基于全新的高密架構(gòu)設(shè)計(jì),并提供更高的容量利用率,在有限的機(jī)房空間里存下更多數(shù)據(jù),更好地滿足海量數(shù)據(jù)增長(zhǎng)的需要。疊加華為OceanStor Pacific分布式存儲(chǔ)的智能分級(jí)存儲(chǔ)技術(shù),對(duì)域內(nèi)熱、溫、冷數(shù)據(jù)進(jìn)行統(tǒng)一管理,數(shù)據(jù)能夠在熱、溫、冷層系統(tǒng)間自動(dòng)遷移,無(wú)需管理員手動(dòng)干預(yù),靈活有效地管理數(shù)據(jù)全生命周期,同時(shí)有效解決海量數(shù)據(jù)的運(yùn)維管理難題。
其次,提供面向混合負(fù)載的高性能:HPC/AI應(yīng)用計(jì)算所涉及的數(shù)據(jù)越來(lái)越多、類型越來(lái)越豐富、任務(wù)并發(fā)性也越來(lái)越高,因此需要性能更加均衡的存儲(chǔ)。華為OceanStor Pacific分布式存儲(chǔ)采用OceanFS新一代并行文件系統(tǒng),結(jié)合獨(dú)特的大小I/O自適應(yīng)數(shù)據(jù)流技術(shù),一套存儲(chǔ)即可同時(shí)滿足極致帶寬、極致IOPS和極致時(shí)延的混合負(fù)載要求。通過(guò)與分布式并行客戶端(DPC)的密切配合,打破單流和單客戶端的性能瓶頸,幫助企業(yè)有效應(yīng)對(duì)混合工作負(fù)載的挑戰(zhàn)。
最后,多個(gè)不同業(yè)務(wù)環(huán)節(jié)數(shù)據(jù)的高效安全流動(dòng):由于數(shù)據(jù)量的增大、數(shù)據(jù)應(yīng)用的復(fù)雜化,數(shù)據(jù)在不同環(huán)節(jié)、不同系統(tǒng)間高效流動(dòng)是HPC/AI業(yè)務(wù)面臨的一個(gè)主要挑戰(zhàn)。華為OceanStor Pacific分布式存儲(chǔ)擁有業(yè)界領(lǐng)先的多協(xié)議互通能力。多個(gè)存儲(chǔ)服務(wù)同時(shí)訪問一份數(shù)據(jù),支持 NFS、CIFS、HDFS 和 S3 等協(xié)議的按需部署,通過(guò)其中一種協(xié)議寫入的數(shù)據(jù),無(wú)需遷移即可被其他協(xié)議讀取,提高跨環(huán)節(jié)、跨系統(tǒng)的數(shù)據(jù)分析效率。
此次面向多元算力,釋放多元算力價(jià)值的全面啟航,展現(xiàn)了華為的包容與兼顧,也展現(xiàn)了華為OceanStor Pacific分布式存儲(chǔ)乃至華為存儲(chǔ),邁向科研+HPC/AI場(chǎng)景的發(fā)展方向。
面向未來(lái),有容乃大:數(shù)據(jù)基礎(chǔ)設(shè)施再啟航
在成功完成兼容測(cè)試后,華為在市場(chǎng)與受眾的層面獲得了更廣泛的認(rèn)可。但華為OceanStor Pacific分布式存儲(chǔ)與深圳知名的國(guó)家重點(diǎn)實(shí)驗(yàn)室大科學(xué)裝置X86 AI集群進(jìn)行的POC測(cè)試,更廣泛的價(jià)值在于面向科研領(lǐng)域、ICT領(lǐng)域,展現(xiàn)了一種關(guān)于有容乃大的智慧。
這次測(cè)試成功,對(duì)于多方面來(lái)說(shuō)都有其意義。
對(duì)于科研機(jī)構(gòu)來(lái)說(shuō),X86環(huán)境的HPC/AI可以很快獲得更好的存儲(chǔ)支持,即使不在短期進(jìn)行國(guó)產(chǎn)化計(jì)算替換,也可以實(shí)現(xiàn)數(shù)據(jù)可控、可信的數(shù)字化戰(zhàn)略,從而獲得更穩(wěn)健、開放的科研環(huán)境。
對(duì)于HPC/AI相關(guān)項(xiàng)目與數(shù)據(jù)中心來(lái)說(shuō),華為OceanStor Pacific分布式存儲(chǔ)兼容多元算力意味著更多選擇,更廣闊的解決方案構(gòu)建空間,確保計(jì)算基礎(chǔ)設(shè)施真正實(shí)現(xiàn)多樣性。對(duì)于計(jì)算國(guó)產(chǎn)化趨勢(shì)來(lái)說(shuō),我們不搞封閉和孤立,而是在開放、包容的態(tài)勢(shì)中走向科技自立自強(qiáng)。
華為分布式存儲(chǔ)支持多元化算力,意味著是一個(gè)真正開放兼容、自主創(chuàng)新的高可靠存儲(chǔ)數(shù)據(jù)底座正在建立,具備傳統(tǒng)超算、大數(shù)據(jù)分析及AI分析能力,應(yīng)用驅(qū)動(dòng)統(tǒng)一數(shù)據(jù)源支持全流程科學(xué)計(jì)算服務(wù),在為科研及商業(yè)提供多樣性算力同時(shí),能夠基于數(shù)據(jù)知識(shí)累積,提供高階數(shù)據(jù)價(jià)值服務(wù)。華為OceanStor Pacific分布式存儲(chǔ)的兼容性提升,既是一次新的啟航,也是一個(gè)明確的指向:它向世界展示了中國(guó)ICT產(chǎn)業(yè)海納百川的胸懷,包容萬(wàn)物的決心。
免責(zé)聲明:此文內(nèi)容為第三方自媒體作者發(fā)布的觀察或評(píng)論性文章,所有文字和圖片版權(quán)歸作者所有,且僅代表作者個(gè)人觀點(diǎn),與極客網(wǎng)無(wú)關(guān)。文章僅供讀者參考,并請(qǐng)自行核實(shí)相關(guān)內(nèi)容。投訴郵箱:editor@fromgeek.com。
- 喜馬拉雅四次沖擊上市沒成功,直接攤牌,賣給騰訊音樂“傍大腿”
- 騰訊音樂收購(gòu)喜馬拉雅的“背面”
- 劉興亮 | 極簡(jiǎn)神經(jīng)網(wǎng)絡(luò)史
- 復(fù)利時(shí)代,大廠人開始轉(zhuǎn)向儲(chǔ)蓄險(xiǎn)
- 扎根業(yè)務(wù),這個(gè)618商業(yè)智能體先跑起來(lái)
- 科大訊飛董事長(zhǎng)劉慶峰司慶講話透露,7月將升級(jí)訊飛星火X1
- 金融科技的AI新進(jìn)化
- 臺(tái)積電真牛!它說(shuō)一別人不能說(shuō)二,ASML光刻機(jī)無(wú)處賣
- 科大訊飛董事長(zhǎng)劉慶峰司慶講話透露:7月將升級(jí)訊飛星火X1
- 智算產(chǎn)業(yè)將走向何方?這些聲音很有價(jià)值
免責(zé)聲明:本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說(shuō)明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。