騰訊云GooseFS團隊與廈門大學(xué)合作成果 AC-Cache入選 PPOPP

近日,騰訊云在存儲領(lǐng)域的論文入選并行編程領(lǐng)域頂級會議PPOPP 2025。通過設(shè)計面向小型對象的、感知訪問關(guān)聯(lián)性的內(nèi)存緩存系統(tǒng)AC-Cache,成功解決小型對象存儲場景中的負載不均衡問題,實測顯示,該系統(tǒng)可降低80.2%尾部延遲并提升5倍以上訪問吞吐量。

據(jù)悉,作為并行編程領(lǐng)域的國際頂級學(xué)術(shù)會議,PPoPP(Principles and Practice of ParallelProgramming)致力于推動理論基礎(chǔ)、技術(shù)、語言、編譯器、運行時系統(tǒng)、工具和實踐等并發(fā)和并行系統(tǒng)領(lǐng)域的突破性研究,該會議持續(xù)聚焦兩大前沿議題:優(yōu)化并行編程生產(chǎn)力,強化異構(gòu)硬件協(xié)同,同時解決超大規(guī)??茖W(xué)計算與企業(yè)級負載衍生的新型并行工作負載挑戰(zhàn)。

當(dāng)前高速網(wǎng)絡(luò)技術(shù)持續(xù)升級,導(dǎo)致網(wǎng)絡(luò)帶寬與存儲帶寬性能代差不斷擴大,存儲訪問已成為核心性能瓶頸。在此背景下,騰訊云聯(lián)合廈門大學(xué)提出了AC-Cache,一個基于訪問關(guān)聯(lián)性構(gòu)建的面向小型對象的內(nèi)存高效緩存系統(tǒng)。

目前,AC-Cache 前沿技術(shù)已在在Github - nankeys/ACCache: ACCache PPoPP25 上開源,并在騰訊云 GooseFS 產(chǎn)品中得以應(yīng)用。

騰訊云數(shù)據(jù)加速器GooseFS(Data Lake Accelerator Goose File System)是搭建在對象存儲COS之上的分布式緩存系統(tǒng),它能夠為上層計算應(yīng)用提供統(tǒng)一的命名空間和訪問協(xié)議,方便用戶在不同的存儲系統(tǒng)管理和流轉(zhuǎn)數(shù)據(jù)。

GooseFS具備性能強勁、穩(wěn)定易用、生態(tài)親和的三大核心特點。具體而言,它能夠基于分布式緩存架構(gòu),為用戶提供近計算端的高性能數(shù)據(jù)訪問能力,吞吐能力可達Tbps,延時達到亞毫秒級;此外,它還提供了全托管、Master托管、管控面托管三種部署方式供用戶選擇,集成云原生Prometheus監(jiān)控體系,還能實時監(jiān)測系統(tǒng)健康,簡化運維流程,提升系統(tǒng)穩(wěn)定性;更值得一提的是,GooseFS 深度集成了云原生與大數(shù)據(jù)技術(shù)棧,為企業(yè)提供開箱即用的數(shù)據(jù)加速能力,它支持TKECSI,通過CSI播件實現(xiàn)存儲卷秒級自動擴縮容,能夠滿足突發(fā)業(yè)務(wù)負載需求,還支持 EMR集群掛載,并兼容Hadoop/Spark/Hive等組件零改造接入,更深度適配主流AI訓(xùn)練框架,支持與TensorFlow等AI計算框架無縫對接。

隨著GooseFS 2025年的技術(shù)更新,其單鏈接性能更是達到了Gbps級別,最大化提升了硬件資源的利用效率;此外,還通過元數(shù)據(jù)分級管理技術(shù),做到支持百萬級元數(shù)據(jù)QPS,能夠在高并發(fā)、大規(guī)模數(shù)據(jù)訪問場景下依然保持高效的元數(shù)據(jù)訪問性能;并進一步實現(xiàn)了元數(shù)據(jù)的一致性,確保COS與GooseFS之間的元數(shù)據(jù)能夠?qū)崟r同步,做到無感緩存加速。

如今,傳統(tǒng)的對象存儲已經(jīng)難以滿足科技等行業(yè)對帶寬、延遲和 QPS 等高性能計算要求,GooseFS能夠加速海量數(shù)據(jù)分析、機器學(xué)習(xí)、人工智能等業(yè)務(wù)訪問存儲的性能,目前已成功應(yīng)用在海量數(shù)據(jù)分析、AIGC、汽車輔助駕駛、具身智能等業(yè)務(wù)場景中。

在部署了GooseFS后,某手機廠商Deepseek模型分發(fā)單鏈接速度達到了300 MBps,整體下載帶寬達到200Gbps,較未部署前帶寬提升了10倍,并在GPU節(jié)點提升1.5倍的情況下,分發(fā)時間縮短至原有的三分之一,大幅提升了分發(fā)效率;在汽車輔助駕駛方面,某汽車廠商通過部署GooseFS,并將其作為統(tǒng)一數(shù)據(jù)中臺,配合Airflow 調(diào)度算法,進行數(shù)據(jù)預(yù)熱,加速訓(xùn)練預(yù)處理和自動駕駛訓(xùn)練業(yè)務(wù),解決了數(shù)據(jù)孤島問題,并進一步降低了本地盤成本,實現(xiàn)90%以上的數(shù)據(jù)命中率在Cache,整體訓(xùn)練速度提高了30%。

隨著GooseFS在更多行業(yè)中得以應(yīng)用,AC-Cache研究成果將助力更多企業(yè)突破存儲訪問的性能瓶頸,邁向發(fā)展快車道。

(免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性,但不保證有關(guān)資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負任何法律責(zé)任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時,應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明,并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實,溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 )