文 | 智能相對論
作者 | 陳泊丞
在DeepSeek爆火之后,各行各業(yè)對AI大模型的應(yīng)用與部署明顯加快。在這個過程中,端側(cè)AI模型的價值逐步被發(fā)掘,憑借低時延、實時處理、安全可靠以及成本優(yōu)化等特性備受市場重視,成為業(yè)內(nèi)探索AI大模型應(yīng)用的一個重要方向。
以智能手機行業(yè)為例,蘋果、小米、OPPO等終端廠商都在積極探索端側(cè)AI模型在智能終端上的部署和應(yīng)用,以提升智能終端的體驗。但是,由于移動設(shè)備的計算能力和存儲空間有限,如何在保證模型性能的同時減小模型體積,并成功部署在移動端是一個關(guān)鍵問題。
直到今天,這一問題正在被湖南的一家科技公司破解。湖南匯視威發(fā)布基于國產(chǎn)算力預(yù)訓(xùn)練的視覺基座大模型V1端側(cè)版本,成功滿足了視覺模型在移動端(如手機、電腦等)上的部署和推理需求,實現(xiàn)輕量級文生圖功能體驗。
繼DeepSeek之后,又一國產(chǎn)模型迎來新突破,并很有可能在端側(cè)革新AI模型的應(yīng)用范式。這在技術(shù)層面和商業(yè)層面都有著特別的意義。
端側(cè)視覺模型照進現(xiàn)實,補上云端AI的短板
即使在DeepSeek火爆的基礎(chǔ)上,廠商們依然致力于探索和優(yōu)化端側(cè)AI模型的部署與應(yīng)用。通過湖南匯視威的視覺基座大模型V1端側(cè)版本可見,端側(cè)模型在實際應(yīng)用中所展現(xiàn)出來的優(yōu)勢正好彌補上了云端AI的短板。
一、擺脫云端算力限制,具備更低的時延和更強的場景適配性。端側(cè)AI模型可以直接在用戶的移動端實現(xiàn)本地運行,無須依賴云端傳輸。湖南匯視威的視覺基座大模型V1端側(cè)版本不僅能顯著降低時延,快速響應(yīng)用戶的創(chuàng)作需求,還支持離線場景使用,哪怕是在偏遠地區(qū)或是網(wǎng)絡(luò)不穩(wěn)定場景也能保障體驗,讓用戶隨時隨地體驗輕量級的視覺文生圖手機應(yīng)用。
基于本地化運行,端側(cè)模型對比云端方案更穩(wěn)定可靠。由此,B端的企業(yè)和開發(fā)者就可以基于湖南匯視威的視覺基座大模型打造自己的專屬AI產(chǎn)品,如虛擬試衣等,不僅可以基于端側(cè)部署提供更優(yōu)質(zhì)的體驗,還能顯著降低視覺大模型邊端推理成本,從而實現(xiàn)更優(yōu)的商業(yè)回饋。
二、隱私安全保護進階,真正實現(xiàn)“數(shù)據(jù)不出域”。基于本地化運行模式,端側(cè)AI模型直接處理本地數(shù)據(jù),避免將生成的圖片數(shù)據(jù)共享在云端,提升了用戶數(shù)據(jù)的隱私保護性,也將顯著降低數(shù)據(jù)泄漏風(fēng)險。
三、推動邊緣智能普及,加速AI普惠。湖南匯視威的視覺基座大模型V1端側(cè)版本通過實現(xiàn)輕量級的視覺文生圖手機應(yīng)用,有利于進一步提升手機端AI的用戶滲透率和場景滲透率,并在企業(yè)和開發(fā)者的二次開發(fā)下讓越來越多的用戶用上安全可靠的、低成本文生圖功能。
隨著這種端側(cè)部署模式推廣開來,更多的邊緣智能如電腦、可穿戴終端等都將迎來新一輪的產(chǎn)品功能變革,釋放更多的AI紅利,讓更多的人接觸到AI,享受AI。
又一次國產(chǎn)重大突破,湖南把視覺大模型塞進了端側(cè)
雖說端側(cè)模型方案被視為是接下來智能進階、實現(xiàn)邊緣智能的關(guān)鍵,但是很長一段時間內(nèi),云端AI方案占據(jù)主流。究其原因,在于AI模型的端側(cè)部署考慮到模型性能、模型參數(shù)以及移動終端的算力局限、本地存儲局限等一系列問題,在實際落地上存在較為嚴苛的要求。
湖南匯視威基于國產(chǎn)算力預(yù)訓(xùn)練的視覺基座大模型V1端側(cè)版本是國內(nèi)相關(guān)領(lǐng)域的首個突破項目,尤其是在國產(chǎn)算力和端側(cè)AI領(lǐng)域。面向特定領(lǐng)域從0到1的技術(shù)攻關(guān),背后的難度可想而知,而具體聚焦國產(chǎn)算力、模型蒸餾以及性能保障三個方面,我們或許更能體會到這一項目落地的嚴苛與高標準。
這或?qū)⒊蔀閲a(chǎn)端側(cè)模型進一步擴大發(fā)展的關(guān)鍵起點,湖南匯視威基于國產(chǎn)算力預(yù)訓(xùn)練的視覺基座大模型V1端側(cè)版本為行業(yè)帶來了三個亮點。
一、國產(chǎn)路徑。本次項目基于中科曙光國產(chǎn)算力在4千多萬張圖片上從0到1搭建視覺基座大模型并完成預(yù)訓(xùn)練。這也就意味著,其底層計算資源已經(jīng)開始傾向于國產(chǎn)化路徑,打破了此前AI領(lǐng)域高度依賴國外算力的單一局面,不只是端側(cè)模型的部署,更為國產(chǎn)模型的發(fā)展提供了更多的可能性。
二、極限蒸餾。此前,視覺大模型多采用云端方案,能真正實現(xiàn)端側(cè)部署的在國內(nèi)還是首次。在這方面,湖南匯視威設(shè)計了跨模型結(jié)構(gòu)極限蒸餾技術(shù),將基座大模型和 8.1B大模型進行混合蒸餾,保證在最小性能損失下,得到了0.4B的輕量化模型,讓視覺模型具備了在端側(cè)部署的可能,填補了國產(chǎn)端側(cè)視覺模型的技術(shù)空白。
三、性能在線。盡管是0.4B的端側(cè)模型,但是在相關(guān)的文生圖測試上依舊可以媲美8.1B的通用大模型。據(jù)了解,湖南匯視威的視覺基座大模型V1端側(cè)版本在移動端文生圖體驗處于國內(nèi)第一梯隊,在安卓和IOS端均可以做到秒級生成一張圖片,成功突破移動端生成高分辨力圖像的能力,生成圖像分辨率可達1024?1024。
秒級圖像生成能力意味著用戶可以在手機上直接完成高質(zhì)量圖像AI創(chuàng)作,并支持離線場景。這對攝影、設(shè)計、娛樂等場景的用戶體驗具有革命性意義,湖南匯視威的視覺基座大模型V1端側(cè)版本通過端側(cè)部署解決隱私、延遲等問題的同時,還能保障性能在線,將進一步加速端側(cè)AI在智能終端的爆發(fā),打造全新的端側(cè)AI生態(tài)。
寫在最后
本次項目的突破充分證實了一點:小模型,也有大作為;國產(chǎn)化,開拓新局面。不管是在國產(chǎn)算力層面還是在端側(cè)AI層面,湖南的這次突破作為行業(yè)標桿將推動更多的國產(chǎn)AI技術(shù)走向成熟,并可能催生更多的端側(cè)AI商業(yè)生態(tài)。
那么,對于用戶而言,更高效、更安全、更可靠的本地化AI體驗即將到來,未來在更多的智能終端上,我們將可以無懼網(wǎng)絡(luò)、算力等諸多嚴苛要求一鍵開啟AI創(chuàng)作體驗。而對于行業(yè)而言,這是國產(chǎn)化路徑和端側(cè)AI技術(shù)突破的重要里程碑,新的行業(yè)發(fā)展范式將持續(xù)革新AI產(chǎn)品形態(tài),創(chuàng)造更多的可能。
*本文圖片均來源于網(wǎng)絡(luò)
免責(zé)聲明:此文內(nèi)容為第三方自媒體作者發(fā)布的觀察或評論性文章,所有文字和圖片版權(quán)歸作者所有,且僅代表作者個人觀點,與極客網(wǎng)無關(guān)。文章僅供讀者參考,并請自行核實相關(guān)內(nèi)容。投訴郵箱:editor@fromgeek.com。
- 共享出行的下一場社會革命,在自動駕駛中開啟
- “不務(wù)正業(yè)”的周黑鴨瘋狂跨界,到底是突圍還是失焦?
- 為什么彈窗廣告只針對國內(nèi)消費者,出口產(chǎn)品不敢這樣?
- 企業(yè)級AI邁入黃金時代,企業(yè)該如何向AI“蝶變”?
- 外賣大戰(zhàn)的背后:互聯(lián)網(wǎng)需要一場轉(zhuǎn)型升級
- 免單“碰一下”,支付寶花錢買用戶的“習(xí)慣”
- 數(shù)字江西里的通信蝶變
- 夏天雨天連綿,空調(diào)難賣了,猛打價格戰(zhàn)的空調(diào)企業(yè)哭暈了
- 微信朋友圈再次折疊,我謝謝它這么“貼心”!
- 微信朋友圈再次折疊,我謝謝它這么“貼心”!
免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性,但不保證有關(guān)資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負任何法律責(zé)任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時,應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明,并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實,溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。