阿里萬相視頻生成大模型開源:顯存8.2GB,超越Sora不再是夢
隨著科技的飛速發(fā)展,人工智能(AI)技術正在逐步滲透到我們生活的方方面面。在這個過程中,阿里云再次引領潮流,將旗下視覺生成基座模型萬相2.1(Wan)向全球開發(fā)者開源。這一舉措無疑將進一步推動AI技術的發(fā)展,讓更多的人能夠享受到AI技術帶來的便利。
萬相2.1是一款強大的視頻生成模型,其開源不僅意味著廣大開發(fā)者可以免費使用和修改代碼,以適應不同的應用場景,同時也意味著學術界和產業(yè)界可以共同研究,進一步提升模型的性能。這款模型采用了最寬松的Apache2.0協(xié)議,這意味著任何組織或個人都可以使用、修改和傳播該模型,但必須在使用、修改和傳播的過程中,保留原作者的姓名和身份。
在參數(shù)規(guī)格方面,萬相2.1提供了14B和1.3B兩個選項。其中,14B規(guī)格的模型在指令遵循、復雜運動生成、物理建模、文字視頻生成等方面表現(xiàn)尤為突出。在評測集VBench中,14B版本以總分86.22%的成績超越了Sora、Luma、Pika等國內外模型,位列榜首。這一成績無疑證明了萬相2.1的強大實力。
而1.3B版本的模型則表現(xiàn)更為驚艷。它不僅超過了更大尺寸的開源模型,甚至還接近部分閉源模型,同時能在消費級顯卡運行。這無疑是一個巨大的突破,意味著更多的開發(fā)者可以以較低的成本進行二次模型開發(fā)和學術研究。值得一提的是,該模型所需的顯存僅為8.2GB,這對于生成480P視頻來說是足夠的,這也意味著該模型在處理小型任務時同樣表現(xiàn)出色。
在算法設計上,萬相2.1基于主流的DiT架構和線性噪聲軌跡Flow Matching范式,研發(fā)了高效的因果3D VAE、可擴展的預訓練策略等。其中,因果3D VAE是一個高效的編碼和解碼機制,通過特征緩存機制實現(xiàn)了無限長1080P視頻的高效編解碼。這一機制不僅提升了視頻的質量,還減少了推理時內存占用的29%。
除此之外,萬相團隊還通過將空間降采樣壓縮提前,在不損失性能的情況下進一步減少了推理時內存占用。這一創(chuàng)新不僅優(yōu)化了模型的性能,還降低了模型的復雜度,使其更易于部署和運行。
在實際測試中,萬相2.1在運動質量、視覺質量、風格和多目標等14個主要維度和26個子維度測試中均達到了業(yè)界領先表現(xiàn),并斬獲了5項第一。這些測試結果充分證明了萬相2.1的強大實力和穩(wěn)定性。
總的來說,阿里云將萬相視頻生成大模型開源,無疑是一項具有里程碑意義的舉措。這將為全球開發(fā)者提供了一個寶貴的資源,使他們能夠更加方便地使用和改進視頻生成模型。隨著AI技術的不斷發(fā)展,我們有理由相信,萬相2.1將會在未來引發(fā)一場AI領域的革命,讓AI技術觸手可及。
(免責聲明:本網站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網站出現(xiàn)的信息,均僅供參考。本網站將盡力確保所提供信息的準確性及可靠性,但不保證有關資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網站對有關資料所引致的錯誤、不確或遺漏,概不負任何法律責任。
任何單位或個人認為本網站中的網頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時,應及時向本網站提出書面權利通知或不實情況說明,并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網站在收到上述法律文件后,將會依法盡快聯(lián)系相關文章源頭核實,溝通刪除相關內容或斷開相關鏈接。 )