8月9日消息,AI應(yīng)用“妙鴨相機”已連續(xù)多日火爆出圈,上線不到一個月,算力需求暴漲數(shù)百倍,通過在阿里云上緊急擴容后,因用戶暴增導(dǎo)致的排隊情況也有所緩解,排隊時長已大幅減少,用戶體驗得到改善。目前妙鴨相機也在蘋果應(yīng)用商店上線了App版本,功能更加強大。
自7月17日正式上線以來,“妙鴨相機”就以9塊9價格和高質(zhì)量“寫真”照獲得了大量關(guān)注,成千上萬的用戶涌進應(yīng)用中,高峰期一度有4000-5000人排隊,需要等待10多個小時才能出片。據(jù)相關(guān)負責人透露,“妙鴨相機”已在阿里云上進行緊急擴容,應(yīng)對暴漲數(shù)百倍的算力需求。雖然算力一邊加,但另一邊用戶也在漲,但高峰期排隊現(xiàn)象已經(jīng)有了緩解。
某資深I(lǐng)T人表示,“妙鴨相機”的相片生成需要龐大的GPU算力進行計算,按上述高峰期的量級至少需要幾千臺GPU服務(wù)器才能滿足,線下部署不切實際,云上部署能為創(chuàng)業(yè)公司節(jié)省大量成本和時間,但目前僅有少數(shù)云計算大廠具備這樣的算力儲備。
“此前大家對大模型訓(xùn)練需要的算力關(guān)注較多,尤其是GPT類的模型訓(xùn)練,動輒需要上萬張顯卡。”上述資深人士稱,隨著Llama2等開源大模型的流行,大模型應(yīng)用推理端的算力需求更值得關(guān)注,當AIGC進入生產(chǎn)力時代,推理算力需求可能遠高于訓(xùn)練算力。
隨著各個行業(yè)的AIGC開發(fā)逐步完成,對業(yè)務(wù)開展階段使用的推理算力需求開始大幅增長,未來幾個月推理的算力需求總量可能遠高于訓(xùn)練算力。
以目前國內(nèi)算力規(guī)模最大的阿里云為例,提供最大十萬卡GPU規(guī)模集群的擴展性,同時可承載多個萬億參數(shù)大模型同時在線訓(xùn)練和推理。此外,阿里云還提供了AI加速套件AIACC,大幅提升計算效率,大模型Finetune的訓(xùn)練效率可提升60%,推理效率可提升100%以上。
- 新大航海時代“云上闖關(guān)”,阿里云筑牢技術(shù)“硬核后盾”,為中國企業(yè)出?!耙绘I通關(guān)”
- 阿里云CEO吳泳銘:與中國企業(yè)在全球并肩前行,共赴新的大航海時代
- 日經(jīng)新聞稱阿里通義千問已成日本AI開發(fā)基礎(chǔ)
- 阿里云基礎(chǔ)網(wǎng)絡(luò)技術(shù)5 篇論文入選全球網(wǎng)絡(luò)頂會NSDI 2025
- 2024年第四季度中國大陸云服務(wù)支出達到111億美元,阿里華為騰訊居前三
- 華為張修征:發(fā)揮“大雜燴”優(yōu)勢,四個方面投入推動AI應(yīng)用落地
- 華為云重磅發(fā)布CloudMatrix 384超節(jié)點,多項性能全面突破
- 鯤鵬開源開放創(chuàng)新成效卓著,計算產(chǎn)業(yè)革新行勝于言
- 浪潮云“分布式智能云”戰(zhàn)略正式發(fā)布 目標年內(nèi)分布式智能云節(jié)點破千個
- IDC:2025年亞太地區(qū)云支出將達到2500億美元
免責聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性,但不保證有關(guān)資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時,應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明,并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實,溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。