近日,浙江大學與阿里安全的研究員聯(lián)合編寫的論文《DEPARA: Deep Attribution Graph for Deep Knowledge Transferability》收錄至CVPR 2020 Oral。其中介紹了一種通過遷移學習法,高效打造AI深度模型、應對海量應用場景的 “AI訓練師助手”。
旨在讓AI訓練模型面對新場景時不用從頭學習,而是在已有模型上進行遷移,從而迅速獲得相同能力的AI模型,進而縮短模型訓練周期,甚至是從一個月縮短為一天。
據(jù)阿里安全圖靈實驗室高級算法專家析策介紹,例如在內容審核領域,不同場景的AI模型需要重新訓練,以確保識別準確率而犧牲掉了時間成本。這些預訓練的深度模型已消耗了大量訓練時間以及大規(guī)模高質量的標注數(shù)據(jù)等昂貴的計算資源。
DEPARA沿著這條思路,以提升預訓練的模型的使用程度,減少針對新場景的模型訓練對時間以及數(shù)據(jù)的依賴。目前實現(xiàn)這一目標最流行的方法是遷移學習。
浙江大學和阿里安全發(fā)現(xiàn),兩個預訓練深度模型所提取的特征之間的遷移能力可由它們對應的深度歸因圖譜之間的相似性來衡量。相似程度越高,從不同的預訓練深度模型中獲得的特征相關性就越大,特征的相互遷移能力也就越強。而且,“AI訓練師助手”還知道從什么模型遷移知識,用模型的哪個部分遷移能最好地完成任務。也就是說,他們發(fā)現(xiàn)了讓小白模型向AI深度模型學習的高效學習方法。
“在這種方法的指導下,單個AI模型的生產周期從1個月降到1天,我們就能更快地發(fā)現(xiàn)不同的內容風險。”析策談論到。
(免責聲明:本網站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網站出現(xiàn)的信息,均僅供參考。本網站將盡力確保所提供信息的準確性及可靠性,但不保證有關資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網站對有關資料所引致的錯誤、不確或遺漏,概不負任何法律責任。
任何單位或個人認為本網站中的網頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時,應及時向本網站提出書面權利通知或不實情況說明,并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網站在收到上述法律文件后,將會依法盡快聯(lián)系相關文章源頭核實,溝通刪除相關內容或斷開相關鏈接。 )