字節(jié)被曝大模型訓(xùn)練遭實習(xí)生攻擊 涉事者已被辭退

10月19日消息，日前，有媒體報道稱，多個微信群流傳一則消息：“某頭部大廠的大模型訓(xùn)練被實習(xí)生入侵，注入了破壞代碼，導(dǎo)致其訓(xùn)練成果不可靠，可能需要重新訓(xùn)練。據(jù)稱遭到入侵的代碼注入了8000多張卡，帶來的損失可能超過千萬美元?！?/p>

據(jù)界面新聞報道，該頭部大廠為字節(jié)跳動。此事發(fā)生在今年6月，起因是某高校的博士在字節(jié)跳動商業(yè)化技術(shù)團隊實習(xí)，因?qū)F隊資源分配不滿，使用攻擊代碼破壞團隊的模型訓(xùn)練任務(wù)。

截至目前，字節(jié)跳動方面對此并未進行正式回應(yīng)。

傳聞顯示，該田姓實習(xí)生利用了HF（huggingface）的漏洞，在公司的共享模型里寫入破壞代碼，導(dǎo)致模型的訓(xùn)練效果忽高忽低，無法產(chǎn)生預(yù)期的訓(xùn)練效果，而且AML團隊無法核查原因。但傳聞曝出之后，該實習(xí)生還在某微信群里辟謠稱，自己發(fā)完論文后就從字節(jié)跳動離職，這個當口有另一個人鉆漏洞改模型代碼，把鍋扣到自己頭上。

界面新聞報道稱，字節(jié)跳動內(nèi)部已經(jīng)調(diào)查明確此事為田姓實習(xí)生所為。目前，該實習(xí)生已被辭退。

生成海報