9月7日消息，在今日開幕的2023 INCLUSION·外灘大會(huì)上，中國科學(xué)院院士何積豐表示，大模型的安全問題主要是在未經(jīng)同意的情況下，收集、使用和泄露個(gè)人信息。隱私問題既可能發(fā)生在訓(xùn)練過程，也可能發(fā)生在使用過程中，而大模型的生成能力則讓“隱私泄露”的方式變得多樣化，造成隱私保護(hù)更加困難。
“為了應(yīng)對這些問題，我們需要大模型對齊技術(shù)。”何積豐說，“對齊（alignment）”是指系統(tǒng)的目標(biāo)和人類價(jià)值觀一致，使其符合設(shè)計(jì)者的利益和預(yù)期，不會(huì)產(chǎn)生意外的有害后果?！叭绻?a href="http://m.intimacywithspirit.com/%E4%BA%BA%E5%B7%A5%E6%99%BA%E8%83%BD_1.html" target="_blank" class="keylink">人工智能看作西游記里的孫悟空，‘對齊’就是唐僧的緊箍咒。有了緊箍咒，就可以保證技術(shù)不會(huì)任意使用能力胡作非為?！?/p>
不過，對齊技術(shù)同樣面臨挑戰(zhàn)。首先，對齊的基礎(chǔ)，人類的價(jià)值觀是多元且動(dòng)態(tài)變化的，需要保證大模型為人服務(wù)、與人為善；其次，大模型的有用性與無害性之間目標(biāo)也不完全一致。如何對錯(cuò)誤進(jìn)行有效糾正，設(shè)好大模型的“緊箍咒”也是挑戰(zhàn)。
因此，對齊技術(shù)已經(jīng)成為了一項(xiàng)令人眼花繚亂的跨學(xué)科研究，不僅考驗(yàn)技術(shù)，也審視文化。
何積豐介紹，反饋強(qiáng)化學(xué)習(xí)是實(shí)現(xiàn)對齊的技術(shù)途徑，目前有兩種方式，一種方式是通過人工反饋給模型不同的獎(jiǎng)勵(lì)信號，引導(dǎo)模型的高質(zhì)量輸出；另一種方式，事先給大模型提供明確的原則，系統(tǒng)自動(dòng)訓(xùn)練模型對所有生成的輸出結(jié)果提供初始排序?！斑@意味著，不僅智能系統(tǒng)需要向人類價(jià)值觀對齊，人類的訓(xùn)練方法也要向價(jià)值觀對齊?！焙畏e豐說。 （一橙）
- 索尼起訴騰訊新游抄襲 指控其克隆經(jīng)典作品
- 星鏈因軟件故障全球中斷2.5小時(shí) 全球多地?zé)o法正常接入網(wǎng)絡(luò)
- 谷歌被判22.5億元天價(jià)賠償背后：安卓數(shù)據(jù)暗箱操作的五年拉鋸戰(zhàn)
- HDC 2025：開發(fā)者搭上“鴻蒙快車”，鴻蒙生態(tài)加速前行
- HarmonyOS 6開發(fā)者Beta正式啟動(dòng)：打造無處不在的AI體驗(yàn)
- 馬蜂窩發(fā)布夏季“旅行蜂向標(biāo)”，進(jìn)山、玩水、擁抱草原是最受關(guān)注的夏季玩法
- 餓了么灰測“悅享會(huì)員”加碼用戶體驗(yàn)，提供一系列專屬優(yōu)惠和個(gè)性化服務(wù)
- 啟信寶2025奶茶趣味報(bào)告：奶茶企業(yè)5年激增140%，40萬家共筑3500億帝國
- 《黑神話：悟空》PS5國行版將于6月18日正式發(fā)售，建議零售價(jià)268元起
- 報(bào)告：2029年美國AI搜索廣告支出將達(dá)260億美元，占比13.6%
免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實(shí)，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。
