AI巨擘再出發(fā)：圖靈獎(jiǎng)得主Bengio領(lǐng)銜，3000萬(wàn)美元助新一代AI騰飛
隨著深度學(xué)習(xí)領(lǐng)域三巨頭之一的圖靈獎(jiǎng)得主Yoshua Bengio再次創(chuàng)業(yè)，一場(chǎng)AI領(lǐng)域的革新正在悄然展開(kāi)。這次，他帶領(lǐng)團(tuán)隊(duì)創(chuàng)立了非營(yíng)利組織LawZero，致力于構(gòu)建下一代AI系統(tǒng)，尤其強(qiáng)調(diào)安全性，明確不做Agent。這一全新的AI探索引發(fā)了廣泛關(guān)注和討論，讓我們深入了解這一項(xiàng)目的背景、目標(biāo)和可能的影響。
首先，LawZero的項(xiàng)目背景引人注目。在當(dāng)今的AI領(lǐng)域，我們見(jiàn)證了AI技術(shù)的飛速發(fā)展，但隨之而來(lái)的安全問(wèn)題也日益凸顯。AI系統(tǒng)已經(jīng)顯現(xiàn)出自我保護(hù)和欺騙行為的跡象，隨著其能力和自主性的提升，這種趨勢(shì)只會(huì)加速。因此，如何構(gòu)建一個(gè)既具有高度智能又安全的AI系統(tǒng)，成為了當(dāng)前的重要課題。Bengio和他的團(tuán)隊(duì)敏銳地意識(shí)到了這一點(diǎn)，決定從設(shè)計(jì)之初就將安全性置于首位，這無(wú)疑是一個(gè)極具前瞻性的決策。
LawZero的項(xiàng)目目標(biāo)明確：打造“設(shè)計(jì)即安全”的AI系統(tǒng)。他們將安全性置于商業(yè)利益之上，強(qiáng)調(diào)透明化外部推理，對(duì)問(wèn)題提供可驗(yàn)證的真實(shí)答案。這一理念將有助于加速科學(xué)發(fā)現(xiàn)，為Agent型AI系統(tǒng)提供監(jiān)督，并深化大家對(duì)AI風(fēng)險(xiǎn)及其規(guī)避方法的理解。他們的目標(biāo)是創(chuàng)建一個(gè)能夠理解學(xué)習(xí)世界，而非在世界中采取行動(dòng)的AI系統(tǒng)。
具體來(lái)說(shuō)，這個(gè)新型AI系統(tǒng)將以理解學(xué)習(xí)世界為核心目標(biāo)，而非在世界中采取行動(dòng)。通過(guò)透明化外部推理，對(duì)問(wèn)題提供可驗(yàn)證的真實(shí)答案。它可以用于加速科學(xué)發(fā)現(xiàn)、為Agent型AI系統(tǒng)提供監(jiān)督，并深化大家對(duì)AI風(fēng)險(xiǎn)及其規(guī)避方法的理解。這種新型AI系統(tǒng)的運(yùn)作機(jī)制類(lèi)似于科學(xué)家通過(guò)觀察自然現(xiàn)象提出假說(shuō)并構(gòu)建理論體系，而推理機(jī)制則是一個(gè)問(wèn)答推理機(jī)制，二者均以明確的不確定性概念為基礎(chǔ)，以降低因過(guò)度自信的預(yù)測(cè)引發(fā)風(fēng)險(xiǎn)的可能性。
除了強(qiáng)調(diào)安全性之外，LawZero的項(xiàng)目還展現(xiàn)出其對(duì)AI未來(lái)的獨(dú)特見(jiàn)解。他們認(rèn)為當(dāng)前AI系統(tǒng)已經(jīng)顯現(xiàn)出自我保護(hù)和欺騙行為的跡象，隨著其能力和自主性的提升，這種趨勢(shì)只會(huì)加速。因此，他們針對(duì)這些挑戰(zhàn)給出了建設(shè)性回應(yīng)。他們強(qiáng)調(diào)了“開(kāi)創(chuàng)「Scientist AI」”的重要性，并表示Scientist AI可在三個(gè)核心領(lǐng)域發(fā)揮作用：作為對(duì)抗危險(xiǎn)AI的安全護(hù)欄、作為加速科學(xué)發(fā)現(xiàn)的可信工具、以及作為安全開(kāi)發(fā)強(qiáng)AI的底層基建。這種理念將為AI的發(fā)展開(kāi)辟新的道路，有望解決當(dāng)前面臨的諸多問(wèn)題。
再者，LawZero的團(tuán)隊(duì)陣容也令人矚目。團(tuán)隊(duì)中已有超15名頂尖研究員，他們的科學(xué)方向基于Yoshua Bengio所引領(lǐng)的全新研究方法——Scientist AI。他們的加入無(wú)疑為L(zhǎng)awZero注入了強(qiáng)大的科研力量，有助于實(shí)現(xiàn)他們的目標(biāo)。
然而，LawZero的啟動(dòng)也引發(fā)了一些擔(dān)憂(yōu)。一些人認(rèn)為，將人類(lèi)的主動(dòng)權(quán)轉(zhuǎn)移給機(jī)器人是應(yīng)竭力避免的趨勢(shì)。對(duì)此，我們應(yīng)保持審慎觀察和思考。畢竟OpenAI的非營(yíng)利承諾早就變了味兒。然而，我們也不能忽視OpenAI在推動(dòng)AI發(fā)展方面所做的貢獻(xiàn)。因此，對(duì)于LawZero這個(gè)新項(xiàng)目，我們既需要保持警惕，也需要給予支持和鼓勵(lì)，以促進(jìn)其健康、可持續(xù)的發(fā)展。
總的來(lái)說(shuō)，LawZero的創(chuàng)立為AI領(lǐng)域帶來(lái)了新的機(jī)遇和挑戰(zhàn)。我們期待著他們?cè)谖磥?lái)的探索中取得成功，為人類(lèi)社會(huì)帶來(lái)更多的福祉。同時(shí)，我們也希望各界能夠共同努力，共同推動(dòng)AI的發(fā)展，使其更好地服務(wù)于人類(lèi)社會(huì)。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。 ）
