隨著人工智能的發(fā)展，人類正在把更多決策權交給計算機。問題在于，這些算法并不是透明的，而是掌握在少數(shù)科技公司手里。出于商業(yè)競爭需求，它們很少透漏決策背后的細節(jié)。為此，計算機專家們建議，應當設立第三方的監(jiān)督機構，以避免算法自身的一些偏見。
據(jù)衛(wèi)報的報道，在一份新報告中，倫敦圖靈研究所與牛津大學的研究團隊提出了上述想法。他們認為，當人們覺得自己遭到不公正待遇后，第三方機構應該調查人工智能做出的決策。“我們希望看到一個可信任的第三方機構。它應該有檢查和監(jiān)督算法的權力，能夠了解算法是否真的透明和公正。” 研究人員 Sandra Wachter 說。
(圖片來自singularityhub)
2018 年，歐盟成員國將采用一項新法案，以監(jiān)督人工智能系統(tǒng)的應用。不過，研究人員認為，這項法案的實際作用是值得懷疑的。“有人覺得，這項法案能夠讓人工智能系統(tǒng)更加透明，但是，這并一定能實現(xiàn)。一切都取決于歐盟成員國法庭的解釋，” 另一位研究人員 Mittelstadt 說。
不過，即使第三方機構已經(jīng)設立，對算法的監(jiān)督并非一件易事。“監(jiān)督機構需要如何具備何種能力？我們并不知道完整的答案。因為，人工智能系統(tǒng)是難以預測、不斷變化而且難以理解的。開發(fā)團隊也未必能完全理解。” Mittelstadt 說。另外，科技公司可能會抗議，因為現(xiàn)代的人工智能技術是“難以理解”的，例如深度學習。
(圖片來自phdmedia)
西英格蘭大學的機器人道德學教授 Alan Winfield 正在主導人工智能行業(yè)標準的起草工作，目的是讓人工智能系統(tǒng)更加透明，更加容易追責。“監(jiān)督機構是個非常好的建議，”他說，“這不是一個未來問題，而是一個現(xiàn)實問題。”
但是，他認為科技公司也未必能解釋人工智能的決策。那些基于深度學習的算法很不透明，基本上不可能解釋其作出某項決策的原因何在。“我向科技公司——比如 Google 的 DeepMind——提出的挑戰(zhàn)是，發(fā)明一套可以自我解釋的深度學習系統(tǒng)，” Winfield 說，“那不是件容易的事情，不過，研究這些系統(tǒng)的都是些非常聰明的家伙啊。
- 快訊：阿里Qwen3-Coder開源引發(fā)全球AI社區(qū)狂歡！HuggingFace CEO 連轉帶發(fā)12條推盛贊
- “最大牌”比亞迪車主！巴西總統(tǒng)盧拉盛贊比亞迪：引領巴西汽車工業(yè)革命
- 魔搭社區(qū)：堅持定位非盈利機構，開源開放、中立公益
- AI CITY@城市智能體生態(tài)聯(lián)盟發(fā)起成立，智慧城市建設進入Agent時代！
- 英特爾第一季度營收127億美元，同比持平
- 國內首個！百度宣布點亮昆侖芯3萬卡集群
- 第三屆百度“文心杯”創(chuàng)業(yè)大賽啟動 最高獎金達7000萬元
- 百度發(fā)布全球首個電商交易MCP、搜索MCP，幫助開發(fā)者全面擁抱MCP
- 百度發(fā)布百度搜索開放平臺·AI開放計劃，開放接入各類AI應用，賦能應用開發(fā)者
- 百度發(fā)布多智能體協(xié)作應用「心響」，一句話解決復雜任務
免責聲明：本網(wǎng)站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內容可能涉嫌侵犯其知識產(chǎn)權或存在不實內容時，應及時向本網(wǎng)站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內容或斷開相關鏈接。
