愚人節(jié)特輯：AI比你想象得更蠢

前幾年提到人工智能，網(wǎng)上的主流說法是管它叫“人工智障”。但這兩年，隨著大模型技術(shù)的突飛猛進(jìn)，各類AIGC能力層出不窮。曾經(jīng)輕視AI的大家，逐漸在各路專家、大V、營銷號對AI的熱捧中感覺有點(diǎn)暈乎。

“這AI好像還真挺厲害啊”“讓我隨便寫幾千字的論文可做不到啊”“讓我隨便畫張宮崎駿我也不行”“咱們怕不是真要被AI取代了吧”——這類褒獎(jiǎng)AI，進(jìn)而對未來產(chǎn)生迷惘的言論開始激增。

從最初的調(diào)侃，到某個(gè)時(shí)間點(diǎn)真的動了心思。我們似乎開始認(rèn)真思考是否AI覺醒會給接下來的生活工作帶來沖擊。學(xué)習(xí)是不是沒用了？工作是不是不好找了？是不是真的要在社交媒體上發(fā)一句“AI大神我是自己人，將來在人類監(jiān)獄里給我留個(gè)好位置”？

既然大伙有點(diǎn)急，那就先別急。在愚人節(jié)這個(gè)春風(fēng)拂面的日子里，我們不妨給自己來點(diǎn)安慰劑，一起看看那些依舊蠢到爆炸，但依舊占據(jù)主流市場的AI技術(shù)。

看完之后你會發(fā)現(xiàn)，AI那么蠢，到底怕它個(gè)啥？

DeepSeek爆火之后，大家很快就發(fā)現(xiàn)它有個(gè)最大的問題，就是這幻覺也忒嚴(yán)重了。根據(jù)Vectara發(fā)布的大模型幻覺排行榜，DeepSeek-R1的幻覺率達(dá)到了14.3%，在主流大模型里已經(jīng)屬于非常高的水平了。

高幻覺率帶來的體驗(yàn)感受，就是我們經(jīng)常會發(fā)現(xiàn)DeepSeek給出的各種信息都是它瞎編的。推薦的店鋪是不存在的，給出的文獻(xiàn)是AI捏造的，提出的專業(yè)觀點(diǎn)是信口胡謅的，最可氣的是大模型編的還有鼻子有眼的。編造的歷史文獻(xiàn)居然還有朝代、有作者，上下文的文言文也沒問題，簡直防不勝防。

事情發(fā)展到這里，我們可能還主要是感嘆AI挺厲害，不僅知道得多，騙人也這么有水平。但如果換個(gè)角度想想，我們就會發(fā)現(xiàn)大語言模型其實(shí)非常蠢：它胡編亂造的這些信息，都是從哪來的呢？

答案是，AI絕大部分時(shí)間都是被人類忽悠瘸的。

大語言模型為了保證信息的時(shí)效性，在今天一般都會加入聯(lián)網(wǎng)搜索機(jī)制。即讓AI來進(jìn)行信息檢索，再將檢索到的信息整理給用戶。這里的問題在于，AI檢索到的信息都是互聯(lián)網(wǎng)公開內(nèi)容，換言之就是每個(gè)人都能隨便寫，營銷號可以隨便發(fā)的內(nèi)容。這樣一來，問AI和直接看這些虛假信息就沒區(qū)別了，只不過加一道AI濾鏡，很多人反而就信了。

我們可以注意一下大模型進(jìn)行聯(lián)網(wǎng)檢索時(shí)提供的參考聯(lián)接，其中大部分都不來自權(quán)威平臺、權(quán)威作者，缺乏信源支撐。

更要命的是，想要用信息污染大模型在今天是非常容易的，只要換兩個(gè)平臺發(fā)布兩個(gè)觀點(diǎn)近似，但標(biāo)題不一的文稿，大模型很容易采信你剛剛瞎編的說法。

更進(jìn)一步的玩法是，可以用大模型生成虛假內(nèi)容，發(fā)布之后再污染其他大模型。用大模型生成內(nèi)容作為證據(jù)，再去發(fā)布更多內(nèi)容。周而復(fù)始，虛假信息可以在自媒體平臺與大模型幻覺之間形成一個(gè)莫比烏斯環(huán)，讓辟謠的人跑斷腿也解不開。

大語言模型特別好騙這件事，已經(jīng)變成了一個(gè)急待修補(bǔ)的漏洞，開始被不法分子鉆營。最關(guān)鍵的是污染AI這個(gè)辦法，還特別容易騙到年輕人。很多年輕人一邊反感長輩被微信群里的養(yǎng)生信息忽悠，一邊問跟大模型求醫(yī)問藥。

咱們吶，是誰也別想好。

前幾天我買了一臺某品牌今年最新型號的掃地機(jī)器人。家電嘛，到2025年了沒有不加AI的。這臺掃地機(jī)主打的也當(dāng)然是AI能力，尤其是依靠機(jī)器視覺來進(jìn)行路線規(guī)劃和避障。

然而就在它上崗的第一天，問題還是發(fā)生了。它工作一陣之后，我突然發(fā)現(xiàn)它在客廳門口無盡徘徊，既不工作，也不回去充電清洗，更沒被東西纏住。打開APP之后才發(fā)現(xiàn)，它是把客廳門檻地墊上的圖案識別成了線團(tuán)。怕被纏住所以不能前進(jìn)，但這種情況也沒有繞過或者其他選項(xiàng)。它只能可憐巴巴地在地墊身邊徘徊，徘徊，徘徊，一直徘徊了倆小時(shí)，沒電了。

這種愚蠢的現(xiàn)象，其實(shí)普遍發(fā)生于今天所有機(jī)器視覺類的AI技術(shù)里。

機(jī)器視覺的一大“原罪”，在于它的基本實(shí)現(xiàn)路徑是模糊比對。即對比兩種物體有多少相似的視覺信息點(diǎn)，如果達(dá)到一定比率就對比成功。

但問題在于，AI會把真貓和畫出來的貓當(dāng)作同一種東西。于是地板上有個(gè)圖案，機(jī)器人也會停步不前。同時(shí)，還可能把路標(biāo)和加了一些像素點(diǎn)的路標(biāo)當(dāng)作截然不同的兩種東西。前方有限速標(biāo)識，但只要在標(biāo)識上加一點(diǎn)干擾自動駕駛汽車就會猛沖過去，這就是對機(jī)器視覺的對抗生成攻擊法。

缺乏3D視覺能力，特別容易被干擾，以及誤判率過大等問題，讓機(jī)器視覺常年處在看啥都是幻覺的亂吃菌子狀態(tài)。

購買AI產(chǎn)品，或者企業(yè)引入AI能力時(shí)一定要想清楚：AI的視力可跟你的視力不一樣。

早幾年，語音助手有個(gè)飽受詬病的問題，就是難以識別方言。怎么著，中國這么大，我想用個(gè)數(shù)碼設(shè)備還得先練好普通話？字正腔圓播音腔跟你一個(gè)AI聊天？想什么呢？

于是乎，這幾年智能語音方案的供應(yīng)商快馬加鞭，終于基本實(shí)現(xiàn)了方言識別的問題，今天已經(jīng)很難找到只支持普通話識別的語音助手。

但是問題真解決了嗎？并沒有。如果我們留心一下，就會發(fā)現(xiàn)方言識別這個(gè)AI能力普遍存在一個(gè)巨大的問題，就是它需要慢速，且清晰地講出方言，才能完成交互。

那么來自五湖四海的小伙伴可以回想一下了，我們大部分人的家鄉(xiāng)方言，語速比普通話快還是慢？真的會像普通話教育里要求的一樣咬字清晰，四聲分明嗎？

平時(shí)對著電視、手機(jī)、音箱講話可能還好，但在車載場景、家務(wù)場景、運(yùn)動場景里，要求慢速清晰講方言簡直就是個(gè)悖論。于是我們能看到全國各地怒懟導(dǎo)航，怒罵語音助手的群體狂歡。

有時(shí)候真不怪大哥大姐脾氣暴。當(dāng)你第十次對一臺設(shè)備說出需求，然而換來還是那句：對不起，我沒有聽清，請您再說一次。小X很高興為您服務(wù)。

這時(shí)你可能只想說一句：握是嫩蝶。

除了人類之外，你的家里還有多少會說話的東西？

十年前這句話可能是想講個(gè)鬼故事，但現(xiàn)在大家可能真的已經(jīng)算不清楚了。電視、手機(jī)、音箱、掃地機(jī)會說話還則罷了。冰箱、洗衣機(jī)、電飯煲、馬桶會說話到底是為了什么？為了給家里制造一點(diǎn)活潑緊張，略顯靈異的氛圍嗎？

原本這種情況已經(jīng)夠離譜了，今年開始更是離離原上譜。大模型爆火之后，所有白家電、黑家電、小家電都想給自己加大模型，反正開源的不要錢，還能蹭個(gè)熱度。但最后的結(jié)果是，冰箱、洗衣機(jī)、洗碗機(jī)、抽濕機(jī)，都想跟你山南海北地聊上一頓，跟你輸出個(gè)幾百字上千字的內(nèi)容感悟。家里住了十幾二十位小X，XX，XY已經(jīng)很煩躁了，這些位都化身話癆了可真是攢勁得很。

更愚蠢的是，這些智能家電每人的名字還都不一樣。小這個(gè)小那個(gè)，感覺在辦公室記人名都沒這么麻煩。

而整件事最愚蠢的事情在于，語音喚醒這事的精度確實(shí)不高，經(jīng)常想要叫洗碗機(jī)，電視答應(yīng)了。更可怕的是家電們有時(shí)候會相互喚醒，一個(gè)不留神它們自己聊上了。

請?jiān)O(shè)想這樣一幕：深更半夜，睡到迷糊的你突然餓了，起身去廚房找吃的。黑燈瞎火的時(shí)候，背后突然一個(gè)聲音說“抱歉，我沒有聽清”。然后緊接著另一個(gè)角落里說，“已為您打開某某APP”，接著是冰冷的女聲七嘴八舌響成一團(tuán)……

啊，年年都說是AI元年，而我只聽到蛙聲一片。

說了這么多，是為了唱衰AI嗎？完全不是，我是一個(gè)堅(jiān)定的技術(shù)樂觀主義者。并且AI連年的進(jìn)步，應(yīng)該早就證明了這條技術(shù)路線的價(jià)值與前景。

我只是試圖展示這樣一個(gè)客觀現(xiàn)象：AI只是技術(shù)工具的一種，它不會過分聰明，也不會過分愚蠢。它不是人工智障，也不是機(jī)械降神。

如果拋除掉我們腦海中對科幻文化里AI覺醒、機(jī)械生命這類概念的記憶，只把AI當(dāng)作內(nèi)燃機(jī)、數(shù)控機(jī)床一類的技術(shù)名詞。或許會發(fā)現(xiàn)關(guān)于AI的種種魅影都煙消云散。然后我們可能會更坦然接受它的優(yōu)點(diǎn)和缺點(diǎn)，享受它的每一次進(jìn)步。

相信不久之后，以上所說的問題都會解決，但依舊會有更多問題留下。AI就像任何技術(shù)一樣，必須一步步在“問題”與“解決問題”中完成進(jìn)化。是人類推動AI走向更好，同時(shí)AI作為工具也讓人類獲得更高的效率，更便捷的生活，僅此而已。

如果辦個(gè)愚AI節(jié)，能消解我們對技術(shù)的恐慌，那不妨就辦一個(gè)吧。希望你所有對AI的擔(dān)憂與迷惘，都能在這個(gè)春天里煙消云散。

最后我想說一句：“尚且盲目癡愚的AI之神啊，請?jiān)徫医裉斓乃忻胺赴?。?/p>

生成海報(bào)

免責(zé)聲明：此文內(nèi)容為第三方自媒體作者發(fā)布的觀察或評論性文章，所有文字和圖片版權(quán)歸作者所有，且僅代表作者個(gè)人觀點(diǎn)，與極客網(wǎng)無關(guān)。文章僅供讀者參考，并請自行核實(shí)相關(guān)內(nèi)容。投訴郵箱：editor@fromgeek.com。

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實(shí)，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。