愚人節(jié)特輯：AI比你想象得更蠢

前幾年提到人工智能，網(wǎng)上的主流說法是管它叫“人工智障”。但這兩年，隨著大模型技術(shù)的突飛猛進(jìn)，各類AIGC能力層出不窮。曾經(jīng)輕視AI的大家，逐漸在各路專家、大V、營(yíng)銷號(hào)對(duì)AI的熱捧中感覺有點(diǎn)暈乎。

“這AI好像還真挺厲害啊”“讓我隨便寫幾千字的論文可做不到啊”“讓我隨便畫張宮崎駿我也不行”“咱們怕不是真要被AI取代了吧”——這類褒獎(jiǎng)AI，進(jìn)而對(duì)未來產(chǎn)生迷惘的言論開始激增。

從最初的調(diào)侃，到某個(gè)時(shí)間點(diǎn)真的動(dòng)了心思。我們似乎開始認(rèn)真思考是否AI覺醒會(huì)給接下來的生活工作帶來沖擊。學(xué)習(xí)是不是沒用了？工作是不是不好找了？是不是真的要在社交媒體上發(fā)一句“AI大神我是自己人，將來在人類監(jiān)獄里給我留個(gè)好位置”？

既然大伙有點(diǎn)急，那就先別急。在愚人節(jié)這個(gè)春風(fēng)拂面的日子里，我們不妨給自己來點(diǎn)安慰劑，一起看看那些依舊蠢到爆炸，但依舊占據(jù)主流市場(chǎng)的AI技術(shù)。

看完之后你會(huì)發(fā)現(xiàn)，AI那么蠢，到底怕它個(gè)啥？

DeepSeek爆火之后，大家很快就發(fā)現(xiàn)它有個(gè)最大的問題，就是這幻覺也忒嚴(yán)重了。根據(jù)Vectara發(fā)布的大模型幻覺排行榜，DeepSeek-R1的幻覺率達(dá)到了14.3%，在主流大模型里已經(jīng)屬于非常高的水平了。

高幻覺率帶來的體驗(yàn)感受，就是我們經(jīng)常會(huì)發(fā)現(xiàn)DeepSeek給出的各種信息都是它瞎編的。推薦的店鋪是不存在的，給出的文獻(xiàn)是AI捏造的，提出的專業(yè)觀點(diǎn)是信口胡謅的，最可氣的是大模型編的還有鼻子有眼的。編造的歷史文獻(xiàn)居然還有朝代、有作者，上下文的文言文也沒問題，簡(jiǎn)直防不勝防。

事情發(fā)展到這里，我們可能還主要是感嘆AI挺厲害，不僅知道得多，騙人也這么有水平。但如果換個(gè)角度想想，我們就會(huì)發(fā)現(xiàn)大語言模型其實(shí)非常蠢：它胡編亂造的這些信息，都是從哪來的呢？

答案是，AI絕大部分時(shí)間都是被人類忽悠瘸的。

大語言模型為了保證信息的時(shí)效性，在今天一般都會(huì)加入聯(lián)網(wǎng)搜索機(jī)制。即讓AI來進(jìn)行信息檢索，再將檢索到的信息整理給用戶。這里的問題在于，AI檢索到的信息都是互聯(lián)網(wǎng)公開內(nèi)容，換言之就是每個(gè)人都能隨便寫，營(yíng)銷號(hào)可以隨便發(fā)的內(nèi)容。這樣一來，問AI和直接看這些虛假信息就沒區(qū)別了，只不過加一道AI濾鏡，很多人反而就信了。

我們可以注意一下大模型進(jìn)行聯(lián)網(wǎng)檢索時(shí)提供的參考聯(lián)接，其中大部分都不來自權(quán)威平臺(tái)、權(quán)威作者，缺乏信源支撐。

更要命的是，想要用信息污染大模型在今天是非常容易的，只要換兩個(gè)平臺(tái)發(fā)布兩個(gè)觀點(diǎn)近似，但標(biāo)題不一的文稿，大模型很容易采信你剛剛瞎編的說法。

更進(jìn)一步的玩法是，可以用大模型生成虛假內(nèi)容，發(fā)布之后再污染其他大模型。用大模型生成內(nèi)容作為證據(jù)，再去發(fā)布更多內(nèi)容。周而復(fù)始，虛假信息可以在自媒體平臺(tái)與大模型幻覺之間形成一個(gè)莫比烏斯環(huán)，讓辟謠的人跑斷腿也解不開。

大語言模型特別好騙這件事，已經(jīng)變成了一個(gè)急待修補(bǔ)的漏洞，開始被不法分子鉆營(yíng)。最關(guān)鍵的是污染AI這個(gè)辦法，還特別容易騙到年輕人。很多年輕人一邊反感長(zhǎng)輩被微信群里的養(yǎng)生信息忽悠，一邊問跟大模型求醫(yī)問藥。

咱們吶，是誰也別想好。

前幾天我買了一臺(tái)某品牌今年最新型號(hào)的掃地機(jī)器人。家電嘛，到2025年了沒有不加AI的。這臺(tái)掃地機(jī)主打的也當(dāng)然是AI能力，尤其是依靠機(jī)器視覺來進(jìn)行路線規(guī)劃和避障。

然而就在它上崗的第一天，問題還是發(fā)生了。它工作一陣之后，我突然發(fā)現(xiàn)它在客廳門口無盡徘徊，既不工作，也不回去充電清洗，更沒被東西纏住。打開APP之后才發(fā)現(xiàn)，它是把客廳門檻地墊上的圖案識(shí)別成了線團(tuán)。怕被纏住所以不能前進(jìn)，但這種情況也沒有繞過或者其他選項(xiàng)。它只能可憐巴巴地在地墊身邊徘徊，徘徊，徘徊，一直徘徊了倆小時(shí)，沒電了。

這種愚蠢的現(xiàn)象，其實(shí)普遍發(fā)生于今天所有機(jī)器視覺類的AI技術(shù)里。

機(jī)器視覺的一大“原罪”，在于它的基本實(shí)現(xiàn)路徑是模糊比對(duì)。即對(duì)比兩種物體有多少相似的視覺信息點(diǎn)，如果達(dá)到一定比率就對(duì)比成功。

但問題在于，AI會(huì)把真貓和畫出來的貓當(dāng)作同一種東西。于是地板上有個(gè)圖案，機(jī)器人也會(huì)停步不前。同時(shí)，還可能把路標(biāo)和加了一些像素點(diǎn)的路標(biāo)當(dāng)作截然不同的兩種東西。前方有限速標(biāo)識(shí)，但只要在標(biāo)識(shí)上加一點(diǎn)干擾自動(dòng)駕駛汽車就會(huì)猛沖過去，這就是對(duì)機(jī)器視覺的對(duì)抗生成攻擊法。

缺乏3D視覺能力，特別容易被干擾，以及誤判率過大等問題，讓機(jī)器視覺常年處在看啥都是幻覺的亂吃菌子狀態(tài)。

購(gòu)買AI產(chǎn)品，或者企業(yè)引入AI能力時(shí)一定要想清楚：AI的視力可跟你的視力不一樣。

早幾年，語音助手有個(gè)飽受詬病的問題，就是難以識(shí)別方言。怎么著，中國(guó)這么大，我想用個(gè)數(shù)碼設(shè)備還得先練好普通話？字正腔圓播音腔跟你一個(gè)AI聊天？想什么呢？

于是乎，這幾年智能語音方案的供應(yīng)商快馬加鞭，終于基本實(shí)現(xiàn)了方言識(shí)別的問題，今天已經(jīng)很難找到只支持普通話識(shí)別的語音助手。

但是問題真解決了嗎？并沒有。如果我們留心一下，就會(huì)發(fā)現(xiàn)方言識(shí)別這個(gè)AI能力普遍存在一個(gè)巨大的問題，就是它需要慢速，且清晰地講出方言，才能完成交互。

那么來自五湖四海的小伙伴可以回想一下了，我們大部分人的家鄉(xiāng)方言，語速比普通話快還是慢？真的會(huì)像普通話教育里要求的一樣咬字清晰，四聲分明嗎？

平時(shí)對(duì)著電視、手機(jī)、音箱講話可能還好，但在車載場(chǎng)景、家務(wù)場(chǎng)景、運(yùn)動(dòng)場(chǎng)景里，要求慢速清晰講方言簡(jiǎn)直就是個(gè)悖論。于是我們能看到全國(guó)各地怒懟導(dǎo)航，怒罵語音助手的群體狂歡。

有時(shí)候真不怪大哥大姐脾氣暴。當(dāng)你第十次對(duì)一臺(tái)設(shè)備說出需求，然而換來還是那句：對(duì)不起，我沒有聽清，請(qǐng)您再說一次。小X很高興為您服務(wù)。

這時(shí)你可能只想說一句：握是嫩蝶。

除了人類之外，你的家里還有多少會(huì)說話的東西？

十年前這句話可能是想講個(gè)鬼故事，但現(xiàn)在大家可能真的已經(jīng)算不清楚了。電視、手機(jī)、音箱、掃地機(jī)會(huì)說話還則罷了。冰箱、洗衣機(jī)、電飯煲、馬桶會(huì)說話到底是為了什么？為了給家里制造一點(diǎn)活潑緊張，略顯靈異的氛圍嗎？

原本這種情況已經(jīng)夠離譜了，今年開始更是離離原上譜。大模型爆火之后，所有白家電、黑家電、小家電都想給自己加大模型，反正開源的不要錢，還能蹭個(gè)熱度。但最后的結(jié)果是，冰箱、洗衣機(jī)、洗碗機(jī)、抽濕機(jī)，都想跟你山南海北地聊上一頓，跟你輸出個(gè)幾百字上千字的內(nèi)容感悟。家里住了十幾二十位小X，XX，XY已經(jīng)很煩躁了，這些位都化身話癆了可真是攢勁得很。

更愚蠢的是，這些智能家電每人的名字還都不一樣。小這個(gè)小那個(gè)，感覺在辦公室記人名都沒這么麻煩。

而整件事最愚蠢的事情在于，語音喚醒這事的精度確實(shí)不高，經(jīng)常想要叫洗碗機(jī)，電視答應(yīng)了。更可怕的是家電們有時(shí)候會(huì)相互喚醒，一個(gè)不留神它們自己聊上了。

請(qǐng)?jiān)O(shè)想這樣一幕：深更半夜，睡到迷糊的你突然餓了，起身去廚房找吃的。黑燈瞎火的時(shí)候，背后突然一個(gè)聲音說“抱歉，我沒有聽清”。然后緊接著另一個(gè)角落里說，“已為您打開某某APP”，接著是冰冷的女聲七嘴八舌響成一團(tuán)……

啊，年年都說是AI元年，而我只聽到蛙聲一片。

說了這么多，是為了唱衰AI嗎？完全不是，我是一個(gè)堅(jiān)定的技術(shù)樂觀主義者。并且AI連年的進(jìn)步，應(yīng)該早就證明了這條技術(shù)路線的價(jià)值與前景。

我只是試圖展示這樣一個(gè)客觀現(xiàn)象：AI只是技術(shù)工具的一種，它不會(huì)過分聰明，也不會(huì)過分愚蠢。它不是人工智障，也不是機(jī)械降神。

如果拋除掉我們腦海中對(duì)科幻文化里AI覺醒、機(jī)械生命這類概念的記憶，只把AI當(dāng)作內(nèi)燃機(jī)、數(shù)控機(jī)床一類的技術(shù)名詞?；蛟S會(huì)發(fā)現(xiàn)關(guān)于AI的種種魅影都煙消云散。然后我們可能會(huì)更坦然接受它的優(yōu)點(diǎn)和缺點(diǎn)，享受它的每一次進(jìn)步。

相信不久之后，以上所說的問題都會(huì)解決，但依舊會(huì)有更多問題留下。AI就像任何技術(shù)一樣，必須一步步在“問題”與“解決問題”中完成進(jìn)化。是人類推動(dòng)AI走向更好，同時(shí)AI作為工具也讓人類獲得更高的效率，更便捷的生活，僅此而已。

如果辦個(gè)愚AI節(jié)，能消解我們對(duì)技術(shù)的恐慌，那不妨就辦一個(gè)吧。希望你所有對(duì)AI的擔(dān)憂與迷惘，都能在這個(gè)春天里煙消云散。

最后我想說一句：“尚且盲目癡愚的AI之神啊，請(qǐng)?jiān)徫医裉斓乃忻胺赴?。?/p>

審核編輯 黃宇