人工智能終于要接近人類智能了嗎？

摘要：GPT-3被譽(yù)為人工智能領(lǐng)域的重大突破，有人認(rèn)為它甚至顯示出初步意識(shí)跡象，另一些人則指出GPT-3存在可笑的缺陷。

它可以大量炮制電子郵件、計(jì)算機(jī)代碼、互聯(lián)網(wǎng)廣告、電子游戲情節(jié)主線、吉他即興樂段，以及萬(wàn)圣節(jié)的服裝建議。它可以寫出幾可亂真的艾米莉?狄金森（Emily Dickinson）風(fēng)格的詩(shī)歌，或是歐內(nèi)斯特?海明威（Ernest Hemingway）風(fēng)格的散文，甚至在得到指令后，它還能夠?qū)懗鲆欢蔚医鹕秃Ｃ魍g的虛構(gòu)對(duì)話。

它的可能性似乎無(wú)窮無(wú)盡。因此，當(dāng)我有機(jī)會(huì)與“生成式預(yù)訓(xùn)練變換器3”（GPT-3）——一款新的語(yǔ)言生成模型，過(guò)去幾個(gè)月，它在人工智能領(lǐng)域引起了轟動(dòng)——進(jìn)行互動(dòng)時(shí)，我請(qǐng)它幫我起草了一份新的履歷，并要求要有濃厚的《星球大戰(zhàn)》（Star Wars）中的英雄盧克?天行者（Luke Skywalker）的風(fēng)格。

GPT-3學(xué)習(xí)了互聯(lián)網(wǎng)上幾乎所有可訪問的文本，速度、規(guī)模和通用性都很驚人。以下是它瞬間生成的文本：“約翰?桑希爾在加入‘義軍同盟’（Rebel Alliance）時(shí)已經(jīng)是一位功勛卓著的戰(zhàn)爭(zhēng)英雄。在軍事方面，他擅長(zhǎng)使用爆能槍和直覺。但他真正的能力要在他的戰(zhàn)機(jī)中隊(duì)中才能體現(xiàn)出來(lái)。在起義軍中，約翰升任戰(zhàn)機(jī)中隊(duì)指揮官，他帶領(lǐng)自己的隊(duì)伍經(jīng)歷了無(wú)數(shù)的戰(zhàn)斗，這使他成為了一個(gè)具有真正起義軍精神的堅(jiān)定領(lǐng)導(dǎo)者。”我是時(shí)候更新我的名片了。

由于機(jī)器學(xué)習(xí)近期取得的進(jìn)展，語(yǔ)言生成系統(tǒng)正變得越來(lái)越普遍。例如，Narrative Science旗下產(chǎn)品Quill可以提取股票投資組合的表現(xiàn)數(shù)據(jù)，并為投資者編寫摘要。但就純粹的適應(yīng)性而言，沒有任何系統(tǒng)能與GPT-3相比。GPT-3是總部位于舊金山的研究公司OpenAI于今年5月發(fā)布的。GPT-3估計(jì)耗資1200萬(wàn)美元，包含1750億個(gè)語(yǔ)言參數(shù)，是先前原型模型的100倍。借用英國(guó)計(jì)算機(jī)科學(xué)之父艾倫?圖靈（Alan Turing）的話說(shuō)，這是迄今為止最令人印象深刻的“模仿”機(jī)器。

圖靈是第一批對(duì)世界將如何被能夠思考的機(jī)器所改變展開想象的人之一。他在自己1950年發(fā)布的論文《計(jì)算機(jī)器與智能》（Computing Machinery and Intelligence）中解釋稱，有一天，計(jì)算機(jī)可能會(huì)變得非常善于模仿人類，以至于人們無(wú)法把它們與有血有肉的人類加以區(qū)分。圖靈寫道：“我們可以希冀，機(jī)器最終將在所有純智能領(lǐng)域與人類展開競(jìng)爭(zhēng)?！?/p>

這種通用的計(jì)算機(jī)器可以通過(guò)讓一個(gè)在進(jìn)行電子對(duì)話的人相信他正在與另一個(gè)人類互動(dòng)，來(lái)贏得圖靈所稱的“模仿游戲”，盡管現(xiàn)在一些人認(rèn)為這種所謂的圖靈測(cè)試（Turing Test）可能更多地反映了人類的輕信程度，而不是真正的機(jī)器智能。

70年過(guò)去了，得益于互聯(lián)網(wǎng)的快速發(fā)展以及計(jì)算能力的指數(shù)級(jí)增長(zhǎng)，我們已經(jīng)進(jìn)入了一個(gè)甚至超出圖靈想象的機(jī)器化世界。隨著神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)等新型軟件技術(shù)的出現(xiàn)，計(jì)算機(jī)科學(xué)家在指導(dǎo)機(jī)器進(jìn)行模仿游戲方面的能力已經(jīng)大大提高。

一些已經(jīng)對(duì)GPT-3進(jìn)行過(guò)實(shí)驗(yàn)的人表示，它帶來(lái)了真正智能的曙光，標(biāo)志著向人工智能的終極目標(biāo)——通用人工智能（AGI）——邁出的重要一步。通用人工智能意味著電子智能在幾乎所有智能領(lǐng)域與人類匹敵。另一些人則認(rèn)為這是無(wú)稽之談，他們指出GPT-3存在可笑的缺陷，并暗示我們距離創(chuàng)造出這樣的超級(jí)智能還有好幾個(gè)概念上的突破。

OpenAI現(xiàn)年35歲的冷面首席執(zhí)行官薩姆?奧爾特曼（Sam Altman）是硅谷最受人矚目的人物之一。他表示，聰明的人在面對(duì)GPT-3時(shí)感到格外興奮是有原因的?！坝凶C據(jù)表明，這是通用人工智能的第一個(gè)先驅(qū)產(chǎn)品——這個(gè)系統(tǒng)能夠支持許多不同的應(yīng)用程序，并且真正提升我們能夠開發(fā)出的軟件種類?！彼诮邮苡?guó)《金融時(shí)報(bào)》采訪時(shí)表示，“我認(rèn)為，它之所以重要是因?yàn)樗Q見了未來(lái)?！?/p>

OpenAI是全球最不尋常的企業(yè)之一，或許只有谷歌（Google）旗下的DeepMind——杰米斯?哈薩比斯（Demis Hassabis）執(zhí)掌的、總部位于倫敦的人工智能研究企業(yè)——能與之媲美。正如奧爾特曼所說(shuō)，OpenAI的120名員工可以被分為三個(gè)截然不同的“群體”：人工智能研究人員、初創(chuàng)企業(yè)的建設(shè)者以及科技政策與安全專家。它與極具前瞻性的腦機(jī)接口企業(yè)Neuralink共享位于舊金山的辦公區(qū)域。

2015年，OpenAI依靠美國(guó)西海岸幾位著名的企業(yè)家與科技公司承諾為其提供的10億美元資金得以成立。該公司宣稱自己雄心勃勃的使命是開發(fā)通用人工智能，以造福全人類。最早為其提供支持的億萬(wàn)富翁包括特斯拉（Tesla）和SpaceX反復(fù)無(wú)常的創(chuàng)始人埃隆?馬斯克（Elon Musk，他后來(lái)退出了OpenAI）、領(lǐng)英（LinkedIn）的創(chuàng)始人兼風(fēng)險(xiǎn)投資家里德?霍夫曼（Reid Hoffman），以及Facebook和Palantir的早期投資人彼得?蒂爾（Peter Thiel）。

OpenAI在創(chuàng)立之初是一家非營(yíng)利企業(yè)，但隨后采用了更加商業(yè)化的運(yùn)營(yíng)方式，并于去年接受了微軟（Microsoft） 10億美元的進(jìn)一步投資。作為一家“有限盈利”企業(yè)，它能夠籌集資金和發(fā)行股票（如果你想吸引硅谷最優(yōu)秀的研究人員，這一點(diǎn)是必要的），同時(shí)堅(jiān)持自己指導(dǎo)性的公共使命，而不會(huì)面臨股東的過(guò)度施壓。奧爾特曼表示：“這種企業(yè)結(jié)構(gòu)能夠讓我們來(lái)決定何時(shí)、以及以何種方式公布技術(shù)?！?/p>

奧爾特曼于去年擔(dān)任首席執(zhí)行官一職，此前他掌管硅谷最成功的初創(chuàng)企業(yè)孵化器之一Y Combinator，后者幫助孵化了逾2000家企業(yè)，包括愛彼迎（Airbnb）、Dropbox和Stripe。他表示，他只是因?yàn)槭艿搅苏T惑才放棄了這份“夢(mèng)想中的工作”，轉(zhuǎn)而幫助解決人類所面臨的最緊迫的挑戰(zhàn)之一：如何開發(fā)安全有益的人工智能。“這是我能想象到的最重要的工作。”他表示，“我不會(huì)裝作已經(jīng)知道了所有答案，但我很樂意盡我所能做出貢獻(xiàn)?！?/p>

在奧爾特曼看來(lái)，正在展開的人工智能革命對(duì)人類的影響，可能遠(yuǎn)遠(yuǎn)超過(guò)之前農(nóng)業(yè)、工業(yè)和計(jì)算機(jī)革命的總和。通用人工智能的發(fā)展將從根本上改變?nèi)祟惻c機(jī)器之間的關(guān)系，有可能誕生更高級(jí)形式的電子智能。到那時(shí)，正如以色列歷史學(xué)家尤瓦爾?諾亞?哈拉里（Yuval Noah Harari）所言，智人將不再是地球上最聰明的算法。

奧爾特曼表示，如果管理得當(dāng)，人工智能可以改變?nèi)祟惖纳a(chǎn)率和創(chuàng)造力，讓我們能夠解決全球許多最復(fù)雜的挑戰(zhàn)，例如氣候變化和流行病。他表示：“我認(rèn)為這將是一個(gè)無(wú)比強(qiáng)大的未來(lái)?！钡绻芾聿划?dāng)，人工智能可能只會(huì)加劇我們目前面臨的很多問題：企業(yè)權(quán)力過(guò)度集中，因?yàn)樗綘I(yíng)企業(yè)承擔(dān)了越來(lái)越多曾經(jīng)由政府行使的功能；經(jīng)濟(jì)不平等進(jìn)一步加深和機(jī)會(huì)縮小；虛假信息的傳播和民主的侵蝕。

尼克?博斯特羅姆（Nick Bostrom）等一些作家甚至認(rèn)為，失控的人工智能甚至可能對(duì)人類的生存構(gòu)成威脅。他在2014年出版的《超級(jí)智能》（Superintelligence）一書中寫道：“面對(duì)智能爆炸的前景，我們?nèi)祟惥拖裥『⒆釉谕嬲◤?。”這些警告肯定引起了埃隆?馬斯克的注意，他發(fā)布推文稱：“對(duì)待人工智能，我們需要超級(jí)小心……它可能比核武器還要危險(xiǎn)?！?/p>

對(duì)于如何最好地管理這些強(qiáng)大工具的擔(dān)憂，使得OpenAI只在受控環(huán)境下發(fā)布了GPT-3。奧爾特曼表示：“GPT-3不是我們想要向全世界推出、然后無(wú)法控制推進(jìn)方式的模型?！蹦壳?，大約2000家公司獲準(zhǔn)在受控的私下beta測(cè)試中訪問該模型。它們?cè)谔剿髌涔δ軙r(shí)學(xué)習(xí)到的知識(shí)將反饋到這個(gè)模型，以便繼續(xù)改進(jìn)。開發(fā)人員給出了“令人震驚”、“驚人地出色”和“太棒了”這樣的回應(yīng)。

紐約大學(xué)（New York University）教授、心靈哲學(xué)專家戴維?查默斯（David Chalmers）甚至認(rèn)為GPT-3先進(jìn)到顯示出初級(jí)的意識(shí)跡象。他在哲學(xué)網(wǎng)站Daily Nous寫道：“我接受擁有302個(gè)神經(jīng)元的蠕蟲是有意識(shí)的，因此我也接受擁有1750億個(gè)參數(shù)的GPT-3具備意識(shí)?！?/p>

然而，沒過(guò)多久，用戶就暴露出了GPT-3的陰暗面，并引誘它發(fā)表帶有種族主義和性別歧視的言論。有些人擔(dān)心這只會(huì)引發(fā)一波“語(yǔ)義垃圾”浪潮。一名大學(xué)生利用GPT-3模型用假名撰寫的一篇假博文甚至登上科技網(wǎng)站Hacker News的頭條。

如果OpenAI發(fā)現(xiàn)任何有意或無(wú)意濫用的證據(jù)，例如生成垃圾郵件或有害內(nèi)容，它可以關(guān)閉這位濫用用戶并更新其模型的行為，以減少這種情況再次發(fā)生的幾率。奧爾特曼表示：“如果用戶違反條款和條件，我們當(dāng)然可以把他關(guān)閉——我們會(huì)這么做——但更令人興奮的是，我們能非常迅速地改變一些東西?！?/p>

“我們把它作為通用人工智能發(fā)布的一個(gè)原因是，我們可以在它表現(xiàn)出色和糟糕的領(lǐng)域練習(xí)使用它：哪類應(yīng)用有效，哪類無(wú)效，”他表示，“這實(shí)際上是我們?cè)诰毩?xí)使用這些強(qiáng)大的通用人工智能系統(tǒng)?！?/p>

在未來(lái)的人工智能系統(tǒng)應(yīng)用于聊天機(jī)器人、護(hù)理機(jī)器人或自動(dòng)駕駛汽車等領(lǐng)域時(shí)，這些學(xué)習(xí)應(yīng)有助于改善這些系統(tǒng)的設(shè)計(jì)和安全性。

盡管GPT-3目前的表現(xiàn)在許多方面都令人印象深刻，但它真正的意義很可能在于它為以后的新一代模型發(fā)展出的能力。目前，它的運(yùn)行就像超級(jí)復(fù)雜的自動(dòng)完成功能，能夠在毫無(wú)理解概念的情況下，把聽上去合理的單詞序列串在一起。正如圖靈幾十年前預(yù)見的那樣，計(jì)算機(jī)可以在不需要理解的情況下實(shí)現(xiàn)在很多領(lǐng)域的能力。

斯坦福大學(xué)以人為本人工智能研究院（Stanford Institute for Human-Centred AI）聯(lián)席院長(zhǎng)約翰?埃切門迪（John Etchemendy）強(qiáng)調(diào)，目前，即便是最強(qiáng)大的語(yǔ)言生成模型也存在局限性，他表示，盡管GPT-3可能被訓(xùn)練生成文本，但它對(duì)文本的含義沒有直觀的理解。相反，其結(jié)果來(lái)自數(shù)學(xué)概率建模。但他表示，隨著時(shí)間的推移，最近計(jì)算機(jī)語(yǔ)言和視覺系統(tǒng)的進(jìn)展可能會(huì)顯著增強(qiáng)其能力。

“如果我們能根據(jù)既有文本又有圖像的多模態(tài)數(shù)據(jù)訓(xùn)練出一些東西，那就太棒了，”他表示，“到那時(shí)，由此得到的系統(tǒng)不僅可以知道如何使用‘紅色’這個(gè)詞來(lái)生成句子，還可以使用紅色這個(gè)顏色。我們可以開始建立一個(gè)真正理解語(yǔ)言的系統(tǒng)，而不是一個(gè)基于統(tǒng)計(jì)能力的系統(tǒng)。”

醫(yī)療數(shù)據(jù)公司Nabla Technologies檢測(cè)了GPT-3提供醫(yī)療建議的能力，指出了GPT-3目前能力與理解力之間不匹配的情況可能帶來(lái)的傷害。他們發(fā)現(xiàn)，GPT-3有一次甚至支持了一名虛構(gòu)病人的自殺欲望。（OpenAI明確警告了在這種“高風(fēng)險(xiǎn)”情況下使用GPT-3的危險(xiǎn)。）

愛丁堡大學(xué)（University of Edinburgh）數(shù)據(jù)與人工智能倫理學(xué)教授香農(nóng)?瓦洛（Shannon Vallor）表示，這些案例突出了人類持續(xù)監(jiān)控這些自動(dòng)化系統(tǒng)的必要：“目前，GPT-3每時(shí)每刻都需要一名人類監(jiān)控者來(lái)告訴它什么內(nèi)容不能說(shuō)。問題在于，GPT-3不是真的智能。它不能像人類一樣學(xué)習(xí)。GPT-3無(wú)法明白這些特定言論的不合適之處，并停止說(shuō)出這些言論。這是一個(gè)明顯且巨大的漏洞，我不清楚我們?nèi)绾文軌蚪鉀Q它?！?/p>

“互聯(lián)網(wǎng)的前景在于，它將有能力以更公平、更可接受的方式給人類提供知識(shí)，”瓦洛補(bǔ)充說(shuō)，“我擔(dān)心，由于GPT-3這樣的技術(shù)，我們即將面臨真正的倒退，即信息共享空間（information commons）越來(lái)越不可用，甚至?xí)?duì)人們產(chǎn)生傷害?！?/p>

領(lǐng)英創(chuàng)始人、OpenAI董事會(huì)成員之一里德?霍夫曼表示，OpenAI正努力設(shè)計(jì)安全的操作流程和更好的治理模型。他表示，為了防止出現(xiàn)壞結(jié)果，你需要做三件事：抹去在社會(huì)偏見中形成的不良?xì)v史數(shù)據(jù)；將某種形式的可解釋性植入人工智能系統(tǒng)，并且理解你需要修正的東西；持續(xù)交叉比對(duì)任何系統(tǒng)的輸出結(jié)果與其初始目標(biāo)。他表示：“這方面的許多嘗試已經(jīng)開始有了眉目。人們對(duì)這些難題很警惕，正在努力解決它們。”

“問題不在于你要如何阻止技術(shù)，而在于你要如何塑造技術(shù)。”他補(bǔ)充說(shuō)，“火箭本身并不壞。但如果火箭被一個(gè)想搞破壞、而且有炸彈的人控制，那就很糟了。我們要如何引領(lǐng)正確的方向？新條約是什么樣？新監(jiān)控方式是什么樣？你要打造或者不打造什么樣的技術(shù)？所有這些都是當(dāng)下的、人們正在積極探討的問題。”

提出這樣的問題無(wú)疑是出于好意。然而，給出滿意的答案需要一些史無(wú)前例的壯舉：學(xué)術(shù)研究者、私營(yíng)企業(yè)、國(guó)家政府、公民社會(huì)和國(guó)際機(jī)構(gòu)組成的不斷變化的聯(lián)盟通過(guò)想象力、合作以及有效執(zhí)行來(lái)共同完成的壯舉。與往常一樣，危險(xiǎn)在于科技進(jìn)步的速度可能快過(guò)人類智慧。

溫哥華初創(chuàng)企業(yè)Broca的聯(lián)合創(chuàng)始人兼首席執(zhí)行官錫德?巴拉特（Sid Bharath）是加緊商業(yè)化GPT-3技術(shù)的一小群企業(yè)家之一（我那份以盧克?天行者為靈感的履歷就是他的產(chǎn)品創(chuàng)作的）。由于他的數(shù)字市場(chǎng)營(yíng)銷公司的業(yè)務(wù)在夏天因?yàn)樾鹿谖C(jī)而放緩，巴拉特把時(shí)間用在搗鼓GPT-3上，并為他的發(fā)現(xiàn)而著迷。

他將他在各類話題上與GPT-3的交互形容為“有些令人毛骨悚然”，暗示其智能水平是他此前在其他計(jì)算機(jī)模型中沒有見過(guò)的。他表示：“我曾與GPT-3聊過(guò)人生的意義，它給我很多啟發(fā)。它說(shuō)人生的意義在于給宇宙增添美，我此前從未想過(guò)這種說(shuō)法?！?/p>

但在他的商業(yè)生涯中，巴拉特正在將GPT-3用于更平凡的用途，他利用這個(gè)系統(tǒng)為他的客戶生成谷歌搜索廣告的多樣表達(dá)方式，即使這些廣告還沒好到不經(jīng)檢查就可使用。“很多市場(chǎng)營(yíng)銷都與創(chuàng)作內(nèi)容有關(guān)。這非常耗費(fèi)時(shí)間，而且需要大量實(shí)驗(yàn)。GPT-3能以工業(yè)級(jí)規(guī)模完成這些工作?！彼硎荆拔覀兊目蛻艉芟矚g它。”

OpenAI的奧爾特曼表示，GPT-3讓以前不可能的事情變得可能，人們因此可以創(chuàng)立新公司，而見證這一切的過(guò)程是“很酷”的，盡管他承認(rèn)“很多宣傳確實(shí)有點(diǎn)過(guò)頭了”。他表示，利用這個(gè)模型寫電腦代碼和共同創(chuàng)作電郵的商業(yè)可能性令他很感興趣。GPT-3還讓智能問答模式的搜索成為可能，幫助人們尋找新冠肺炎最新研究論文中的答案和參考文獻(xiàn)。他說(shuō)：“生產(chǎn)率軟件和共同創(chuàng)作將會(huì)擁有巨大商業(yè)價(jià)值。”

已接受微軟投資的OpenAI還將自己的GPT-3技術(shù)獨(dú)家授權(quán)給了該軟件巨頭。這讓微軟有權(quán)在自家所有產(chǎn)品和服務(wù)中使用這項(xiàng)技術(shù)，也許包括其無(wú)處不在的數(shù)字輔助工具。

克里斯蒂安?哈蒙德（Kristian Hammond）是芝加哥技術(shù)公司Narrative Science的首席科學(xué)顧問，他一直站在嘗試將自然語(yǔ)言處理商業(yè)化的前沿。他形容GPT-3是一項(xiàng)“絕妙的技術(shù)”，但表示我們需要清楚它的局限：“我對(duì)GPT-3的擔(dān)憂在于，它就像是紙牌魔術(shù)。它確實(shí)是非常棒的紙牌魔術(shù)。而且我很喜歡紙牌魔術(shù)。你以為你眼前發(fā)生了什么事情，但它并非你想的那樣。它只不過(guò)給你一些看上去很對(duì)、符合統(tǒng)計(jì)學(xué)的詞句。但這不意味著它給出了真相?！?/p>

哈蒙德同時(shí)也是西北大學(xué)（Northwestern University）的教授，他認(rèn)為，我們必須特別注意用哪些數(shù)據(jù)集來(lái)訓(xùn)練這種人工智能模型。他認(rèn)為，曾經(jīng)有一個(gè)“偉大、光榮的時(shí)刻”，那時(shí)我們相信，互聯(lián)網(wǎng)將傳遞真理，我們也將勢(shì)不可擋地走向啟蒙。但我們現(xiàn)在更明白了?；ヂ?lián)網(wǎng)或許仍是一種神奇的資源，但學(xué)術(shù)研究已表明，有說(shuō)服力的謊言往往遠(yuǎn)比確定的真理傳播得快。

“以統(tǒng)計(jì)為基礎(chǔ)的整個(gè)機(jī)器學(xué)習(xí)世界如今是從歷史范例和統(tǒng)計(jì)數(shù)據(jù)中學(xué)習(xí)的?！彼硎尽！熬推浔举|(zhì)而言，這意味著這樣的學(xué)習(xí)將永遠(yuǎn)是過(guò)去的一種反映。如果過(guò)去就是你們想要的未來(lái)，那很好。我傾向于認(rèn)為并非如此，所以我們需要?jiǎng)e的東西。而你們選擇關(guān)注的過(guò)去的點(diǎn)滴是一種經(jīng)過(guò)編輯的取舍?！闭l(shuí)將成為歷史的編輯者？

哈蒙德懷疑，我們能在多大程度上用音像等多模態(tài)數(shù)據(jù)充實(shí)這些語(yǔ)言模型，以實(shí)現(xiàn)真正的理解，因?yàn)檫@些語(yǔ)言模型的設(shè)計(jì)初衷不在于此?！斑@就好比我繪制了一座房子的完美3D圖像，可有人說(shuō)：‘我們沒法把家具放進(jìn)去?！艺f(shuō)：‘我們可以進(jìn)去?！娴膯幔窟@并不是設(shè)計(jì)目的。也永遠(yuǎn)不會(huì)是。猜測(cè)與理解之間是有區(qū)別的?！?/p>

OpenAI表示，他們很清楚這種擔(dān)憂，并且已經(jīng)在用人工智能來(lái)識(shí)別質(zhì)量更高、偏差更小的數(shù)據(jù)。“我們已發(fā)現(xiàn)的一個(gè)結(jié)果是，模型越智能，就越不容易說(shuō)謊，大家都為此感到高興?！眾W爾特曼表示，“我們不斷發(fā)現(xiàn)的所有這些有趣的突現(xiàn)行為都支持這一理論。隨著人工智能越來(lái)越智能（就像人類越來(lái)越聰明一樣），判斷力也會(huì)越來(lái)越強(qiáng)?！?/p>

哲學(xué)家們自然地會(huì)傾向于關(guān)注感知與意義問題。對(duì)于愛丁堡大學(xué)的瓦洛來(lái)說(shuō)，在線交互正成為受到經(jīng)濟(jì)激勵(lì)因素鼓勵(lì)的“意義的空洞表演”：瘋傳的推文，迎合搜索優(yōu)化引擎的廣告?！芭c你們的生活方式或所信奉價(jià)值觀的內(nèi)在表達(dá)的一致性相比，這種表演的風(fēng)格成了一種獲得你們想要的回應(yīng)的更可靠方法。”她說(shuō)。“GPT-3沒有什么要表達(dá)的。它試圖傳達(dá)的東西不存在對(duì)這個(gè)世界更深層的理解。GPT-3可以是任何人、任何事。它的智能模式并不獨(dú)特，這正是它的力量所在?！?/p>

她表示，我們最大的擔(dān)憂不是GPT-3這樣的機(jī)器變得過(guò)于人性化，而是人類的行為變得更像GPT-3：我們?yōu)樗惴▌?chuàng)建內(nèi)容，而不是為人類同胞。因此，我們的在線公共話語(yǔ)正在失去意義，因?yàn)樗粍儕Z了語(yǔ)境及個(gè)體的洞察力，并被旨在迎合算法的流行語(yǔ)所淹沒。她表示：“人們被期望表現(xiàn)得越來(lái)越靈活，并學(xué)著滿足其雇主的任何要求、Twitter的任何要求、或他們所在特定政治過(guò)濾氣泡的任何要求?！?/p>

奧爾特曼表示，這些擔(dān)憂應(yīng)當(dāng)被更廣泛地討論。他自己對(duì)GPT-3的使用（用他的電子郵件和推文訓(xùn)練它），讓他懷疑自己想法的原創(chuàng)性?！拔艺J(rèn)為，在我們對(duì)人工智能進(jìn)行思考時(shí)，幾千年來(lái)人們一直在爭(zhēng)論的所有哲學(xué)問題，都通過(guò)一種不同的視角重新與我們息息相關(guān)了。創(chuàng)造性意味著什么？擁有自我意識(shí)意味著什么？有意識(shí)意味著什么？

“對(duì)我來(lái)說(shuō)，這些對(duì)話一直非常有趣，但從未顯得如此直接相關(guān)。我希望，到GPT-7這樣的未來(lái)版本上線時(shí)，我們的時(shí)間將花在從事和設(shè)想一些人工智能不擅長(zhǎng)的事與想法。那將釋放人類的大量潛能，讓我們專注于最有趣、最具創(chuàng)造性、最有生產(chǎn)性的事?！?/p>

人工智能領(lǐng)域最近的許多突破都是源于打造競(jìng)爭(zhēng)性或?qū)剐缘哪Ｐ?，這些模型在象棋、圍棋或《星際爭(zhēng)霸》（Starcraft）等游戲中戰(zhàn)勝了人類。但研究人員現(xiàn)在正將注意力轉(zhuǎn)向構(gòu)建將人工智能模型的最強(qiáng)超人能力與人類直覺結(jié)合起來(lái)的混合協(xié)作系統(tǒng)。

瓦洛表示，我們自身的理解并不是一個(gè)行為，而是一個(gè)過(guò)程，對(duì)個(gè)人來(lái)說(shuō)，是理解這個(gè)世界的終生奮斗過(guò)程，對(duì)千百年來(lái)不斷演進(jìn)的社會(huì)來(lái)說(shuō)，是永無(wú)止境的集體努力?！皫浊陙?lái)，我們一直試圖更透徹地理解正義，更好地表達(dá)美，并尋找更復(fù)雜巧妙的方式活得有趣。這是一個(gè)超越技能進(jìn)入優(yōu)越狀態(tài)的問題，進(jìn)入我們以前未能企及的創(chuàng)造力與意義的形式。

“這就是為什么人工智能的圣杯不是GPT-3的原因?！彼^續(xù)說(shuō)道。“人工智能的圣杯應(yīng)該是這樣一臺(tái)機(jī)器：它可以開始建立這個(gè)世界的堅(jiān)實(shí)模型，這個(gè)模型可以隨著時(shí)間的推移被打造得越來(lái)越強(qiáng)大，并通過(guò)與人類的交互得到完善與糾正。這才是我們需要的?！?/p>

原文標(biāo)題：人工智能終于接近人類智能了嗎？

文章出處：【微信公眾號(hào)：新機(jī)器視覺】歡迎添加關(guān)注！文章轉(zhuǎn)載請(qǐng)注明出處。

責(zé)任編輯：haq