「生成式」人工智能是未來的發(fā)展方向嗎？專家解釋新范式，需要人類參與

來源：ScienceAI，編輯：白菜葉

隨著所謂的生成 AI 的到來，例如 ChatGPT，幾十年來 AI 進(jìn)步的緩慢進(jìn)展感覺更像是一個巨大的飛躍。這種感知的跳躍讓一些專家擔(dān)心過快地走向一個他們所說的機(jī)器智能可能成為一種無所不能的、毀滅人類的力量的世界的后果，就像《終結(jié)者》一樣。

但包括體驗人工智能研究所執(zhí)行主任 Usama Fayyad 在內(nèi)的美國東北大學(xué)（Northeastern University）專家堅持認(rèn)為，這些擔(dān)憂并不反映現(xiàn)實。事實上，人工智能正在以促進(jìn)和需要人類參與的方式進(jìn)行整合——專家們創(chuàng)造了「人在環(huán)路」。

它也被稱為生成式 AI，因為算法能夠自行生成示例。這是他們訓(xùn)練的一部分。研究人員會做一些事情，比如讓算法通過生成對抗網(wǎng)絡(luò)挑戰(zhàn)自身，或者生成可能混淆系統(tǒng)的對抗樣本的算法，從而幫助加強(qiáng)其訓(xùn)練。但自開發(fā)以來，研究人員很快意識到他們需要人為干預(yù)。因此，這些系統(tǒng)中的大多數(shù)，包括 ChaptGPT，實際上都在使用并需要人工干預(yù)。作為訓(xùn)練的一部分，人類通過稱為強(qiáng)化學(xué)習(xí)的東西促進(jìn)了許多這些挑戰(zhàn)，強(qiáng)化學(xué)習(xí)是一種旨在從根本上提高系統(tǒng)性能的機(jī)器學(xué)習(xí)技術(shù)。

就像我們從計算尺過渡到計算器，再到計算機(jī)，然后是手機(jī)上的整個網(wǎng)絡(luò)——這是另一種工具，訓(xùn)練我們的學(xué)生為新世界做好準(zhǔn)備的正確方法是想辦法利用這種技術(shù)作為一種工具。

現(xiàn)在看到大規(guī)模的現(xiàn)實世界應(yīng)用還為時過早。技術(shù)太新了。但據(jù)估計，這項技術(shù)可以加速知識工作者完成的任務(wù)的 50%–80%（我更傾向于 80%）。不是自動化的，加速的。如果你是律師并正在起草協(xié)議，你可以非常快速地定制初稿；但隨后你必須進(jìn)入并進(jìn)行編輯或更改。如果你是一名程序員，你可以編寫一個初始程序。但它通常不會很好地工作；它會有錯誤；它不是針對目標(biāo)定制的。同樣，一個人，只要他們明白自己在做什么，就可以進(jìn)去修改它，并為自己節(jié)省 50%–80% 的工作量。

他們稱這種特定類別的技術(shù)為隨機(jī)鸚鵡，意思是具有隨機(jī)變化的鸚鵡。我喜歡鸚鵡這個詞，因為它正確地描述了他們不明白他們在說什么的事實。所以他們說了一些東西，這些東西聽起來很有說服力，或者流暢。這是我們試圖提出的重要觀點(diǎn)之一：不知何故，我們在社會上學(xué)會了將智慧與口才和流暢聯(lián)系起來——基本上是說話得體的人。但實際上這些算法遠(yuǎn)非智能；他們基本上是在做自動完成；他們在重復(fù)他們以前見過的東西，而且經(jīng)常被錯誤地重復(fù)。

為什么我要說這一切？因為這意味著你在完成這項工作時需要一個人在環(huán)路中，因為你需要檢查所有這些工作。你去掉了很多重復(fù)單調(diào)的工作——這太棒了。你可以加速它——這很有效率。你現(xiàn)在可以花時間增加價值，而不是重復(fù)枯燥的任務(wù)。我認(rèn)為所有這些都是積極的。

我喜歡用會計作為一個很好的類比。60-70 年前的會計是什么樣子的？好吧，你必須處理這些大賬本；你必須有漂亮的筆跡；你必須具備良好的加法技巧；你必須手動驗證數(shù)字并檢查總和并應(yīng)用比率。你猜怎么了？這些任務(wù)——沒有，零——都與今天無關(guān)。現(xiàn)在，我們更換會計師是因為我們現(xiàn)在用更快、更好、更便宜、可重復(fù)的東西取代了他們過去所做的一切嗎？不，我們今天的會計師實際上比人類歷史上的還要多。

有了這些大型語言模型，比如閱讀理解和語言編譯，我們看到了在這些大型文學(xué)或文本上訓(xùn)練的大型語言模型的發(fā)展發(fā)生了重大飛躍。順便說一句，沒有太多人談?wù)摰氖?OpenAI 不得不花很多錢來策劃那篇文章；確保它是平衡的。如果你通過兩個不同的結(jié)果在兩個具有相同內(nèi)容的文檔上訓(xùn)練一個大型語言模型，該算法如何知道哪個是正確的？它沒有。要么必須由人來告訴它，要么它基本上默認(rèn)說：「我經(jīng)常看到的東西一定是對的?！?這為錯誤信息創(chuàng)造了肥沃的土壤。

現(xiàn)在，回答你關(guān)于這個提議的暫停的問題。在我看來，它的動機(jī)有點(diǎn)愚蠢。許多支持者來自一個陣營，他們認(rèn)為我們正處于人工「通用」智能的風(fēng)險之中——這與事實相去甚遠(yuǎn)。我們離那個很遠(yuǎn)很遠(yuǎn)。同樣，這些算法不知道它們在做什么?，F(xiàn)在，我們正處于濫用它的危險地帶。最近有一個來自比利時的例子，有人在與聊天機(jī)器人交談六個月后自殺，而聊天機(jī)器人最終鼓勵他這樣做。

因此，我們需要應(yīng)對很多危險。我們知道存在問題。但是，停止不會產(chǎn)生任何影響。事實上，如果人們同意停止，那么只有好演員才會這樣做；壞演員繼續(xù)。我們需要再次強(qiáng)調(diào)的是，流利、口才不是智慧。這項技術(shù)有局限性；讓我們揭開他們的神秘面紗。讓我們好好利用它，這樣我們才能意識到壞用途是什么。這樣我們就可以了解應(yīng)該如何控制它們。

END

（添加請備注公司名和職稱）

Imagination Technologies是一家總部位于英國的公司，致力于研發(fā)芯片和軟件知識產(chǎn)權(quán)（IP），基于Imagination IP的產(chǎn)品已在全球數(shù)十億人的電話、汽車、家庭和工作 場所中使用。獲取更多物聯(lián)網(wǎng)、智能穿戴、通信、汽車電子、圖形圖像開發(fā)等前沿技術(shù)信息，歡迎關(guān)注 Imagination Tech！