DARPA在ChatGPT出現(xiàn)的背景下尋找實現(xiàn)可信賴AI的道路

美國防高級研究計劃局（DARPA）最近發(fā)起了“人工智能前沿”（AI Forward）計劃，用于發(fā)現(xiàn)和探索新的研究方向，以構(gòu)建和部署與國家安全相關(guān)的、可信賴的人工智能（AI）和機(jī)器學(xué)習(xí)應(yīng)用程序。

DARPA希望通過“人工智能前沿”計劃與專家們通力合作，致力于近期內(nèi)使可信賴的人工智能技術(shù)成為現(xiàn)實，同時為DARPA相關(guān)的信息技術(shù)戰(zhàn)略投資提供意見。

自從2022年11月ChatGPT公開供公眾使用之后，其廣受歡迎。這種交互式聊天機(jī)器人可以在一定程度上準(zhǔn)確地完成各種不同的任務(wù)，可以在人類的提示下生成音頻、代碼、圖像、文本、視頻和其他內(nèi)容，并能以對話的方式與人們進(jìn)行令人信服的互動，這標(biāo)志著生成式人工智能的一種具體應(yīng)用。

盡管目前ChatGPT等生成式人工智能系統(tǒng)能力非常引人注目，但美國防部（DoD）認(rèn)為，它們尚未達(dá)到DoD所需要的可靠性水平。

一、ChatGPT帶來的新興能力

DARPA專家認(rèn)為，人工智能技術(shù)的發(fā)展將經(jīng)歷三波浪潮。第一波是基礎(chǔ)性的，包括基于規(guī)則的人工智能系統(tǒng)。這些人工智能系統(tǒng)遵循人類定義的規(guī)則。第二波人工智能系統(tǒng)引入了統(tǒng)計方法，可以對外來信息進(jìn)行聚類和分類，然后根據(jù)數(shù)據(jù)預(yù)測任何下一步行動。當(dāng)?shù)谌ㄈ斯ぶ悄芾顺蓖耆珜崿F(xiàn)時，人工智能系統(tǒng)將基本上具備識別和響應(yīng)物理世界的能力，并可就其決策提供準(zhǔn)確的情境解釋。

DARPA專家認(rèn)為，ChatGPT這樣的大型語言模型屬于第二波人工智能技術(shù)范疇，目前還沒有看到任何第三波人工智能的成功例子。雖然現(xiàn)在人們建立了ChatGPT這樣規(guī)模巨大的人工智能模型，但并沒有全面了解它們知道什么、不知道什么、它們有什么能力，而這是一個超級艱巨的問題。要真正理解這些模型及其功能，將需要付出大量的、專門的努力，這正是AI Forward計劃的全部內(nèi)容。

近期，超過1000名技術(shù)領(lǐng)袖和科學(xué)家寫了一封公開信，呼吁至少在接下來的六個月內(nèi)立即暫停生產(chǎn)比GPT-4（或最新版本的病毒文本生成引擎）更強(qiáng)大的人工智能模型。

其實，早在ChatGPT上市之前，DARPA就已經(jīng)提出了AI Forward計劃，因為與商業(yè)行業(yè)相比，美國國防部對人工智能潛在的破壞和風(fēng)險有著更深層次的理解和關(guān)注。

二、推進(jìn)AI Forward技術(shù)

為了啟動AI Forward計劃，DARPA將在2023年6月舉辦一個虛擬研討會，并于7月下旬開始在波士頓舉辦一次現(xiàn)場研討會，屆時參與者將就“引人注目的新方向”進(jìn)行頭腦風(fēng)暴，以設(shè)計高度可信的AI。隨著這些活動的結(jié)束，DARPA將邀請參與者編寫白皮書，為快速探索DARPA可能資助的特定主題提供決策信息。DARPA認(rèn)為，在可能對創(chuàng)建可信的人工智能系統(tǒng)至關(guān)重要的高級別類別中，最重要的兩個領(lǐng)域涉及人類理解的人工智能及此類系統(tǒng)在多個方面的基礎(chǔ)理論，以及如何開發(fā)這些技術(shù)。

盡管當(dāng)前出現(xiàn)了類似GPT-4這樣的大型多模態(tài)人工智能模型，DARPA也沒有據(jù)此來構(gòu)建所需要的人工智能系統(tǒng)。因為，如果這樣做可能為濫用和難以控制的意外打開大門。

此外，DARPA還在AI Forward計劃中尋求與合作者進(jìn)行人和人工智能的合作。DARPA希望機(jī)器能夠成為不同背景的人的隊友，為人提供流暢、直觀、值得信賴的服務(wù)。

目前，DARPA官員對AI Forward計劃可能實現(xiàn)的所有目標(biāo)持開放態(tài)度，而不僅僅考慮一種解決方案。因為人工智能的功能和運作方式與人類不同，至少對當(dāng)前一代和可預(yù)見的近期人工智能來說是這樣。這需要人們用不同的方式來衡量和評估它們。

審核編輯 ：李倩