生成式AI應優(yōu)先在 “錯誤不敏感” 型領域應用

在 ChatGPT 證明了大模型的顛覆性作用之后，眾多 AI 廠商、以及各應用領域廠商都在尋求將 AI 技術用在各行各業(yè)的實際生產(chǎn)中以提升效率的方案。但生成式 AI（GAI）的成果目前還是毀譽參半，一方面 C 端用戶利用 GAI 來創(chuàng)造的畫作、詩歌等作品日漸精美；但另一方面，GAI 在企業(yè)級、生產(chǎn)級的應用中還未取得大規(guī)模的落地。

對此，悉尼科技大學副校長、杰出教授、澳大利亞人工智能理事會理事長，IJCAI-PRICAI-2024 大會主席 張成奇認為，應用生成式人工智能系統(tǒng)應優(yōu)先選擇 “錯誤不敏感” 的領域，取得結果后，再向其他領域拓展。此外，大模型的下一步便是發(fā)展與其他系統(tǒng)、服務領域相結合的輕量化模型，在不同領域?qū)嶋H落地。

本期開源訪談我們邀請到張成奇教授，一起聊聊在他眼中，未來 AI 的發(fā)展趨勢，以及我們該如何應對的相關問題。

OSCHINA：請您介紹下自己的研究經(jīng)歷，以及當前主要的研究方向。

張成奇：

我從 1982 年讀碩士研究生時開始研究專家系統(tǒng)，然后分布式專家系統(tǒng)，再之后研究數(shù)據(jù)挖掘。

OSCHINA：數(shù)據(jù)挖掘與應用是多年來的研究熱點，當下有哪些新的需求迸發(fā)，技術層面如何應對這些新的需求？

張成奇：

數(shù)據(jù)挖掘可以應用在非常多的領域。我們的研究應用包括社會保障，銀行，稅務，設備租賃，網(wǎng)上欺凌，健康管理等。

新的需求包括大數(shù)據(jù)，多模態(tài)，實時性，高精度等。技術層面包括很多新的技術與計算架構。比如：圖處理，云計算， 人工智能技術，大模型等等。

OSCHINA：人工智能技術大致經(jīng)歷了怎樣的發(fā)展脈絡？有哪些關鍵發(fā)展節(jié)點？又在哪些領域和應用中取得了最顯著的進步？

張成奇：

人工智能技術發(fā)展脈絡可以粗略的分為以下幾個階段：

基于推理的通用問題求解；基于知識的專家系統(tǒng)；基于深度學習的感知系統(tǒng)；基于 GPT 的通用認知系統(tǒng)。

在 2022 年前，人工智能分為三大學派：基于知識的認知系統(tǒng)研究；基于深度學習的感知系統(tǒng)研究；基于控制論的行為系統(tǒng)研究。

只有基于深度學習的感知系統(tǒng)研究取得了巨大的成就。自從 GPT 系統(tǒng)出現(xiàn)，認知系統(tǒng)有了巨大的飛躍。

OSCHINA：您認為要如何促進人工智能在各個領域的合作和轉(zhuǎn)化？

張成奇：

優(yōu)先選擇 “錯誤不敏感” 的領域（見下一問題）應用生成式人工智能系統(tǒng)?？焖偃〉贸晒?，再向其他領域拓展。現(xiàn)在很多龍頭企業(yè)都在關注生成式人工智能系統(tǒng)的靚麗表現(xiàn)?，F(xiàn)在的關鍵是要有輕量級模型可以商用。一旦有了標桿似的應用案例，很多企業(yè)都會與學界合作。

OSCHINA：預測未來十年內(nèi)，AI 的發(fā)展可能會有哪些重大變革？隨著 AI 越來越智能，可能會給人類社會帶來什么樣的風險和危機？

張成奇：

我認為 AI 的發(fā)展有以下幾個趨勢：

一．生成式人工智能系統(tǒng)會變得越來越智能。

二．輕量化模型會大量涌現(xiàn)。

輕量化模型與其它系統(tǒng)結合，提高其它系統(tǒng)的智能能力，比如，與機器人結合，與元宇宙結合等。

輕量化模型會與服務領域結合。與制造業(yè)結合，與養(yǎng)老結合；與旅游結合，等等。

三． 生成式人工智能系統(tǒng)不負責系統(tǒng)的正確性及可靠性，所以，生成式人工智能系統(tǒng)的測試系統(tǒng)會不斷涌現(xiàn)。

四：因為生成式人工智能系統(tǒng)的特點（正確性及可靠性無法保證），如何應用生成式人工智能系統(tǒng)也會得到關注。我建議把應用領域用 “錯誤敏感度” 來定義。在錯誤敏感度非常高的領域要慎用，或者有人類專家審查后再用。比如醫(yī)療診斷，法律判案。在錯誤敏感度中性的領域要根據(jù)錯誤率決定。比如：股票交易。如果錯誤率低于 50%，就可以用。在錯誤敏感度非常低（或者無法判定對錯的）領域，盡管用。比如，作詩，繪畫，講故事等，盡管生成式系統(tǒng)會 “一本正經(jīng)的胡說八道” 也沒關系。研究人員就是在每個領域判定 “錯誤敏感度 “。

OSCHINA：不久前，馬斯克、史蒂夫等人呼吁暫停訓練比 GPT-4 更加強大的 AI 系統(tǒng)，您怎么看待這件此事？

張成奇：

自從 GPT-3 與 GPT-4 有了知識涌現(xiàn)的能力，讓人們擔心人工智能系統(tǒng)有失控的風險。所以提醒人們注意風險。我認為是很有必要的。但是人工智能系統(tǒng)與核能系統(tǒng)類似，是雙刃劍。不能因為有風險，就停止研究。我們要關注的是如何趨利避害。

一直以來，學界的研究與業(yè)界應用都是相互影響的。AI 迅猛發(fā)展的當下，學界也出現(xiàn)了許多新的研究成果。今年 7 月 4 日到 6 日，IJCAI YES 大會將在上海舉辦。 2023 IJCAI YES 官網(wǎng)：https://ijcai.org.cn/。明年（2024 年）7 月 13 日到 19 日，IJCAI-PRICAI-2024 將在上海舉辦。蔣會有越來越多的研究聚焦于生成式人工智能研究，

OSCHINA：您為歷年來 IJCAI 大會的舉辦做了很多臺前幕后的工作，可以聊聊為什么會傾注很多心血在這個大會上，這幾年的大會經(jīng)歷讓您印象最深的是什么嗎？

張成奇：

我是從 2011 年開始為 IJCAI 服務。前六年主要是為 IJCAI-2017 做籌備工作。近六年主要是為 IJCAI 做籌款工作。IJCAI 歷史悠久，為全世界的人工智能發(fā)展做出了不可磨滅的貢獻。大部分的人工智能的獲獎者都在 IJCAI 大會上做特約報告，或是 IJCAI 的獲獎者。我很自豪能為 IJCAI 做出自己的貢獻。

對我個人而言，印象最深的是為 IJCAI 的兩項籌款記錄：

1. 公司單筆贊助 IJCAI-2019 15 萬美元。

2. 全世界有 17 所大學現(xiàn)金贊助 IJCAI-2017。

我希望有人能在其它世界人工智能頂會的籌款方面破了上述記錄。這兩項紀錄也標志著 IJCAI 在世界范圍內(nèi)的影響力。作為 IJCAI-PRICAI-2024（2024 年 7 月 13 日到 19 日在上海召開）的大會主席，我誠摯的邀請讀過次專訪的人員能來上海參會，或者告訴你們的朋友來參會。