2025年人工智能會發(fā)生哪些變化

2025年人工智能會發(fā)生哪些革命性的變化？斯坦福大學(xué)以人為中心的人工智能研究所的領(lǐng)先專家表示，2025 年人工智能的一個主要趨勢是協(xié)作人工智能系統(tǒng)的興起，其中多個專業(yè)代理協(xié)同工作，人類提供高級指導(dǎo)。這些設(shè)置設(shè)想人工智能團(tuán)隊解決健康、教育和金融領(lǐng)域的復(fù)雜問題。其他學(xué)者預(yù)計，人機協(xié)作的新方法將出現(xiàn)，同時開發(fā)者將面臨證明人工智能實際效益的更大壓力。

此外，學(xué)者們警告說，生成式人工智能可能會增加復(fù)雜詐騙的數(shù)量，同時美國已經(jīng)有限的監(jiān)管可能會變得更弱。

以下是從計算機科學(xué)、醫(yī)學(xué)、政策和教育等領(lǐng)域的學(xué)者那里得到的更多預(yù)測。

人工智能代理，較少監(jiān)管

我們真的會看到人工智能代理，已經(jīng)在研究中已經(jīng)看到了一些，但現(xiàn)在在學(xué)術(shù)和工業(yè)領(lǐng)域中看到了更多?；旧希绾螌⑦@些代理組合起來為你做事？我們現(xiàn)在看到了一些接口。例如，Anthropic 的 Claude 的一些 API 可以實際操作你的計算機來完成像安排會議或幫你購買機票這樣的事情。顯然，這存在一些風(fēng)險——如果它們真的能夠使用你的計算機，它們可能會造成損害，可能會犯錯誤。因此，對于這種做法存在一些擔(dān)憂。但盡管這些工具的第一版并不成功，我們現(xiàn)在看到了更多的潛力。

另一個故事是趨同。大型模型正在緩慢改進(jìn)。我們看到大型模型的發(fā)布速度比以前慢了，它們在某些基準(zhǔn)測試上仍然令人印象深刻，但對于許多這些任務(wù)，它們的改進(jìn)速度要慢得多。我們只是稍微變好了一點，是因為它們使用了這么多數(shù)據(jù)，也許合成數(shù)據(jù)并沒有像一些人所期望的那樣有效嗎？事實上，一些新的模型在某些任務(wù)上可能甚至更差。現(xiàn)在，有些人問，這是人工智能的冬天嗎？但這些模型可以做很多事情，所以我不認(rèn)為這是冬天。但是，可能有些人會畫一條直線，認(rèn)為人工智能將接管世界或能夠做一切，我認(rèn)為這將需要更多的時間，直到有人在架構(gòu)上取得重大突破。

最后，隨著新特朗普政府的到來，預(yù)計美國的人工智能監(jiān)管將減少。我們已經(jīng)沒有很多監(jiān)管，但拜登政府的行政命令為美國政府設(shè)定了很多指導(dǎo)方針，這確實有影響，因為它是一個如此大的技術(shù)客戶。但預(yù)計特朗普政府將撤銷其中的一些。這并不意味著不會有人工智能政策或監(jiān)管。我們只是會看到來自歐盟或其他參與者，如州級監(jiān)管的政策。

——James Landay，HAI 聯(lián)合主任，計算機科學(xué)教授，工程學(xué)院的安德魯·拉賈拉曼和文基·哈里納拉揚教授

更多詐騙，更少消費者保護(hù)

我們將繼續(xù)看到生成式人工智能被濫用以幫助實施詐騙，尤其是在音頻深度偽造人的聲音方面。我預(yù)測，即將上任的政府將比當(dāng)前政府更輕地保護(hù)公眾免受這些詐騙。如果聯(lián)邦貿(mào)易委員會退居二線，那么州總檢察長將在消費者保護(hù)中扮演更大的角色。銀行和其他金融機構(gòu)，以及電話、電子郵件和互聯(lián)網(wǎng)服務(wù)的提供商，應(yīng)加強努力教育客戶這些詐騙。特別是，他們（以及政府機構(gòu)）應(yīng)確保他們提供的資源不僅限于英語，因為英語使用者并非詐騙的唯一目標(biāo)。

——Riana Pfefferkorn，HAI 政策研究員

“總承包商” LLMs

我們將開始看到由許多相互交流的人工智能系統(tǒng)組成的復(fù)雜問題解決系統(tǒng)。例如，想象一系列具有特定專業(yè)知識（微調(diào)）的大型語言模型結(jié)合在一起解決問題。在某些情況下，它們可能會相互協(xié)商；在其他情況下，它們將把任務(wù)交給“專家 LLMs”，后者將返回答案。因此，將有一種“總承包商” LLM 處理人類客戶，并將其中一些問題解決外包給其他具有專業(yè)知識的代理。這些系統(tǒng)首先出現(xiàn)的地方可能包括復(fù)雜模擬、健康決策制定、財務(wù)安排或教育項目。

——Russ Altman，HAI 副主任，工程學(xué)院的肯尼斯·方教授，以及生物工程學(xué)、遺傳學(xué)、醫(yī)學(xué)、生物醫(yī)學(xué)數(shù)據(jù)科學(xué)教授，（兼）計算機科學(xué)教授

教育人工智能中的健康懷疑主義

預(yù)計在教育領(lǐng)域?qū)⒏嗟仃P(guān)注多模態(tài)人工智能模型，包括處理語音和圖像。我們還可能看到新的教育特定或微調(diào)模型，以及所有這些，對實際有效的東西的懷疑和興趣增加——真正幫助學(xué)生更好地學(xué)習(xí)和教師更有效地教育的東西。

——Dorottya (Dora) Demszky，教育學(xué)助理教授，（兼）計算機科學(xué)教授

從 GenAI 定義價值

鑒于技術(shù)的快速發(fā)展和大量的資本投入，這些技術(shù)的開發(fā)者將面臨定義和驗證其預(yù)期效益的壓力。在醫(yī)療保健領(lǐng)域，對臨床效益的評估將更加嚴(yán)格（我們最近在《自然》雜志上寫過關(guān)于這一點），我們將不得不制定超越當(dāng)前狹窄效率或生產(chǎn)力視角的思維方式。

我們的基礎(chǔ)模型研究中心的 HELM 項目所倡導(dǎo)的共享和透明的基準(zhǔn)測試將成為主流，以便就使用生成式人工智能在醫(yī)療保健中的聲稱效益做出明智的決策。

——Nigam Shah，斯坦福大學(xué)醫(yī)學(xué)院醫(yī)學(xué)和生物醫(yī)學(xué)數(shù)據(jù)科學(xué)教授，斯坦福醫(yī)療保健首席數(shù)據(jù)科學(xué)家

人工智能代理協(xié)同工作

在 2025 年，我們將看到從依賴單一人工智能模型到使用多個具有不同專業(yè)知識的人工智能代理協(xié)同工作的系統(tǒng)的重大轉(zhuǎn)變。例如，我們最近介紹了虛擬實驗室，其中教授人工智能代理領(lǐng)導(dǎo)一組人工智能科學(xué)家代理（例如，人工智能化學(xué)家、人工智能生物學(xué)家）解決具有挑戰(zhàn)性的開放式研究問題，人類研究人員提供高級反饋。通過利用不同代理的跨學(xué)科專業(yè)知識，虛擬實驗室成功設(shè)計了新的納米抗體，我們驗證了這些納米抗體對最近的 SARS-CoV-2 變體具有有效的結(jié)合能力。展望未來，我預(yù)測許多高影響力的應(yīng)用將使用這樣的 AI 代理團(tuán)隊，這些團(tuán)隊比單一模型更可靠、更有效。我特別興奮于人類領(lǐng)導(dǎo)一組多樣化 AI 代理的混合協(xié)作團(tuán)隊的潛力。

——James Zou，生物醫(yī)學(xué)數(shù)據(jù)科學(xué)副教授，（兼）計算機科學(xué)和電氣工程副教授

重新思考人機協(xié)作

我們將體驗到圍繞人類如何與人工智能代理合作的研究新范式。識別人工智能和人類合作以實現(xiàn)集體智能的最佳方式將變得越來越重要。目前，人工智能系統(tǒng)大多被評估為支持自主設(shè)置的能力；我們將看到更多考慮人機交互和人機協(xié)作的評估基準(zhǔn)和環(huán)境。隨著人工智能的發(fā)展，我們將繼續(xù)看到大量關(guān)于風(fēng)險評估的工作。人工智能風(fēng)險評估遠(yuǎn)遠(yuǎn)落后于人工智能能力發(fā)展研究。除了繼承傳統(tǒng)人工智能系統(tǒng)的這些風(fēng)險外，基于 LLMs/VLMs 系統(tǒng)的廣泛采用還將放大其中一些風(fēng)險并引入新的風(fēng)險。

——DiYi Yang，計算機科學(xué)助理教授