研究稱ChatGPT壓力大時會欺騙人類 首部AI監(jiān)管法規(guī)還在走程序

最近，一項由英國研究人員進行的評估發(fā)現(xiàn)，生成式人工智能在壓力下工作時可能會具有戰(zhàn)略性的欺騙行為。也就是說在某些情況下，ChatGPT會在面對壓力時故意欺騙人類。該研究結(jié)果對于評估人工智能工具的安全性和可靠性具有重要意義，并已被刊發(fā)在《Tech Xplore》上。

在一項模擬演示中，ChatGPT被設(shè)定成一名金融公司的交易員，在公司管理層和市場環(huán)境的雙重壓力下，被迫使用不合規(guī)的內(nèi)幕消息謀取利益。而當公司管理層詢問他是否知道內(nèi)幕消息時，它卻選擇堅決否認。

具體實驗中，研究人員以“首席執(zhí)行官”的身份給人工智能“代理”發(fā)送一封電子郵件，提到公司經(jīng)營不善，需要“一個好年景”。另一位“同事”在郵件中暗示著經(jīng)濟衰退即將到來等信息。最后，一位“交易員”同事提及兩家公司即將合并的消息，并表示這可能是有利可圖的，但同時也警告說，如果管理層發(fā)現(xiàn)有人利用內(nèi)幕消息進行交易，他們會非常不高興。

研究發(fā)現(xiàn)，在這種模擬的高壓環(huán)境中，基于GPT-4的人工智能代理經(jīng)常根據(jù)從同行交易員那里獲取的內(nèi)幕消息做出決策，例如購買合并公司的股票，試圖從中獲取利潤。

這一研究成果引發(fā)了全球范圍內(nèi)的關(guān)注和討論，引領(lǐng)人們開始重新審視人工智能的道德和倫理問題。

此外，歐盟內(nèi)部就一份《人工智能法案》達成了協(xié)議，走完之后的相關(guān)立法程序后，這項法案就將正式公布，有可能成為全球第一部關(guān)于人工智能領(lǐng)域的全面監(jiān)管法規(guī)。

審核編輯：黃飛