AI對人類有潛在威脅分析

　　AI 對人類是威脅嗎

　　有新聞報道稱，人工智能（AI）

　　研究盡管在未來可能取得成功且前途

　　不可限量，但潛在的長期風(fēng)險正逐

　　漸顯示出來。奧倫·埃齊奧尼（Oren

　　Etzioni）是一位知名的人工智能研究

　　人員，他對此感到不滿（參見《專

　　家并不認(rèn)為超級智能對人類是一種

　　威脅》）。在他直接公開指責(zé)牛津大

　　學(xué) 哲 學(xué) 家 尼 克· 波 斯 特 羅 姆（Nick

　　Bostrom）和他的最新著作《超級智能》

　?。⊿uperintelligence）后，埃齊奧尼指出，

　　波斯特羅姆提出的“即將出現(xiàn)的人類

　　層級智能的主要數(shù)據(jù)源”來自對 AI

　　□艾倫·達福（Allan Dafoe） 斯圖爾特·羅素（Stuart Russell）

　　人工智能的真正風(fēng)險

　　最好是期待人類的聰明才智，而非低估它；最好是承認(rèn)風(fēng)險的存在，而非否認(rèn)它

　　研究人員意見的調(diào)查。在此之后，埃

　　齊奧尼自己也對 AI 研究人員的意見

　　進行了調(diào)查，聲稱他得出的結(jié)論推翻

　　了波斯特羅姆的觀點。

　　要知道，埃齊奧尼甚至沒提到為

　　什么他公開譴責(zé)《超級智能》所造成

　　的影響，這點很重要。他也沒有解釋

　　清楚為什么超級智能的 AI 可能會造

　　成無法把控的負(fù)面影響，為什么提前

　　開始解決 AI 的問題是如此重要。波

　　斯特羅姆并沒有把事實建立在超人類

　　AI 系統(tǒng)即將來臨的這個預(yù)測上，他在

　　著作中寫道 ：“本書并不是在表明我

　　們正處于人工智能重大突破的開端，

　　也沒有表明我們可以準(zhǔn)確預(yù)測這一重

　　大進展何時會發(fā)生?！?/p>

　　因此，在我們看來，埃齊奧尼的

　　文章轉(zhuǎn)移了讀者的注意力，使讀者沒

　　有關(guān)注該書的核心內(nèi)容。埃齊奧尼以

　　質(zhì)疑調(diào)查結(jié)果為由，直接從個人偏好

　　的角度出發(fā)攻擊波斯特羅姆。我們覺

　　得有必要更正一下。我們的一位同事

　　（拉塞爾）甚至還參與了埃齊奧尼的

　　調(diào)查，但卻發(fā)現(xiàn)他的回答完全被埃齊

　　奧尼曲解了。事實上，根據(jù)我們的詳

　　細(xì)分析，埃齊奧尼的調(diào)查結(jié)果與波斯

　　特羅姆的觀點完全一致。

　　那么，埃齊奧尼是如何得出他的

　　新結(jié)論的呢？他自己設(shè)計了一份調(diào)查

　　問卷，不過問卷的質(zhì)量比波斯特羅姆