OpenAI宣布要all-in AGI提出四項(xiàng)原則并將減少AI研究的公開發(fā)表

對于 OpenAI, 我們知道它是一家非盈利的，要用開放的方法研究通用AI，為人類帶來福祉的研究機(jī)構(gòu)，它的初衷是馬斯克一再強(qiáng)調(diào)的“安全的AI”?，F(xiàn)在，它的使命發(fā)生了一點(diǎn)變化：OpenAI宣布要all-in AGI（通用人工智能），提出四項(xiàng)原則，并將減少AI研究的公開發(fā)表。

馬斯克在創(chuàng)立OpenAI時，給OpenAI的目標(biāo)是確定人工智能技術(shù)如何更好地為人類服務(wù)。近日，OpenAI發(fā)布了一份新的公司章程，根據(jù)章程，OpenAI未來的使命是開發(fā)“高度自主的系統(tǒng)，在大多數(shù)具有經(jīng)濟(jì)價值的工作上超越人類”。它想讓機(jī)器比人類更聰明。

這一使命即通用人工智能（AGI），取決于你用來做什么，它可以是圣杯，也可以是潘多拉的魔盒。

OpenAI宣布all-in AGI。盡管馬斯克最近退出了OpenAI董事會（官方稱此舉是為了避免 OpenAI 將來與特斯拉可能發(fā)生的沖突），但OpenAI仍有它的野心。

一些專家，如谷歌的Ray Kurzweil，認(rèn)為我們距離奇點(diǎn)（機(jī)器變得比人類更聰明的時間點(diǎn)）只有數(shù)十年。也有人認(rèn)為這永遠(yuǎn)不會發(fā)生。在有關(guān)AGI的討論中，大多數(shù)人要么仍在試圖理清語義、學(xué)術(shù)類型，要么更擔(dān)心資金問題，而不是擔(dān)心對人類的生存威脅。

幸虧OpenAI是一個非營利性組織。它有超過10億美元的資金和AI領(lǐng)域最聰明的人才（以及大公司）的支持，它能夠?qū)Ｗ⒂诩夹g(shù)而不必?fù)?dān)心去取悅股東以免失去資助。為了達(dá)到這一目的，OpenAI致力于小心謹(jǐn)慎地開發(fā)AGI，并避免AI軍備競賽，這可能導(dǎo)致研究人員失去重點(diǎn)。

OpenAI新的章程寫道：

我們將嘗試直接構(gòu)建安全、有益的AGI，但如果我們的工作幫助其他人達(dá)到這一目的，我們也認(rèn)為我們完成了這一使命。

在這份文件中，OpenAI甚至表示，如果另一家公司似乎接近了AGI的邊緣，它將退出并終止其研究。

多數(shù)人認(rèn)為AGI是離現(xiàn)實(shí)很遠(yuǎn)的科幻小說里的事情，甚至AI信徒們也認(rèn)為擔(dān)心AGI還為時過早。但在某種程度上，我們需要一些強(qiáng)有力的指導(dǎo)方針來幫助開發(fā)人員避免意外的陷阱（比如摧毀人類）。等到機(jī)器人出現(xiàn)問題，再提出常識性的政策就太遲了。

OpenAI聯(lián)合創(chuàng)始人Ilya Sutskever說：“OpenAI在創(chuàng)立之初就已為建立一個強(qiáng)大的技術(shù)實(shí)驗(yàn)室指定了完善的規(guī)范。但是，如何建立一個旨在使這些技術(shù)的長期影響進(jìn)展順利的組織，這并沒有真正的先例。在過去兩年中，我們從頭開始建立了能力、安全和政策團(tuán)隊(duì)，每個團(tuán)隊(duì)都對這些規(guī)范有所貢獻(xiàn)。我們認(rèn)為這些技術(shù)影響著每個人，因此我們與其他機(jī)構(gòu)合作，確保這些原則不僅對我們，而且對社區(qū)的其他人都有好處?！?/p>

OpenAI目前沒有提出AGI的時間表，但它已經(jīng)開始了“下一階段的OpenAI”，包括增加對人員和設(shè)備的投資，以期“在人工智能方面取得重大突破”。

OpenAI章程全文

OpenAI的使命是確保通用人工智能（ artificial general intelligence ，AGI）——我們指的是高度自主的系統(tǒng)，這種系統(tǒng)在大多數(shù)具有經(jīng)濟(jì)價值的工作上能夠超越人類——將使全人類受益。我們將嘗試直接構(gòu)建安全而有益的AGI，但如果我們的工作幫助其他人實(shí)現(xiàn)了這一成果，我們也認(rèn)為我們的使命已經(jīng)完成。為此，我們承諾遵守以下原則：

廣泛受益原則

我們承諾利用我們通過部署AGI獲得的任何影響，確保它被用于所有人的利益，并避免AI或AGI的使用傷害人性或令能力過度集中。

我們主要的受托責(zé)任是人性。我們預(yù)計(jì)需要集結(jié)大量資源來完成我們的使命，但我們將始終不懈地努力，盡量減少員工和利益相關(guān)方之間的利益沖突，因?yàn)檫@可能會損害廣泛的利益。

長期安全原則

我們承諾進(jìn)行必要的研究，以確保AGI安全，并推動AI社區(qū)廣泛采用這些研究。

我們擔(dān)心后期AGI的發(fā)展會成為一場軍備競賽，缺乏足夠時間實(shí)施安全預(yù)防。因此，如果一個價值觀一致的、關(guān)注安全的項(xiàng)目在我們之前接近了AGI，我們承諾放棄競爭并協(xié)助這個項(xiàng)目。我們會根據(jù)具體情況制定具體的協(xié)議，但一個典型的可能性是“未來兩年內(nèi)出現(xiàn)比以往任何時候都更接近成功的機(jī)會”。

技術(shù)領(lǐng)導(dǎo)力

為了使AGI的影響對社會有效，OpenAI必須要站在AI技術(shù)的前沿——單靠政策和安全宣傳是不夠的。

我們相信AI在AGI之前會產(chǎn)生廣泛的社會影響，我們在與我們的使命和專業(yè)知識直接相關(guān)的領(lǐng)域中發(fā)揮領(lǐng)導(dǎo)作用。

合作導(dǎo)向

我們將積極配合其他研究機(jī)構(gòu)和政策機(jī)構(gòu)；我們力求創(chuàng)建一個全球性的社區(qū)，共同應(yīng)對AGI的全球挑戰(zhàn)。

我們致力于提供幫助社會通向AGI的公共產(chǎn)品。今天，這包括公開發(fā)表我們的大部分AI研究，但我們預(yù)計(jì)，由于安全性問題，未來公開發(fā)表的研究將會減少，同時增加分享安全、政策和標(biāo)準(zhǔn)研究。