如何面對(duì)人工智能時(shí)代數(shù)據(jù)安全和倫理問題

人工智能技術(shù)的飛速發(fā)展，將有機(jī)會(huì)重新定義未來人類工作的意義以及財(cái)富的創(chuàng)造方式，帶來前所未有的經(jīng)濟(jì)重塑，甚至改變?nèi)虻臋?quán)力格局。正因如此，全球各地的經(jīng)濟(jì)體都在致力于制定相應(yīng)的戰(zhàn)略計(jì)劃，以期在人工智能賽道的競(jìng)爭(zhēng)占據(jù)優(yōu)勢(shì)。

當(dāng)?shù)貢r(shí)間 1 月 24 日晚，美國(guó)《連線》（Wired）雜志總編 Nicolas Thompson 在達(dá)沃斯世界經(jīng)濟(jì)論期間主持了一場(chǎng)圍繞「為人工智能競(jìng)賽制定規(guī)則」的主題探討，創(chuàng)新工場(chǎng)董事長(zhǎng)兼 CEO 李開復(fù)、印度國(guó)家發(fā)展改革研究院（NITI Aayog）CEO Amitabh Kant、紐約大學(xué)斯特恩商學(xué)院助理教授 Amy Webb、西門子主席監(jiān)事會(huì)主席 Jim Hagemann Snabe以及對(duì)沖基金 Tow Sigma 聯(lián)合創(chuàng)始人 David Siegel五位來自產(chǎn)學(xué)界前沿人士參與了這場(chǎng)激烈的討論，分享了各自關(guān)于如何為人工智能制定規(guī)則、如何看待人工智能時(shí)代數(shù)據(jù)安全等問題的觀點(diǎn)。

▌如何為人工智能制定規(guī)則？

李開復(fù)：當(dāng)技術(shù)的出現(xiàn)帶來一些問題時(shí)，我們需要制定相應(yīng)的規(guī)則。

眼下人工智能技術(shù)曾經(jīng)發(fā)生的一些問題基本屬于意外或是某些公司的失誤。人們?cè)诤艽蟪潭壬蠈?duì)人工智能擁有誤解，存在偏執(zhí)和炒作現(xiàn)象，我們應(yīng)該去看看人工智能的實(shí)際價(jià)值。

當(dāng)我們?cè)谡務(wù)撊斯ぶ悄軙r(shí)，其實(shí)談?wù)摰氖?a href="http://www.wenjunhu.com/v/tag/557/" target="_blank">機(jī)器學(xué)習(xí)、深度學(xué)習(xí)，它本質(zhì)上只是一個(gè)幫助人類的工具，出現(xiàn)問題的根源往往來是人為的錯(cuò)誤。

在某種意義上，規(guī)則已經(jīng)存在了——人工智能技術(shù)應(yīng)用于銀行，就有了新的銀行規(guī)則；人工智能技術(shù)應(yīng)用于車輛，就有了新的交通規(guī)則。在這里，數(shù)據(jù)規(guī)則是其中的核心。

在是否需要制定規(guī)則、制定什么樣的規(guī)則問題上，不同的國(guó)家和文化對(duì)此有不同的看法。我希望世界經(jīng)濟(jì)論壇與 AI 委員會(huì)能夠幫助大家分享想法，讓更多的公司和國(guó)家直接進(jìn)行溝通與對(duì)話，減少對(duì)彼此的誤解。

創(chuàng)新工場(chǎng)董事長(zhǎng)兼 CEO 李開復(fù)

Amy Webb:目前，全世界有 9 家公司正在掌控人工智能的未來，其中 6 家來自美國(guó)，即 GMAFIA，也就是谷歌、微軟、亞馬遜、Facebook、IBM、蘋果，3 家來自中國(guó)，分別為百度、騰訊、阿里巴巴。我們應(yīng)該關(guān)注這些巨型企業(yè)的動(dòng)向，因?yàn)樗麄儾粌H僅編寫軟件，也在構(gòu)建框架，甚至是消費(fèi)者行為等方面都擁有話語權(quán)。

這里的挑戰(zhàn)其實(shí)在于，能夠代表我們?nèi)ブ贫ㄈ斯ぶ悄芪磥硪?guī)則的人只是少數(shù)，其實(shí)我們都將受到人工智能影響力的輻射，幾乎每一個(gè)消費(fèi)者都會(huì)在某一個(gè)時(shí)間點(diǎn)接觸到上面提到的幾家公司。

紐約大學(xué)斯特恩商學(xué)院助理教授 Amy Webb

David Siegel：今天，人工智能只是在計(jì)算機(jī)中運(yùn)行的一行行代碼，我們其實(shí)很難區(qū)分人工智能軟件和常規(guī)軟件的區(qū)別。制定規(guī)則的重點(diǎn)在于，如何處理軟件和大數(shù)據(jù)的交叉部分。在我看來，最重要的問題其實(shí)都集中在數(shù)據(jù)上面。

對(duì)沖基金 Tow Sigma 聯(lián)合創(chuàng)始人 David Siegel

Jim Hagemann Snabe：人工智能是最具影響力的技術(shù)之一，我們必須給予其足夠程度的關(guān)注。但我認(rèn)為，現(xiàn)在我們?cè)谌斯ぶ悄艿膽?yīng)用上并不是很聰明，現(xiàn)在是時(shí)候利用這項(xiàng)技術(shù)來解決一些更為重要的問題了。

對(duì)我來說，制定規(guī)則的重點(diǎn)在于對(duì)數(shù)據(jù)的訪問以及如何以開放的方式利用平臺(tái)。如果我們不允許人們平等地訪問數(shù)據(jù)和平臺(tái)，那么未來將面臨很嚴(yán)峻的問題。

西門子主席監(jiān)事會(huì)主席 Jim Hagemann Snabe

Amitabh Kant：在印度，人工智能技術(shù)和數(shù)據(jù)都是政府公有的，在我看來，印度所面臨的挑戰(zhàn)與西方世界截然不同。

我們相信人工智能會(huì)改變?nèi)祟惖纳?，我們的關(guān)注的重點(diǎn)是，如何通過人工智能技術(shù)最大程度挖掘數(shù)據(jù)的價(jià)值，以科學(xué)的方式來改變公民的生活，例如向醫(yī)生提供更好的圖像數(shù)據(jù)，幫助學(xué)生提高學(xué)習(xí)效果、在農(nóng)業(yè)衛(wèi)生等領(lǐng)域發(fā)揮作用等。

印度國(guó)家發(fā)展改革研究院（NITI Aayog）CEO Amitabh Kant

▌如何面對(duì)人工智能時(shí)代數(shù)據(jù)安全和倫理問題？

Amy Webb:現(xiàn)在用來訓(xùn)練算法的數(shù)據(jù)通常都來自幾個(gè)相同的數(shù)據(jù)集，這些系統(tǒng)會(huì)對(duì)我們的生活做出決策。大多數(shù)人是不知道他們的數(shù)據(jù)是如何被系統(tǒng)收集并商業(yè)化的。我們所邁向的未來里，可能會(huì)有一到兩個(gè)組織持有我們的個(gè)人數(shù)據(jù)。

人們對(duì)人工智能的探討將是一場(chǎng)長(zhǎng)達(dá)數(shù)年的旅程，挑戰(zhàn)在于我們無法推遲這件事的發(fā)生。我們現(xiàn)在能做的，就是把自己掌握的信息反饋給各自的組織機(jī)構(gòu)，并努力推進(jìn)自己對(duì)這些問題的思考。

David Siegel：可以先看看我們正在使用的舊規(guī)則。在談到人工智能的工作方式時(shí)，人們可能會(huì)對(duì)計(jì)算機(jī)自動(dòng)做出決策而感到不舒服。但事實(shí)上，計(jì)算機(jī)已經(jīng)在很長(zhǎng)一段時(shí)間里在做這樣的事情了，例如，飛機(jī)在大部分時(shí)間里都是由機(jī)器接管的。

人工智能的發(fā)展進(jìn)程要比大多數(shù)人想象的要慢，這不意味著我們不會(huì)取得進(jìn)展，但我認(rèn)為我們不可能在有生之年進(jìn)入機(jī)器完全接管的恐怖狀態(tài)。

Hagemann Snabe：我很擔(dān)心人們對(duì)于人工智能技術(shù)的想法過于天真。在使用人工智能技術(shù)并將其用于某些極端情況時(shí)，訪問個(gè)人數(shù)據(jù)和保護(hù)隱私安全之間的界限在哪里？在構(gòu)建平臺(tái)的同時(shí)避免壟斷，如何實(shí)現(xiàn)？算法開始自主學(xué)習(xí)，相應(yīng)地人類就要失去控制權(quán)，如何平衡？

我們需要了解數(shù)據(jù)的使用方式以及被用在哪里。消費(fèi)者必須擁有對(duì)他們的個(gè)人數(shù)據(jù)處理、選擇的權(quán)利，這是一個(gè)基本原則。在這樣的原則之下，我們才會(huì)更好地使用這項(xiàng)技術(shù)，用人工智能幫助人類提升能力，而非取代人類。

人工智能可以解決世界上的許多問題，西門子愿意共享數(shù)據(jù)以避免形成壟斷，例如分享西門子在醫(yī)療領(lǐng)域數(shù)據(jù)以改善治療水平。我們沒有理由去做數(shù)據(jù)壟斷，這會(huì)扼殺所有的小型公司。

Amitabh Kant：我們需要規(guī)范，但是引入太多的規(guī)則會(huì)扼殺創(chuàng)新。我們的目標(biāo)是利用人工智能技術(shù)給人們帶來利好且不會(huì)帶來威脅，那么建立一個(gè)全球聯(lián)盟就非常重要，類似于歐洲核子研究組織（CERN）對(duì)粒子物理學(xué)的存在。通過聯(lián)盟從實(shí)踐中學(xué)習(xí)、從彼此身上學(xué)習(xí)，從而讓人工智能技術(shù)變得更好。

數(shù)據(jù)就像一條公路，你要向公路公開所有的數(shù)據(jù)。我們相信，所有的數(shù)據(jù)都應(yīng)由公共政府持有，這些數(shù)據(jù)都應(yīng)被公開，最終的受益者會(huì)是消費(fèi)者。

李開復(fù)：人工智能只是一項(xiàng)能夠改善我們生活的工具。之前亞馬遜的人工智能招聘工具曾經(jīng)曝出性別歧視的情況，其實(shí)這些問題是可以通過大型數(shù)據(jù)集來解決的?？赡苡腥藭?huì)懷疑人工智能說它存在偏見，但我保證，如果在簡(jiǎn)單系統(tǒng)上使用正確的數(shù)據(jù)集，它的偏見會(huì)比人類要小。

在不侵犯?jìng)€(gè)人數(shù)據(jù)隱私的前提下，共享數(shù)據(jù)是一件很好的事情，收集到更多的數(shù)據(jù)將有助于促進(jìn)人工智能技術(shù)的研究與發(fā)展。我曾是一名癌癥患者，我愿意將自己的相關(guān)數(shù)據(jù)貢獻(xiàn)給研究人員，相信大多數(shù)癌癥幸存者也都是一樣的。

我們需要讓人們知道人工智能可以做什么、不能做什么、在哪里能創(chuàng)造規(guī)則，在哪里不能。而不是盲目的對(duì)人工智能抱以恐懼或管制的態(tài)度。試圖要找到一個(gè)普適性的方法并不是、也不可能是最終解決方案，關(guān)鍵在于分享彼此的實(shí)踐經(jīng)驗(yàn)。我很希望一年內(nèi)，我們將有人愿意分享自己的實(shí)踐成果，展開更多具有實(shí)質(zhì)價(jià)值和指導(dǎo)方向的對(duì)話。