谷歌首席科學(xué)家李飛飛宣布成立“以人為本AI研究院”, AI要以人為本

據(jù)國外媒體報(bào)道，日前斯坦福大學(xué)成立以人為本人工智能研究所（HAI）。記者采訪了該機(jī)構(gòu)聯(lián)合主管李飛飛，其談到了人工智能對(duì)我們?nèi)粘Ｉ畹挠绊憽⑼该鞫鹊南嚓P(guān)需求以及人類監(jiān)督的重要作用。

斯坦福大學(xué)計(jì)算機(jī)科學(xué)教授李飛飛一直擔(dān)心人工智能的發(fā)展會(huì)缺乏多樣性。今天，這位開創(chuàng)性的人工智能研究人員將經(jīng)濟(jì)學(xué)家、哲學(xué)家、倫理學(xué)家、法律學(xué)者、歷史學(xué)家、心理學(xué)家，甚至藝術(shù)家聚集在一起，共同開發(fā)人工智能技術(shù)和應(yīng)用。

當(dāng)?shù)貢r(shí)間周一，斯坦福大學(xué)成立了以人為本的人工智能研究所(Institute for Human-Centered Artificial Intelligence, HAI)。這是一個(gè)跨學(xué)科的研究中心，擁有來自各個(gè)領(lǐng)域的專家。李飛飛表示，“研究表明，當(dāng)不同群體的人合作處理任何問題時(shí)，解決方案都更具創(chuàng)新性?！崩铒w飛與哲學(xué)教授、斯坦福大學(xué)前教務(wù)長約翰·埃齊門第（John Etchemendy）共同出任HAI聯(lián)合主管。

據(jù)了解，該機(jī)構(gòu)致力于評(píng)估智能機(jī)器對(duì)人類生活的影響，包括自動(dòng)化導(dǎo)致的工作不安全感、算法中存在的性別和種族偏見以及由此引發(fā)的不平等現(xiàn)象，以及醫(yī)療、教育和司法系統(tǒng)中的人工智能對(duì)人類的影響。李飛飛說，HAI的目標(biāo)是讓智能機(jī)器“更以人為本，更加仁慈，幫助我們?nèi)祟惤鉀Q一些最大的問題。”

李飛飛曾擔(dān)任斯坦福大學(xué)人工智能實(shí)驗(yàn)室主任、谷歌副總裁，谷歌云服務(wù)Google Cloud的人工智能和機(jī)器學(xué)習(xí)首席科學(xué)家。在接受采訪時(shí)，她談到了人工智能對(duì)我們?nèi)粘Ｉ畹挠绊憽⑼该鞫鹊南嚓P(guān)需求以及人類監(jiān)督的重要作用。

問：您談到了人工智能的跨學(xué)科研究方法。社會(huì)科學(xué)家、歷史學(xué)家、藝術(shù)家、律師和哲學(xué)家如何幫助開發(fā)更好的人工智能應(yīng)用程序?

李飛飛：這是我非常珍視的東西，也是斯坦福大學(xué)HAI的本質(zhì)所在。這種方法絕對(duì)至關(guān)重要。人文主義者、社會(huì)科學(xué)家、經(jīng)濟(jì)學(xué)家、哲學(xué)家,倫理學(xué)家,法律學(xué)者、歷史學(xué)家、心理學(xué)家和認(rèn)知科學(xué)家將以前所未有的方式推動(dòng)未來人工智能的發(fā)展。無論是將人工智能技術(shù)提升到新的水平還是理解人工智能的社會(huì)影響，亦或是人工智能的社會(huì)同理心、相應(yīng)的政策和法律監(jiān)管都是如此?，F(xiàn)在是時(shí)候讓更多社會(huì)科學(xué)家和人文主義者參與人工智能研究。

問：您即將啟動(dòng)的新研究所由學(xué)者和各行各業(yè)的專家組成。這個(gè)社區(qū)的未來是什么樣的?

李飛飛：領(lǐng)導(dǎo)這個(gè)機(jī)構(gòu)的是斯坦福大學(xué)的教師，而其中最重要的工作人員是研究人員和學(xué)生。這是一個(gè)包容性很強(qiáng)的機(jī)構(gòu)，旨在成為一個(gè)全球中心，讓人們關(guān)注包括技術(shù)、社會(huì)倫理以及政策在內(nèi)的人工智能方方面面。

問：關(guān)于機(jī)器學(xué)習(xí)和人工智能的進(jìn)步是否會(huì)繼續(xù)，已經(jīng)有很多討論。還會(huì)有另一個(gè)關(guān)于人工智能的冬天嗎?你認(rèn)為人工智能研究的方向是什么?

李飛飛：作為一名從事這項(xiàng)工作已經(jīng)有20年的科學(xué)家，我對(duì)人工智能研究的看法與公眾截然不同。我不認(rèn)為還會(huì)有冬天，主要原因是:人們常常說人工智能的上一個(gè)冬天是在上世紀(jì)90年代和21世紀(jì)初，當(dāng)時(shí)我剛剛開始攻讀人工智能博士學(xué)位。事后看來，這恰恰是人工智能研究中最多產(chǎn)、最具創(chuàng)新性的時(shí)期。我們今天看到的一切都來自于上世紀(jì)70年代、80年代和90年代的積累研究。所以作為一名研究人員和教授，我很難認(rèn)同對(duì)冬天或春天的描述，因?yàn)閷?duì)我來說，科學(xué)研究并不是這樣的。

問：我想轉(zhuǎn)換到一個(gè)稍微不同的主題:人工智能的透明度。在未來，許多甚至大多數(shù)決策將由人工智能系統(tǒng)做出，而這些系統(tǒng)不一定都由人類來分析。我們?nèi)绾谓⑿湃?我們?nèi)绾巫尮娏私馊斯ぶ悄芎图夹g(shù)的發(fā)展?

李飛飛：我認(rèn)為有很多工作要做。建立信任是一項(xiàng)涉及多方的努力。我認(rèn)為教育從中起著巨大的作用。我認(rèn)為這個(gè)責(zé)任落在學(xué)術(shù)界，落在技術(shù)公司，落在每個(gè)人身上。此外作為一名技術(shù)專家，我對(duì)你所謂每一個(gè)決策都應(yīng)該由機(jī)器做出的觀點(diǎn)不敢茍同。在一些關(guān)鍵的應(yīng)用中，人類應(yīng)該始終參與決策之中。我想到醫(yī)療保健就是如此。過去的7年里，我與醫(yī)學(xué)專家、臨床醫(yī)生和研究人員一起在一家醫(yī)院里觀察醫(yī)療保健的不同方面，并思考機(jī)器在其中起的作用。我在人工智能和醫(yī)療保健方面了解得越多，我就越堅(jiān)信，歸根結(jié)底這是關(guān)于人類關(guān)愛人類的事情。機(jī)器的存在只是為了增加人文關(guān)懷，提供更多信息，提高診療準(zhǔn)確性。但它們并不一定要站在每一個(gè)決定的最前沿。

問：您是否認(rèn)為我們高估或者低估了人工智能對(duì)我們?nèi)粘Ｉ詈蜕鐣?huì)的影響？

李飛飛：對(duì)我來說，一個(gè)更重要的問題是:我們是否以有效的方式理解和預(yù)測人工智能的影響?我看到每個(gè)行業(yè)都在受到人工智能技術(shù)的影響和改造。如果觀察一下我所非常關(guān)心的醫(yī)療保健，就會(huì)談到人工智能的診斷能力，比如說它判讀X射線的能力，甚至涉及取代放射學(xué)的相關(guān)討論。我提倡的是去觀察人工智能的巨大潛力，以提高臨床醫(yī)生的工作，提高他們的日常工作效率，為病人建立更多的安全感，與患者建立更多的聯(lián)系。這才是關(guān)于人工智能的真正影響以及我們?nèi)绾卫斫馑鼈兊谋举|(zhì)所在。我們?nèi)绾晤A(yù)測它們，如何引導(dǎo)它們?

問：計(jì)算機(jī)和數(shù)據(jù)科學(xué)專業(yè)的大部分學(xué)生都是男性。是否有一些最佳實(shí)踐方法可以為人工智能領(lǐng)域帶來更多的多樣性、更多的性別平衡?

李飛飛：人工智能的未來取決于開發(fā)它的人、指導(dǎo)它的人、領(lǐng)導(dǎo)它的人、實(shí)踐它的人。所以這里的重點(diǎn)是人。自2015年以來，斯坦福大學(xué)一直在努力創(chuàng)造一種更加多元化、更具包容性的文化，在培養(yǎng)多樣化的人工智能領(lǐng)導(dǎo)者方面尤為如此。我視為非常重要的一個(gè)項(xiàng)目是AI4ALL，它始于斯坦福大學(xué)，現(xiàn)在是一個(gè)全國性的非營利組織。2019年，它將為北美的10所大學(xué)和300多名參加夏令營的高中生提供服務(wù)。今年夏天，他們將通過這些訓(xùn)練營學(xué)習(xí)以人為本的人工智能及其基礎(chǔ)、應(yīng)用和技術(shù)。

問：人工智能缺乏多樣性的風(fēng)險(xiǎn)是什么?你能告訴我算法偏見帶來的相關(guān)風(fēng)險(xiǎn)以及系統(tǒng)開發(fā)的風(fēng)險(xiǎn)嗎?

李飛飛：你不需要總拿人工智能舉例。長期以來，醫(yī)學(xué)的臨床研究主要針對(duì)男性。我們所開發(fā)的藥物對(duì)女性的作用就沒有那么好。或者，如果研究的重點(diǎn)是某個(gè)特定的族群，那么藥物對(duì)其他族群就沒有作用。當(dāng)你開發(fā)出一項(xiàng)缺乏多樣性和代表性的技術(shù)時(shí)，你就不可能為大多數(shù)人服務(wù)。這就帶來了偏見，帶來了文化上的麻木不仁，帶來了我們都不認(rèn)同的價(jià)值觀。