谷歌成立外部委員會，監(jiān)督自己進行“造福社會”的AI研究

自去年谷歌宣布“AI開發(fā)原則”以來，關于谷歌如何確保在研發(fā)活動中遵循這些原則一直是人們討論的焦點。近日，谷歌宣布成立新的委員會，專門監(jiān)督谷歌確實遵循了這些準則。委員會成員全部來自谷歌之外，港科大計算機系教授吳德愷入選。

當?shù)貢r間3月26日，谷歌在其官方博客上宣布成立一個新的外部顧問委員會，對谷歌利用AI技術的方式進行監(jiān)督，以避免違反了去年夏天制定的關于利用和開發(fā)AI技術的道德準則。

該委員會由谷歌全球事務高級副總裁Kent Walker宣布成立，其成員包括一系列廣泛領域的專家，包括數(shù)學、計算機科學、工程學、哲學、公共政策、心理學，外交政策等。

該組織名為“先進技術外部顧問委員會”，谷歌似乎希望該機構作為一個獨立的監(jiān)督機構，密切關注谷歌在現(xiàn)實世界中部署AI的方式，其中重點關注領域為面部識別和內建的機器學習訓練方法中的偏見問題。

Walker表示：“委員會將關注一些在我們的“AI原則”下出現(xiàn)的最復雜的挑戰(zhàn)，為我們的研究和工作提供多樣化的觀點?！?/p>

谷歌在官方博客上公布的委員會成員，其中包括一些與保守派聯(lián)系密切的人士 。值得一提的是，香港科技大學計算機系教授吳德愷（De Kai）入選

關于委員會的具體成員，學術界以外的人可能不太熟悉這些人的名字。然而，其人員組成和門檻似乎是最高水平的，委員會成員中不乏曾履任總統(tǒng)行政職位的人士，也不乏在牛津大學、香港科技大學、加州大學伯克利分校等頂尖大學任教的學者。盡管如此，在委員會成員的選擇上，包括了Heritage Foundation主席Kay Coles James ，可能是為了拉近與共和黨的距離，影響與AI相關的立法。

對該委員會持批評態(tài)度一些人指出，James與一些保守派智庫機構聯(lián)系密切，并在自己的Twitter簡介中支持反LGBTQ的言論：

谷歌方面沒有立即就James的反LBGTQ的立場和委員會成員的選拔過程發(fā)表評論。

監(jiān)督委員會現(xiàn)華人面孔：港科大教授吳德愷入選

特別值得一提的是，谷歌此次公布的委員會名單里出現(xiàn)了一位華人面孔。入選者是香港科技大學計算機科學與工程系教授吳德愷（上圖中上排左三）。

吳德愷，香港科技大學計算機科學與工程系教授，伯克利國際計算機科學研究所杰出研究學者。主要研究領域包括基于統(tǒng)計/語料庫的自然語言處理; 機器翻譯、語言建模、語音識別、多語言技術、機器學習和知識管理等。

吳德愷于1984年獲得加州大學圣迭戈分校計算機工程學士學位，在加州大學伯克利分校獲得計算機科學博士學位，并曾在多倫多大學從事博士后研究，1992年進入香港大學，1995-1996年在哥倫比亞大學做訪問學者，1995年擔任貝爾實驗室研究員。

吳德愷曾任AI Journal副主編，機器翻譯和自然語言工程期刊編委會成員，還曾擔任EMNLP-2004聯(lián)合主席。

谷歌力避重蹈Maven風波覆轍，確保AI利用符合道德標準

去年，谷歌曾卷入了美國國防部無人機項目Maven的爭議。該項目涉及讓谷歌員工參與可能威脅人類生命的軍用AI技術開發(fā)，因此遭到了公司內部強烈的反對和外部輿論的猛烈批評。迫于壓力，谷歌決定在合同到期后不再繼續(xù)參與Maven項目。

谷歌還制定了一套新的指導方針，谷歌CEO Pichai稱為谷歌的“AI原則”，禁止該公司從事任何可能違反“國際公認的規(guī)范”或“廣泛接受的國際法和人權原則”的產(chǎn)品或技術研究。

去年，谷歌因參與和美軍方的Maven無人機項目遭到自家員工的強烈抗議

“我們認識到這種強大的技術在利用上也會出現(xiàn)同樣重要的問題?！盤ichai當時寫道。 “AI技術的開發(fā)和利用將如何在未來的許多年內都對社會產(chǎn)生重大影響。作為人工智能的領導者，我們有責任做到這一點?！肮雀柘Ｍ约旱腁I研究能夠”造福社會“，這通常意味著谷歌不會與政府簽署合同，或在明顯侵犯人權的領域或市場中開展業(yè)務。

谷歌的這些承諾亞馬遜和微軟的立場不同，亞馬遜和微軟都表示他們將繼續(xù)為美國政府工作。微軟已經(jīng)獲得了一份價值4.8億美元的合同，為五角大樓提供HoloLens耳機，而亞馬遜則在繼續(xù)與美國執(zhí)法機構合作，推廣Rekognition面部識別軟件。