AI加速落地！用戶隱私與數(shù)據(jù)安全問題箭在弦上

隨著人工智能的不斷發(fā)展與落地，用戶隱私問題越來越受社會(huì)各界的重視。此前，也曾出現(xiàn)人工智能大數(shù)據(jù)公司因?yàn)檫`反相關(guān)法規(guī)而被罰巨額罰款。但是人工智能，尤其是以深度學(xué)習(xí)為代表的機(jī)器學(xué)習(xí)技術(shù)，并沒有特別研究對應(yīng)的措施。

8月10日-16日，第28屆國際人工智能聯(lián)合會(huì)議（IJCAI 2019）在中國澳門如期召開。為解決與推動(dòng)上述用戶隱私困境，IJCAI 2019大會(huì)期間專門舉辦了“AI與用戶隱私”重磅圓桌會(huì)，微眾銀行首席人工智能官、IJCAI 2019理事會(huì)主席、港科大講席教授楊強(qiáng)和IEEE法律法規(guī)委員會(huì)主席Victoria Wang及各大高校、國際知名金融和科技企業(yè)等研究者一同進(jìn)行探討。

AI加速落地 用戶隱私與數(shù)據(jù)安全問題箭在弦上

IJCAI是人工智能領(lǐng)域最頂級(jí)的國際學(xué)術(shù)會(huì)議之一，今年又恰逢 IJCAI的 50周年。作為學(xué)界和業(yè)界最為關(guān)注的盛會(huì)，今年IJCAI的圓桌會(huì)數(shù)量達(dá)到5個(gè)之多，史無前例。之所以出現(xiàn)這一盛況，是因?yàn)楝F(xiàn)在的AI研究更關(guān)注的是其與社會(huì)的深層次聚合。圓桌會(huì)正是提供了這樣一個(gè)平臺(tái)，讓參會(huì)者從不同的維度去了解并反思AI自身以及在與社會(huì)深層次聚合過程中所出現(xiàn)的問題，從而在未來的AI研究工作中去更好地適應(yīng)社會(huì)的需求。

而這其中，由楊強(qiáng)教授主持的“AI與用戶隱私”圓桌尤受關(guān)注。圓桌邀請到了IEEE法律法規(guī)委員會(huì)的主席Victoria Wang、華盛頓大學(xué)教授和對沖基金巨頭D. E. Shaw機(jī)器學(xué)習(xí)團(tuán)隊(duì)董事總經(jīng)理兼負(fù)責(zé)人Pedro Domingos、歐洲著名金融保險(xiǎn)行業(yè)專家和Swiss Re Institute負(fù)責(zé)人Jeffrey Bohn、微眾銀行AI部門高級(jí)研究員劉洋等業(yè)內(nèi)眾多專家學(xué)者一同探討，為平衡AI發(fā)展與用戶隱私問題建言獻(xiàn)策。這些專家在AI與大數(shù)據(jù)、用戶隱私等領(lǐng)域深耕已久。

楊強(qiáng)教授在圓桌會(huì)中提出了當(dāng)今各行業(yè)在處理數(shù)據(jù)、實(shí)現(xiàn)AI落地需要共同面對的多個(gè)問題：隱私保護(hù) 法規(guī)對于AI的發(fā)展與落地而言是機(jī)遇還是挑戰(zhàn)？像《通用數(shù)據(jù)保護(hù)條例》（GDPR）這樣的法規(guī)是否值得其它國家效仿？更強(qiáng)大的數(shù)據(jù)保護(hù) 法規(guī)是否會(huì)減緩AI的發(fā)展速度？在分享數(shù)據(jù)的同時(shí)我們應(yīng)遵守哪些道德原則？在多重挑戰(zhàn)之下，我們?nèi)绾卫肁I促進(jìn)數(shù)據(jù)經(jīng)濟(jì)的增長？圍繞這些議題，與會(huì)的眾多學(xué)者展開了深入討論。

華盛頓大學(xué)教授和對沖基金巨頭D. E. Shaw機(jī)器學(xué)習(xí)團(tuán)隊(duì)董事總經(jīng)理兼負(fù)責(zé)人 Pedro Domingos提出，在GDPR等隱私保護(hù)條款實(shí)施的前提下，數(shù)據(jù)處理與隱私保護(hù)并不是一場“零和博弈”，二者的關(guān)系需要被正確對待，以實(shí)現(xiàn)雙贏的局面。Pedro Domingos認(rèn)為，企業(yè)在處理數(shù)據(jù)的時(shí)候，不要被數(shù)據(jù)的力量沖昏了頭腦，需要重點(diǎn)考慮用戶的知情權(quán)，承擔(dān)起相應(yīng)的社會(huì)責(zé)任。

聯(lián)邦學(xué)習(xí)提供新思路 解決數(shù)據(jù)孤島與用戶隱私雙重難題

面對AI應(yīng)用中出現(xiàn)的“數(shù)據(jù)孤島”和用戶隱私難題，楊強(qiáng)教授表示：“我們認(rèn)為聯(lián)邦學(xué)習(xí)是解決這兩個(gè)核心問題的同一個(gè)解決思路。聯(lián)邦學(xué)習(xí)的作用就在于能夠?qū)⒑芏嘈?shù)據(jù)匯聚在一起變成大數(shù)據(jù)，所以它的價(jià)值和影響主要是在隱私保護(hù)下匯聚和挖掘數(shù)據(jù)的價(jià)值?！?/p>

為了讓與會(huì)者更加深入了解聯(lián)邦學(xué)習(xí)，微眾銀行AI部高級(jí)研究員劉洋在會(huì)上詳細(xì)介紹了聯(lián)邦學(xué)習(xí)技術(shù)，并分享了微眾銀行AI團(tuán)隊(duì)推廣聯(lián)邦學(xué)習(xí)這一新興技術(shù)的發(fā)展歷程。今年1月，微眾銀行AI團(tuán)隊(duì)在AAAI會(huì)議上發(fā)布了聯(lián)邦學(xué)習(xí)開源框架FATE0.1版本，并在此后領(lǐng)銜推動(dòng)聯(lián)邦學(xué)習(xí)國際標(biāo)準(zhǔn)的建立，牽頭國內(nèi)首個(gè)聯(lián)邦學(xué)習(xí)標(biāo)準(zhǔn)出臺(tái)。而在8月12日，微眾銀行AI團(tuán)隊(duì)在IJCAI 2019期間主導(dǎo)舉辦了首個(gè)國際聯(lián)邦學(xué)習(xí)學(xué)術(shù)研討會(huì)，為聯(lián)邦學(xué)習(xí)的研究者們提供交流探討的機(jī)會(huì)。

目前，聯(lián)邦學(xué)習(xí)已經(jīng)成功應(yīng)用于多個(gè)行業(yè)的業(yè)務(wù)板塊，具有廣泛的發(fā)展前景。劉洋提到，今年5月，微眾銀行與瑞士再保險(xiǎn)簽訂了戰(zhàn)略合作協(xié)議，推動(dòng)了聯(lián)邦學(xué)習(xí)在再保險(xiǎn)業(yè)的應(yīng)用。除此之外，聯(lián)邦學(xué)習(xí)在助力城市管理、建立智慧城市等方面也起到了重要的推動(dòng)作用。

經(jīng)過與會(huì)專家的圓桌討論，大家一致認(rèn)可：新一代的機(jī)器學(xué)習(xí)算法框架，必須以保護(hù)隱私、安全合規(guī)為出發(fā)點(diǎn)，用透明的機(jī)制來保障人工智能的健康發(fā)展，而聯(lián)邦學(xué)習(xí)的發(fā)展為業(yè)界提供了新的思路。

未來，AI與用戶隱私的平衡問題會(huì)持續(xù)伴隨AI的發(fā)展。我們期待學(xué)界和業(yè)界聯(lián)合起來，一同應(yīng)對數(shù)據(jù)孤島和用戶隱私問題，共同促進(jìn)AI生態(tài)的繁榮。