如何解決AI應(yīng)用中出現(xiàn)的“數(shù)據(jù)孤島”和用戶隱私難題？

隨著人工智能的不斷發(fā)展與落地，用戶隱私問題越來越受到重視。近日，人工智能大數(shù)據(jù)公司因?yàn)檫`反相關(guān)法規(guī)而被罰巨額罰款，用戶隱私問題再次回歸大眾視野。人工智能企業(yè)在分享數(shù)據(jù)的同時(shí)應(yīng)遵守哪些道德原則？隱私保護(hù)法規(guī)對(duì)于AI的發(fā)展與落地而言是機(jī)遇還是挑戰(zhàn)？更強(qiáng)大的數(shù)據(jù)保護(hù)法規(guī)是否會(huì)減緩AI的發(fā)展速度？在日前召開的第28屆國際人工智能聯(lián)合會(huì)議（IJCAI）上，業(yè)內(nèi)專家提出了當(dāng)今各行業(yè)在處理數(shù)據(jù)、實(shí)現(xiàn)AI落地需要共同面對(duì)的多個(gè)問題。

“在《通用數(shù)據(jù)保護(hù)條例》等隱私保護(hù)條款實(shí)施的前提下，數(shù)據(jù)處理與隱私保護(hù)并不是一場(chǎng)‘零和博弈’的關(guān)系，二者的關(guān)系需要被正確對(duì)待，以實(shí)現(xiàn)雙贏的局面?！比A盛頓大學(xué)教授、D. E. Shaw機(jī)器學(xué)習(xí)團(tuán)隊(duì)董事總經(jīng)理兼負(fù)責(zé)人佩德羅多明戈斯認(rèn)為，企業(yè)在處理數(shù)據(jù)時(shí)，不要被數(shù)據(jù)的力量沖昏了頭腦，需要重點(diǎn)考慮用戶的知情權(quán)，承擔(dān)起相應(yīng)的社會(huì)責(zé)任。

如何解決AI應(yīng)用中出現(xiàn)的“數(shù)據(jù)孤島”和用戶隱私難題？國際人工智能聯(lián)合會(huì)議2019理事會(huì)主席、微眾銀行首席人工智能官楊強(qiáng)給出了解決方案：“聯(lián)邦學(xué)習(xí)或是解決這兩個(gè)核心問題的同一個(gè)解決思路?！?/p>

什么是聯(lián)邦學(xué)習(xí)？“在保護(hù)數(shù)據(jù)隱私、滿足合法合規(guī)要求的前提下，繼續(xù)進(jìn)行機(jī)器學(xué)習(xí)，這部分研究被稱為聯(lián)邦學(xué)習(xí)?！睏顝?qiáng)說，開始聯(lián)邦學(xué)習(xí)的背景是歐盟通過了《數(shù)據(jù)隱私保護(hù)條例》。該條例要求公司在使用數(shù)據(jù)前要先向用戶聲明模型的作用，這份條例的實(shí)行讓許多大數(shù)據(jù)公司在數(shù)據(jù)交流方面非常謹(jǐn)慎，這對(duì)于極度依賴數(shù)據(jù)的機(jī)器學(xué)習(xí)是一個(gè)巨大的挑戰(zhàn)。

“聯(lián)邦學(xué)習(xí)希望在不共享數(shù)據(jù)的前提下，利用雙方的數(shù)據(jù)實(shí)現(xiàn)模型增長(zhǎng)。”楊強(qiáng)舉例，假設(shè)兩家公司想要建立一個(gè)用戶畫像模型，其中部分用戶是重合的。聯(lián)邦學(xué)習(xí)的做法是，首先通過加密交換的手段，建立用戶的識(shí)別符并進(jìn)行溝通，在加密狀態(tài)下用減法找出共有的部分用戶。因?yàn)殛P(guān)鍵用戶信息并沒有得到交換，交換的只是共有的識(shí)別符，因此這并不違反《數(shù)據(jù)隱私保護(hù)條例》。然后，雙方將這部分?jǐn)?shù)據(jù)提取出來，將各自擁有的同樣用戶的不同特征作為輸入，迭代地進(jìn)行訓(xùn)練模型、交換參數(shù)的過程。多項(xiàng)測(cè)試證明了給定模型參數(shù)，雙方不能互相反推出對(duì)方擁有的、自己沒有的特征，因此用戶隱私仍然得到了保護(hù)。在不違反《數(shù)據(jù)隱私保護(hù)條例》的情況下，雙方的模型性能都得到了提高。

“數(shù)據(jù)安全和用戶隱私目前已成為大數(shù)據(jù)時(shí)代的兩大挑戰(zhàn)，對(duì)于金融、醫(yī)療及法律等數(shù)據(jù)敏感行業(yè)更甚，聯(lián)邦學(xué)習(xí)可以解決這兩大問題?！蔽⒈娿y行AI部高級(jí)研究員劉洋介紹。

目前，聯(lián)邦學(xué)習(xí)已經(jīng)應(yīng)用于多個(gè)行業(yè)的業(yè)務(wù)板塊。未來，AI與用戶隱私的平衡問題會(huì)持續(xù)伴隨AI的發(fā)展。楊強(qiáng)表示，新一代的機(jī)器學(xué)習(xí)算法框架，需以保護(hù)隱私、安全合規(guī)為出發(fā)點(diǎn)，用透明的機(jī)制來保障人工智能的健康發(fā)展，聯(lián)邦學(xué)習(xí)的發(fā)展提供了新思路。