在阿里安全與清華大學(xué)聯(lián)合舉辦的AI與安全研討會(huì)上,阿里巴巴集團(tuán)首席風(fēng)險(xiǎn)官鄭俊芳判斷,安全成為數(shù)字經(jīng)濟(jì)時(shí)代的新基建,安全基建又必須靠AI(人工智能)來實(shí)現(xiàn)。
AI面臨算法安全問題
中國科學(xué)院院士、清華大學(xué)人工智能研究院院長張鈸認(rèn)為,人工智能將先在交通、醫(yī)療、金融、智能制造等領(lǐng)域產(chǎn)生革命性的變化。從長遠(yuǎn)來看,AI會(huì)根本性改變這些領(lǐng)域,從現(xiàn)實(shí)來看,還有許多困難要克服。
現(xiàn)在,已有廠商在國內(nèi)部分地區(qū)試點(diǎn)自動(dòng)駕駛出租車服務(wù),不過整體來看,現(xiàn)在所有的自動(dòng)駕駛產(chǎn)品或者即將上市的產(chǎn)品都處于L4級以下。
西安交通大學(xué)人工智能與機(jī)器人研究所教授薛建儒認(rèn)為,無人駕駛的安全可信面臨的挑戰(zhàn)性在于,無人駕駛面臨動(dòng)態(tài)決策,它固有的復(fù)雜性、不確定性和歧義性都是一些開放式問題。
薛建儒說,“當(dāng)前我們的無人駕駛在應(yīng)對復(fù)雜場景和人類駕駛員相比在適應(yīng)性上存在很大差距。在如何引入人類的駕駛知識,把人類的直覺推理和演繹推理這樣的認(rèn)知機(jī)理放到駕駛模型里,提高當(dāng)前模型表征能力,我們還有所欠缺?!?/p>
張鈸表示,AI面臨著算法安全的根本原因在于,神經(jīng)網(wǎng)絡(luò)只是進(jìn)行函數(shù)映射,缺乏對任務(wù)的理解,算法的魯棒性(Robust的音譯,指在異常和危險(xiǎn)情況下系統(tǒng)生存的能力)差,具體表現(xiàn)在“一是測試集的魯棒性差,當(dāng)測試集和訓(xùn)練數(shù)據(jù)有差別,推廣能力就會(huì)變差。二是對噪聲的魯棒性很差,導(dǎo)致AI算法容易被濫用、攻擊、誤用?!?/p>
安全能力提升需開放合作
正如鄭俊芳所說,安全基建必須靠AI來實(shí)現(xiàn),安全的AI正在給多個(gè)領(lǐng)域帶來變化。
清華大學(xué)計(jì)算機(jī)系副主任朱文武介紹了其在多媒體與AI上的研究,希望人工智能給多媒體提供研究的新思想和范式,比如原來的語義處理通過特征提取進(jìn)行分析,語義學(xué)習(xí)給多媒體提供了語義和多模態(tài)信息,這能幫助機(jī)器學(xué)習(xí)做得更好。多媒體和AI呈互相促進(jìn),互相幫助、互相指導(dǎo)的態(tài)勢發(fā)展。
阿里巴巴集團(tuán)首席風(fēng)險(xiǎn)官鄭俊芳在會(huì)上演講。中新網(wǎng)記者 張旭 攝
據(jù)阿里安全資深算法專家薛暉介紹,近五年來,阿里每萬筆交易的一次侵權(quán)商品量下降將近三分之二;近三年來,阿里平臺(tái)通過輸出線索協(xié)助公安打擊線下制售假窩點(diǎn),拘捕嫌疑人近萬名,累計(jì)涉案金額超過200億元。
這兩個(gè)數(shù)字背后,是阿里建立的一套基于人工智能的復(fù)雜電商環(huán)境治理體系在發(fā)揮巨大作用。算法專家不僅要保障上述體系的兩大能力高速發(fā)揮其作用,還要十分關(guān)注電商關(guān)鍵節(jié)點(diǎn)模型自身的安全性,以保證模型不會(huì)出現(xiàn)漏洞,不被黑產(chǎn)所利用,保證模型的魯棒性。
鄭俊芳稱,阿里在安全領(lǐng)域投入非常大,技術(shù)人員在安全團(tuán)隊(duì)中占比超過50%?!斑@幾年我們和頂級的團(tuán)隊(duì)在不同領(lǐng)域進(jìn)行合作,合作背后就是因?yàn)槲覀冇龅搅撕芏嗵魬?zhàn),所以說,安全必須要靠堅(jiān)定的投入和更開放的合作,才能解決今天面臨的復(fù)雜挑戰(zhàn)?!?br /> 責(zé)任編輯:tzh
-
機(jī)器人
+關(guān)注
關(guān)注
211文章
28474瀏覽量
207388 -
AI
+關(guān)注
關(guān)注
87文章
31024瀏覽量
269361 -
人工智能
+關(guān)注
關(guān)注
1792文章
47372瀏覽量
238857
發(fā)布評論請先 登錄
相關(guān)推薦
評論