360人工智能研究院：保護(hù)人工智能和數(shù)據(jù)安全刻不容緩

“隨著人工智能和大數(shù)據(jù)技術(shù)的應(yīng)用落地，特別是在自動(dòng)駕駛、人臉識別、醫(yī)療診斷等安全敏感型的場景應(yīng)用越來越多，AI和數(shù)據(jù)安全問題也受到廣泛關(guān)注?！苯?，360人工智能研究院院長鄧亞峰受邀參加首屆清華大學(xué)人工智能合作與治理國際論壇，并就“數(shù)據(jù)與人工智能安全”議題發(fā)表演講。

鄧亞峰指出，由于人工智能是快速出現(xiàn)的新應(yīng)用，AI應(yīng)用生產(chǎn)和部署的各個(gè)環(huán)節(jié)均暴露出一系列安全風(fēng)險(xiǎn)。比如在人工智能框架方面，深度學(xué)習(xí)框架及依賴組件可能帶有漏洞，存在容易被忽視的安全隱患；在人工智能應(yīng)用方面，存在模型文件竊取、數(shù)據(jù)流降維攻擊等安全風(fēng)險(xiǎn)；在人工智能算法方面，由于神經(jīng)網(wǎng)絡(luò)模型的黑盒屬性（不可解釋性），容易導(dǎo)致一系列以模型誤判為目標(biāo)的惡意攻擊。

這就容易造成嚴(yán)重的數(shù)據(jù)泄露和安全風(fēng)險(xiǎn)?！拔覀冊趯?shí)踐中發(fā)現(xiàn)了大量以隱私竊取為目標(biāo)的攻擊，如模型反轉(zhuǎn)攻擊、模型萃取攻擊、成員推斷攻擊等?！编噥喎灞硎?。

他認(rèn)為，雖然從技術(shù)角度看，人工智能體很長一段時(shí)間都無法擁有真正的自我意識，但是，一些壞人會(huì)對人工智能加以利用，偽裝為壞的AI對人類安全造成威脅。因此，保護(hù)人工智能和數(shù)據(jù)安全刻不容緩。

鄧亞峰表示，首先，需要相關(guān)國家和組織聯(lián)合起來，針對隱私保護(hù)和人工智能倫理問題等新情況，制定更加明晰有效的法律法規(guī)，保證在應(yīng)用人工智能為人類造福的同時(shí)，也要保護(hù)好數(shù)據(jù)隱私，避免相關(guān)社會(huì)倫理問題的困擾；

其次，需要構(gòu)建統(tǒng)一的人工智能硬件、軟件、算法的安全評估標(biāo)準(zhǔn)和準(zhǔn)則，并開發(fā)相關(guān)系統(tǒng)，用于檢測和確定人工智能相關(guān)系統(tǒng)的整體安全，特別是開源框架和軟件方面，更需要統(tǒng)一行動(dòng)；

再次，需要用更加開放協(xié)同的方式進(jìn)行科學(xué)研究和技術(shù)交流，推動(dòng)人工智能技術(shù)快速并安全的落地。

作為網(wǎng)絡(luò)安全頭部公司，360也一直致力于構(gòu)建以安全大腦為核心的新一代安全能力框架體系，整體提升在數(shù)字化時(shí)代應(yīng)對安全挑戰(zhàn)的能力。據(jù)了解，去年8月，360安全大腦入選了國家新一代人工智能開放創(chuàng)新平臺，是網(wǎng)絡(luò)安全領(lǐng)域惟一一家入選公司，這標(biāo)志著360成為人工智能安全領(lǐng)域領(lǐng)軍企業(yè)，以及推動(dòng)網(wǎng)絡(luò)安全行業(yè)發(fā)展的領(lǐng)導(dǎo)力量。
編輯：hfy