AI攻擊如何破解？百度AI安全技術(shù)總監(jiān)聶科峰為你支招

本站原創(chuàng)，作者：章鷹，電子發(fā)燒友執(zhí)行副主編。

智慧城市正在中國蓬勃發(fā)展。據(jù)悉，我國95%的副省級以上城市、83%的地級城市，總計過500個城市，都在《政府工作報告》或“十三五”規(guī)劃中明確提出活正在建設(shè)智慧城市，并有超過300個城市分別與BAT、華為以及三大運營商等企業(yè)簽署了戰(zhàn)略合作框架協(xié)議。

隨著我國智慧城市的發(fā)展，眾多企業(yè)也看到了移動終端在智慧城市中應(yīng)用的重要性，移動終端應(yīng)用產(chǎn)品在智慧城市中百花齊放。大量智能終端設(shè)備和傳感器接入智慧城市綜合網(wǎng)絡(luò)，產(chǎn)生了復(fù)雜的接入環(huán)境、多樣化的接入方式和數(shù)量龐大的接入終端，全面加大了智慧城市系統(tǒng)的接入風(fēng)險，也聚集了新型的數(shù)據(jù)安全風(fēng)險。在AI技術(shù)和物聯(lián)網(wǎng)技術(shù)相互交互下，如何保障網(wǎng)絡(luò)安全和終端安全已經(jīng)成為企業(yè)關(guān)注的焦點。

12月20日，在深圳國際電子展上，雷鋒網(wǎng)主辦的“AIoT+智慧城市峰會”上，百度AI安全技術(shù)總監(jiān)聶科峰先生帶了AIOT市場安全的最新趨勢和解決方案。

百度AI安全技術(shù)總監(jiān) 聶科峰先生

AI在智慧城市當中已經(jīng)開始應(yīng)用了，在百度看來，AI的大規(guī)模應(yīng)用必須以安全為基石。

什么叫AI+IoT？百度AI安全技術(shù)總監(jiān)聶科峰認為，以傳感器為特征的AIoT終端承擔(dān)了數(shù)據(jù)采集、AI分析、結(jié)果反饋和智能執(zhí)行等任務(wù)。他舉例說，比如在監(jiān)控過程中我們加入了對監(jiān)控內(nèi)容AI的分析，AI的反饋并且能給出實時反饋，并且能做一些事情，又比如說監(jiān)測到一個壞人可能報警，還有流量控制改變紅綠燈設(shè)計，此外，對于人流量的預(yù)測，AI深度學(xué)習(xí)可以結(jié)合時空數(shù)據(jù)，讓城市管理者對人流量未卜先知，這在未來都是AIoT所帶來的應(yīng)用。

之前，筆者在采訪Gartner研究總監(jiān)相斌斌時，了解到IoT市場不成熟，安全是許多企業(yè)的擔(dān)心。35%的企業(yè)認為安全是物聯(lián)網(wǎng)部署獲得成功的最大障礙因素，Gartner預(yù)測，2020年，超過25%的安全入侵與物聯(lián)網(wǎng)相關(guān)。

百度AI安全技術(shù)總監(jiān)聶科峰認為，在物聯(lián)網(wǎng)時代，網(wǎng)絡(luò)安全目的是防止實時的數(shù)據(jù)被別人監(jiān)控到，或者一些隱私的數(shù)據(jù)拿到，但是AI是完全不一樣，AI是基于大數(shù)據(jù)進行分析和判斷，然后進行下一步的決策和行動，一旦受到干擾，問題將非常嚴重，這時候安全非常重要，它承擔(dān)了采集離線分析，云端分析，我們需要做一些事情，反向執(zhí)行這方面帶來的風(fēng)險是未來重點關(guān)注的。

在他看來AIoT整個系統(tǒng)安全有兩大挑戰(zhàn)：第一、傳統(tǒng)的基于IOT設(shè)備需要聯(lián)網(wǎng)，需要系統(tǒng)，本身就有潛在的風(fēng)險。加入了AI之后，AI帶來新風(fēng)險，我們可以看到傳感器欺騙，這是AI和視覺相關(guān)的，軟件缺陷有開源、第三方的、基于機器學(xué)習(xí)的，本身有很多漏洞，這些漏洞帶來的缺陷也會影響AI在IOT應(yīng)該發(fā)生的正確響應(yīng)；第二、基于大數(shù)據(jù)的污染，系統(tǒng)風(fēng)險和網(wǎng)絡(luò)風(fēng)險這就是非常傳統(tǒng)的，移動和PC時代都會面臨的問題。

如何構(gòu)建全面的AIoT安全生態(tài)體系？聶科峰指出，應(yīng)當從數(shù)據(jù)處理、網(wǎng)絡(luò)傳輸、應(yīng)用設(shè)備三大重點領(lǐng)域入手，保障數(shù)據(jù)安全，建立更可靠的AIoT安全框架，實現(xiàn)模型安全并減少業(yè)務(wù)漏洞;同時，還應(yīng)該將軟硬件安全方案一起考慮，不僅需要減少算法的不確定性和不可控性，讓AI的安全方案更健全更具容錯性，也要讓數(shù)據(jù)防線更堅固、讓設(shè)備端安全響應(yīng)更加快速、讓網(wǎng)絡(luò)傳輸方案更加安全穩(wěn)定?！鞍踩且粋€持續(xù)的攻防對抗過程，持續(xù)響應(yīng)是未來非常重要的一點?！?聶科峰強調(diào)指出。

在AIoT設(shè)備中涉及到云、管、端和數(shù)據(jù)相關(guān)，不同層面要提供不同的安全保障。在安全評估中，百度和中國信通院合作，推行行業(yè)安全基準，對包括智能音箱、智能攝像頭等基與AIoT的設(shè)備上市前設(shè)定安全評估標準，降低未來可攻擊性。目前通過我們建立的安全評估點和安全設(shè)備，整個安全狀況有明顯提升。

第二、百度提供了專業(yè)工具可以輔助大家做評估，比如說百度的Advbox，是專門針對AI的安全工具，首先對產(chǎn)品的安全模型做基礎(chǔ)性測試。另外可以提供對抗樣本來訓(xùn)練客戶的模型，使模型加固。第三、我們可以讓客戶了解對抗樣本，這是基于開源的平臺，大家在AI上可以檢測這些功能。

百度在AIoT安全生態(tài)已經(jīng)有了前瞻性布局，推出了一套先進的“云管端一體化安全防護解決方案”，可為智能設(shè)備提供從云端安全、數(shù)據(jù)傳輸?shù)皆O(shè)備端安全的一體化安全防護。

“云端我們DDos防護還有漏洞防護，在AI學(xué)習(xí)這一塊百度有對抗樣本工具，通訊這一塊提供了Mesalink，基于SL的加密通訊的機制。DNS反劫持上，百度開放了搜索多年DNS劫持上的經(jīng)驗，以設(shè)備終端為例，百度安全可為智能設(shè)備提供安全OTA、證書認證、漏洞防護、病毒防護等四重防護能力。” 聶科峰總結(jié)說，“小度在許多智能汽車中得到應(yīng)用，有很多IOT廠商也不斷的將我們的應(yīng)用落地。我們跟生態(tài)的合作伙伴一起，打造生態(tài)，希望做到越智能越安全。”

?