AI時代下，安全問題不容忽視！

國家網(wǎng)絡(luò)安全宣傳周收營，同往年一樣，總有些話題格外引人議論和關(guān)注。今年，人們看到在人工智能技術(shù)的支持下，我們正在共同構(gòu)筑一個更為安全的世界。

針對這個網(wǎng)絡(luò)安全的新命題，騰訊信息安全執(zhí)行委員會主任、騰訊公司安全管理部副總經(jīng)理楊鵬表示，人工智能技術(shù)路線豐富將改善安全困境，但人工智能的本體安全決定安全應(yīng)用的發(fā)展進程。

沒有一個國家可獨立應(yīng)對AI安全考驗

隨著網(wǎng)絡(luò)空間安全呈現(xiàn)出智能化、隱匿性、規(guī)?；奶攸c，讓網(wǎng)絡(luò)空間安全的防御、檢測和響應(yīng)面臨更大的挑戰(zhàn)，網(wǎng)絡(luò)空間安全成為人工智能國際間合作的重要領(lǐng)域。

“就如一枚硬幣的兩面，人工智能既帶來好處，也帶來風(fēng)險，它對國家安全的影響非常大，大到我們現(xiàn)在都無法確定?！甭?lián)合國人工智能和機器人中心主任伊萊克利。伯利茲在接受記者采訪時強調(diào)，人工智能為解決網(wǎng)絡(luò)安全事件、系統(tǒng)漏洞、信息保護等提供了更加高效、智慧的解決方案，但同時也容易被非法利用。

伊萊克利。伯利茲說：“面對技術(shù)規(guī)范、行業(yè)標(biāo)準(zhǔn)、法律法規(guī)尚未健全的人工智能新領(lǐng)域，為了消除不透明和分歧，避免惡意的競爭，應(yīng)對現(xiàn)階段人工智能的發(fā)展充分評估，并建立起各方參與的協(xié)同合作模式，制定統(tǒng)一的安全監(jiān)測標(biāo)準(zhǔn)、安全防范架構(gòu)、安全評估體系。沒有任何一個國家，可以獨立完成這件事?！?/p>

當(dāng)人工智能越來越多地被應(yīng)用到戰(zhàn)略決策輔助系統(tǒng)和智能軍事系統(tǒng)，基于人工智能的技術(shù)代差將對國家安全力量對比產(chǎn)生不可逆的影響，迫切需要審視人工智能對維護國家安全提出的新要求。

上海賽博網(wǎng)絡(luò)安全產(chǎn)業(yè)創(chuàng)新研究院和上海社科院互聯(lián)網(wǎng)研究中心的聯(lián)合課題組發(fā)布的《人工智能時代的國家安全：風(fēng)險與治理》報告提出，應(yīng)從提升風(fēng)險意識、完善治理體系、加強監(jiān)管能力和探求國際合作等來構(gòu)建風(fēng)險分析和應(yīng)對框架，提升國家安全的韌性。

對抗還是對抗手段卻在升級

雖然安全對抗本質(zhì)上就是看誰鑄的門檻更高，但人工智能時代也讓黑客們迎來狂歡，為安全產(chǎn)業(yè)帶來顛覆性影響。

中國信息通信研究院副院長王志勤“2018世界人工智能大會·人工智能安全高端對話”上特別強調(diào)：“人工智能的發(fā)展要趨利避害?！?/p>

雖然越來越多的案例顯示，“智能網(wǎng)絡(luò)武器”日益威脅著網(wǎng)絡(luò)安全，但人工智能在各類安全場景中形成的多種多樣解決方案，也正加速用于網(wǎng)絡(luò)安全漏洞檢測、惡意軟件識別、不良信息智能審核、防范網(wǎng)絡(luò)犯罪等領(lǐng)域。

如中國科學(xué)院院士何積豐亦所說：“在功能安全方面，軟件測試驗證正變得更加智能化，在信息安全方面，主動防御體系同樣愈發(fā)智能化?！?/p>

騷擾詐騙電話和垃圾短信一直是困擾手機用戶的難題，其潛藏的詐騙風(fēng)險讓用戶飽受財產(chǎn)損失之苦，而騰訊基于反欺詐 AI 模型建造能力研發(fā)的“賓果反詐騙防控系統(tǒng)”3月上線投入使用以來，全國重點詐騙區(qū)域詐騙號碼大幅下降接近70%，預(yù)警超過50000起，準(zhǔn)確率超過99%，覆蓋全國31個省區(qū)市，累計為民眾避免損失20億元。

中國科學(xué)院復(fù)雜系統(tǒng)管理與控制國家重點實驗室主任王飛躍表示，網(wǎng)絡(luò)安全系統(tǒng)的實力，很大程度上可能并不取決于其物理本身，而是取決于與其伴生的軟件定義的人工系統(tǒng)映像。

人工智能安全防護能力首先沖擊汽車行業(yè)

大量人工智能新技術(shù)和網(wǎng)聯(lián)功能的引入，首先讓汽車行業(yè)面臨全新挑戰(zhàn)，信息安全將成為汽車行業(yè)的“國防”，汽車品牌的重要能力將向信息安全遷移。

科恩安全實驗室是全球知名的安全研究團隊，2016年曾通過移動網(wǎng)絡(luò)識別、準(zhǔn)備和實施攻擊場景等技術(shù)成功發(fā)現(xiàn)特斯拉的重要漏洞，并遵循負責(zé)任的漏洞披露方式把漏洞威脅情況提交給特斯拉官方，供其完善智能防御系統(tǒng)，保障智能車輛安全。

據(jù)說，為了保證車輛的網(wǎng)絡(luò)安全，特斯拉從 Google、微軟和蘋果等公司挖來了工程師組建安全團隊，專門做產(chǎn)品安全分析和漏洞修復(fù)等工作。

北京市政協(xié)委員陳小兵說：“特斯拉在所有車企中算是對網(wǎng)絡(luò)安全最為重視的一家，但依然被挖出了嚴重漏洞。目前很多傳統(tǒng)車企尚未組建專門的網(wǎng)絡(luò)安全團隊，并且車載系統(tǒng)非常容易受到攻擊。”

不僅僅是智能車輛系統(tǒng)本身的安全，百度AI安全技術(shù)總監(jiān)聶科峰說：“汽車產(chǎn)業(yè)已全面進入智能網(wǎng)聯(lián)時代，智能車機所面臨的安全挑戰(zhàn)不僅涉及用戶隱私安全、財產(chǎn)安全層面，同時延伸到人身和公共安全層面?！?/p>

騰訊科恩實驗室總監(jiān)呂一平認為，透明、分享和行業(yè)合作對于形成更加全面安全的互聯(lián)網(wǎng)世界至關(guān)重要，其研究目標(biāo)和成果將有助于改善許多國家數(shù)以億計的司機、乘客和行人的交通出行安全。

智能制造安全問題凸顯

在智能制造成為熱點話題的同時，全球大量的工業(yè)設(shè)備卻因為缺乏基礎(chǔ)的安全保障，正成為黑客甚至是全球不法分子攻擊的目標(biāo)。

中國電子學(xué)會副理事長兼秘書長徐曉蘭對科技日報記者說：“智能制造是解決工業(yè)生產(chǎn)困境最重要的抓手，沒有工業(yè)互聯(lián)網(wǎng)智能制造很難取得突破性發(fā)展。”

現(xiàn)實情況卻是，工業(yè)互聯(lián)網(wǎng)領(lǐng)域的安全事件繼續(xù)呈高發(fā)狀態(tài)，2017年影子經(jīng)紀人泄露的NSA網(wǎng)絡(luò)武器庫，包含眾多工業(yè)互聯(lián)網(wǎng)系統(tǒng)漏洞，可以實現(xiàn)對設(shè)備的精確打擊。我國國家信息安全漏洞共享平臺（CNVD）統(tǒng)計結(jié)果亦顯示，2017年新增信息安全漏洞4798個，其中工控系統(tǒng)新增漏洞數(shù)351個，與2016年同期相比，新增數(shù)量幾乎翻番。

百度安全副總經(jīng)理沈鵬飛說：“物聯(lián)網(wǎng)、車聯(lián)網(wǎng)、工業(yè)互聯(lián)網(wǎng)的興起，打破了虛擬世界與現(xiàn)實世界間的最后一道屏障，傳統(tǒng)的安全防御方案已經(jīng)無法應(yīng)對AI時代面臨的各種安全問題?！?/p>

在應(yīng)對惡意攻擊之外，工業(yè)互聯(lián)網(wǎng)自身的安全問題同樣不可忽視。

美的庫卡機器視覺AI研發(fā)總監(jiān)胡正表示，人機協(xié)作的機器人是未來的趨勢，但機器人導(dǎo)致工人死亡的事件每年都有，保證人在操作過程中不受機器人的侵害，不僅在技術(shù)層面還有很大的挑戰(zhàn)，業(yè)界對這一問題的重視程度普遍存有僥幸心理。

安全倫理不只是學(xué)術(shù)討論

人們希望看到機器變得很聰明，但也會擔(dān)心會相對變傻，這種小糾結(jié)如今雖然更多的體現(xiàn)在人工智能的學(xué)術(shù)領(lǐng)域，但業(yè)界越來越多的人為，人工智能的研發(fā)和應(yīng)用，需要優(yōu)先考慮倫理規(guī)范問題。

人工智能先驅(qū)、圖靈獎得主Raj Reddy說：“從60年代到現(xiàn)在，許多人都對人工智能抱有誤解，認為人工智能的發(fā)展會取代人類，并非如此，我們的愿景始終是希望AI能延伸人的知覺，強化人的能力，幫助人類更好更快地完成多樣的工作?！?/p>

但是，伊萊克利。伯利茲也說：“隨著人工智能的進一步使用，人類20-30%的工作會被取代，雖然又會創(chuàng)造新的工作，但如何平衡人工智能和社會經(jīng)濟發(fā)展、社會發(fā)展和安全穩(wěn)定之間的關(guān)系，不讓失業(yè)問題導(dǎo)致社會安全形勢惡化，需要找到好的契合點，這是產(chǎn)業(yè)未來的重要使命之一?！?/p>

峰橋集團總裁陳實認為，各國都應(yīng)重視對人工智能安全倫理規(guī)范的思考，將技術(shù)發(fā)展與社會倫理置于相同的環(huán)境下充分思考，減小人工智能帶來的倫理沖擊，保證人工智能在全世界共同的倫理規(guī)范內(nèi)健康發(fā)展。