用好人工智能這把“雙刃劍”

8月28日，在2019中國國際智能產(chǎn)業(yè)博覽會期間，以“人工智能護(hù)航‘大安全時代’”為主題的“人工智能與安全高峰論壇”成功舉辦。論壇由中國國際智能產(chǎn)業(yè)博覽會主辦，360集團(tuán)承辦，重慶市合川區(qū)人民政府協(xié)辦。重慶市人大常委會副主任張定宇到會并致辭。論壇還特邀了中國工程院院士沈昌祥、中國科學(xué)院院士鄭建華、國家密碼管理局商用密碼管理辦公室副巡視員霍煒、中國網(wǎng)絡(luò)空間安全協(xié)會副理事長杜躍進(jìn)、360集團(tuán)副總裁/智慧城市事業(yè)部總裁穆鴻等嘉賓參會。重慶市人大常委會、市經(jīng)信委、市網(wǎng)信辦、市密碼局相關(guān)領(lǐng)導(dǎo)，以及中共重慶市合川區(qū)委書記李應(yīng)蘭、合川區(qū)區(qū)長徐萬忠等到會并表示祝賀。論壇由中國計算機(jī)學(xué)會計算機(jī)安全專委會主任嚴(yán)明主持。

重慶市人大常委會副主任 張定宇

論壇還邀請了來自國內(nèi)外人工智能和安全領(lǐng)域的專家學(xué)者、廠商、企業(yè)用戶代表300多人，從產(chǎn)業(yè)、技術(shù)、市場和應(yīng)用等多個層面，暢談了“大安全時代”人工智能與安全的融合趨勢，旨在推動“大安全時代”的生態(tài)建設(shè)與發(fā)展，為社會經(jīng)濟(jì)的高質(zhì)量發(fā)展添薪續(xù)力。

用好人工智能這把“雙刃劍”

當(dāng)前，以大數(shù)據(jù)、人工智能等為代表的新一代信息技術(shù)日新月異，智能產(chǎn)業(yè)蓬勃發(fā)展，對經(jīng)濟(jì)發(fā)展、社會進(jìn)步和全球治理等產(chǎn)生了重大而深遠(yuǎn)的影響。而人工智能正是引領(lǐng)這一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性關(guān)鍵技術(shù)。

重慶市人大常委會副主任張定宇在論壇上致辭時表示，在中國，人工智能已經(jīng)成為賦能實體經(jīng)濟(jì)、助推高質(zhì)量發(fā)展的新動能。“人工智能＋”成為經(jīng)濟(jì)增長的新引擎。但是，我們必須警惕，每一項新技術(shù)在從誕生到應(yīng)用的過程中，安全問題都會如影隨行。尤其是進(jìn)入數(shù)字經(jīng)濟(jì)時代，安全問題不斷突破原有邊界，真實世界與網(wǎng)絡(luò)世界之間的界限越來越模糊，甚至網(wǎng)絡(luò)上的攻擊也開始向真實世界蔓延。因此，必須加強(qiáng)人工智能發(fā)展的潛在風(fēng)險研判和防范，維護(hù)人民利益和國家安全，確保人工智能安全、可靠、可控。

審時度勢，人工智能如今已經(jīng)變成了國家層面的激烈博弈，很多國家都制定了人工智能發(fā)展戰(zhàn)略與規(guī)劃，全面推進(jìn)人工智能的發(fā)展。與此同時，人工智能帶來的安全問題以及如何應(yīng)對也成了關(guān)乎人工智能健康發(fā)展的關(guān)鍵問題之一。

中國網(wǎng)絡(luò)空間安全協(xié)會副理事長 杜躍進(jìn)

中國網(wǎng)絡(luò)空間安全協(xié)會副理事長杜躍進(jìn)指出，人工智能是一柄雙刃劍。人工智能與安全的融合是大勢所趨。一方面，我們要利用人工智能技術(shù)提升安全方面的能力；另一方面，人工智能本身作為一種計算機(jī)軟硬件技術(shù)，它自身如何防止安全的缺陷、被攻擊者利用，也必須引起各方的高度重視。

在轟轟烈烈的數(shù)字革命中，我國正面臨著前所未有的網(wǎng)絡(luò)安全挑戰(zhàn)，而這恰恰也是我們最大的機(jī)會。如果我國的網(wǎng)絡(luò)安全產(chǎn)業(yè)界能夠抓住這個機(jī)會，不斷創(chuàng)新，銳意突破，不僅有可能在我國建立一個繁榮的網(wǎng)絡(luò)安全市場，更有可能讓我國在網(wǎng)絡(luò)安全市場引領(lǐng)全球發(fā)展。

2017年7月，國務(wù)院印發(fā)了《新一代人工智能發(fā)展規(guī)劃》，同年12月，工信部發(fā)布《促進(jìn)新一代人工智能產(chǎn)業(yè)發(fā)展三年行動計劃（2018-2020）》，目前正是三年行動計劃的第二年，處在攻堅期。我們現(xiàn)在談?wù)摪踩珕栴}，正是為了給人工智能保駕護(hù)航。

在新的安全形勢下，我們必須樹立科學(xué)的網(wǎng)絡(luò)安全觀。安全是發(fā)展的前提，發(fā)展是安全的保障。沒有網(wǎng)絡(luò)安全，信息社會將成為黑暗中的廢墟。中國工程院院士沈昌祥在“用可信計算3.0筑牢人工智能安全防線”的主題演講中指出，基于可信計算建立主動免疫的可信安全框架，是解決當(dāng)前人工智能安全問題的重要基礎(chǔ)和保障。

中國工程院院士 沈昌祥

從目前的發(fā)展趨勢看，人工智能在網(wǎng)絡(luò)安全領(lǐng)域得到了越來越廣泛的應(yīng)用，未來將在網(wǎng)絡(luò)安全防御、主動性網(wǎng)絡(luò)策略方面發(fā)揮越來越大的作用。中國科學(xué)院院士鄭建華在談到人工智能應(yīng)用與信息安全的關(guān)系時特別強(qiáng)調(diào)了兩點：一方面，要深入了解人工智能應(yīng)用的安全需求；另一方面，要善用網(wǎng)絡(luò)安全中的人工智能技術(shù)。兩者相輔相成，相互促進(jìn)，共同發(fā)展。

中國科學(xué)院院士鄭建華

在推動人工智能技術(shù)和應(yīng)用發(fā)展的過程中，我們要披荊斬棘，在面對人工智能基礎(chǔ)技術(shù)、人工智能應(yīng)用技術(shù)、人工智能技術(shù)濫用、人工智能軍備競賽、數(shù)據(jù)和隱私泄露增大擴(kuò)大等帶來的安全風(fēng)險時，更應(yīng)該居安思危，積極應(yīng)對。中國電子信息產(chǎn)業(yè)發(fā)展研究院副總工程師安暉給出了他的三點建議：以人工智能防范人工智能安全，應(yīng)用反人工智能防范安全風(fēng)險，加強(qiáng)人工智能領(lǐng)域的法律治理?？傊?，只有深刻認(rèn)識到人工智能技術(shù)的雙面性，找到人工智能導(dǎo)致安全問題產(chǎn)生的根源，才能妥善解決人工智能帶來的安全問題。

新挑戰(zhàn) “智”應(yīng)對

全球數(shù)字化的時代剛剛開始，新時代的數(shù)據(jù)安全也剛剛開始。中國科學(xué)院大學(xué)荊繼武教授認(rèn)為，今天，網(wǎng)絡(luò)發(fā)展走進(jìn)了新時代，也就是機(jī)器智能時代，數(shù)據(jù)安全技術(shù)面臨新的挑戰(zhàn)。為了更好地應(yīng)對這些挑戰(zhàn)，必須以數(shù)據(jù)安全技術(shù)作為最有力的武器，實現(xiàn)協(xié)同智能處理，建立標(biāo)準(zhǔn)化的多安全等級電子認(rèn)證可信體系，這樣才能更有效地保護(hù)數(shù)據(jù)資產(chǎn)。

用數(shù)字化的手段連接物理世界與網(wǎng)絡(luò)世界已經(jīng)是大勢所趨。通過AI將安全能力從網(wǎng)絡(luò)空間延伸到物理空間是必由之路。無論是網(wǎng)絡(luò)空間安全，還是物理空間安全，都必須引起高度重視，兩者其實是一體的，一脈相承，一個十分典型的例子就是智慧城市。360集團(tuán)副總裁、智慧城市事業(yè)部總裁穆鴻指出，安全是智慧城市的基礎(chǔ)和關(guān)鍵目標(biāo)。在網(wǎng)絡(luò)空間安全方面，要防范攻擊組織化、軍火民用化、漏洞產(chǎn)業(yè)化；在物理空間安全方面，要注意安全風(fēng)險在持續(xù)增加，安全處置和防范的難度變大，安全由應(yīng)對向防范轉(zhuǎn)變。為解決這些問題，360集團(tuán)推出了“城市安全大腦”，它是網(wǎng)絡(luò)安全大腦的延伸和發(fā)展，通過對城市基礎(chǔ)大數(shù)據(jù)、城市行為大數(shù)據(jù)、互聯(lián)網(wǎng)大數(shù)據(jù)等的分析，可以更清楚地“看見”安全問題所在，并有效處置。

360集團(tuán)副總裁、智慧城市事業(yè)部總裁 穆鴻

人工智能技術(shù)在工業(yè)領(lǐng)域的應(yīng)用起步較早，并且在智能制造、工業(yè)互聯(lián)網(wǎng)等方面已有所建樹。工業(yè)信息安全防護(hù)推動了新一輪工業(yè)變革，已成為各國重塑工業(yè)發(fā)展、搶占競爭制高點的戰(zhàn)略選擇。中國華能集團(tuán)公司首席信息師（CIO）、國務(wù)院國資委監(jiān)管信息化專家組副組長朱衛(wèi)列在談到“讓人工智能安全重塑未來工業(yè)”這個話題時結(jié)合了華能智能工業(yè)互聯(lián)網(wǎng)的探索與實踐，他指出，缺乏整體設(shè)計思維、單純依靠技術(shù)、等級保護(hù)劃分存在問題是最大的挑戰(zhàn)，而兼顧安全與數(shù)據(jù)共享的思維體系、技術(shù)與管理兩手抓、采用數(shù)據(jù)加密技術(shù)和智能安全才是解決之道。

沒有網(wǎng)絡(luò)安全就沒有國家安全。在新的安全形勢下，我們更要自主創(chuàng)新，推進(jìn)陸基民網(wǎng)建設(shè)。中國科學(xué)院信息安全國家重點實驗室教授、博士生導(dǎo)師呂述望指出，創(chuàng)新網(wǎng)絡(luò)強(qiáng)國建設(shè)已深入人心。

大安全時代的新商機(jī)

在“大安全時代”，作為安全廠商，最直接的競爭對手并不是友商，而是那些惡意的黑客、黑產(chǎn)。人工智能、機(jī)器學(xué)習(xí)雖然可以在一定程度上提升我們解決安全問題的能力，但人工智能也并不是一種一勞永逸的工具。杜躍進(jìn)表示，在與黑客、黑產(chǎn)的博弈中，我們要重新認(rèn)識安全，重新考慮制度設(shè)計，充分調(diào)動各方力量實現(xiàn)治理模式，用更前瞻性的思想和戰(zhàn)略、用創(chuàng)新的技術(shù)和工具武裝自己，這樣才能在知己知彼的安全戰(zhàn)中始終立于不敗之地。

圓桌論壇

“今天的網(wǎng)絡(luò)威脅總是給我們帶來驚訝。我們必須用新思維來解決新挑戰(zhàn)。”賽門鐵克公司大中國區(qū)首席運(yùn)營官羅少輝表示，“運(yùn)用大數(shù)據(jù)及AI技術(shù)提供自動化網(wǎng)絡(luò)防御平臺是賽門鐵克公司的應(yīng)對之道。”賽門鐵克以集成聯(lián)動的全方位安全防御平臺（ICD）為底座，聯(lián)合了120多家技術(shù)合作伙伴，完成了超過250種集成，有效地解決了安全孤島問題。

AI技術(shù)在賦能各個產(chǎn)業(yè)的同時，也容易被網(wǎng)絡(luò)黑產(chǎn)所利用，使得黑客攻擊更加自動化、更加隱蔽，難于檢測。DataVisor運(yùn)用自動化AI技術(shù)，通過包含無監(jiān)督機(jī)器學(xué)習(xí)引擎、有監(jiān)督機(jī)器學(xué)習(xí)引擎、規(guī)則引擎、個體異常檢測引擎在內(nèi)的完整技術(shù)架構(gòu)，可以有效打擊智能化網(wǎng)絡(luò)欺詐，保證客戶的財產(chǎn)安全。

值得特別注意的是，當(dāng)前全球各地針對關(guān)鍵基礎(chǔ)設(shè)施的攻擊越來越多，而且越來越有針對性，產(chǎn)生的破壞力也越來越大。公共基礎(chǔ)設(shè)施的安全已列入國家安全范疇中。如何利用包括AI在內(nèi)的創(chuàng)新技術(shù)提高公共基礎(chǔ)設(shè)施的安全能力呢？英帝國司令爵銜、Ultra-MTS首席執(zhí)行官Peter James Budd CBE在“打造智能保護(hù)平臺，做公共基礎(chǔ)設(shè)施安全的守護(hù)者”的演講中談到，他們打造的傲創(chuàng)微車捷運(yùn)系統(tǒng)，將安全、智能、綠色融為一體，在實現(xiàn)基礎(chǔ)設(shè)施智能化的同時，保證了安全、穩(wěn)定、可靠。

最近這兩年，我們真切地感受到了網(wǎng)絡(luò)安全行業(yè)的熱度。賽迪顧問的調(diào)研數(shù)據(jù)顯示，2018年，整個網(wǎng)絡(luò)安全市場的規(guī)模接近500億元，增速20％以上，而2019年到2021年，增速還會更快；到2021年左右，市場規(guī)模將達(dá)到千億元級。物聯(lián)網(wǎng)安全、互聯(lián)網(wǎng)安全、云安全將成為新的驅(qū)動力，大數(shù)據(jù)安全市場規(guī)模的增速將超過30％。賽迪顧問副總裁宋宇表示，在新的安全形勢下，單個企業(yè)很難滿足用戶的所有需求，網(wǎng)絡(luò)安全企業(yè)之間應(yīng)該相互合作，營造一個健康的安全生態(tài)。

網(wǎng)絡(luò)安全產(chǎn)業(yè)本身增長快，新技術(shù)、新應(yīng)用層出不窮。在某些行業(yè)和場景中，網(wǎng)絡(luò)安全可能會滯后于應(yīng)用。隨著互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能的蓬勃發(fā)展，新技術(shù)帶來的安全隱患和社會風(fēng)險遠(yuǎn)遠(yuǎn)超出人們的預(yù)料，所以現(xiàn)在對新技術(shù)、新應(yīng)用在使用之前都要進(jìn)行風(fēng)險評估。賽迪智庫網(wǎng)絡(luò)安全研究所所長劉權(quán)表示，網(wǎng)絡(luò)安全責(zé)任重大，發(fā)展道路漫長而曲折，需要產(chǎn)學(xué)研用各方面團(tuán)結(jié)一致，一步一個腳印往前走。

在人工智能與安全深入融合發(fā)展的過程中，我們應(yīng)立足創(chuàng)新，彌補(bǔ)短板，確保將人工智能與安全的關(guān)鍵核心技術(shù)掌握在自己手中，未雨綢繆，穩(wěn)步推進(jìn)，將人工智能變成一個有用的輔助工具，讓它在安全的諸多細(xì)分領(lǐng)域發(fā)揮更大的作用。在大安全時代，只有產(chǎn)學(xué)研用各方團(tuán)結(jié)協(xié)作，才能從理論、技術(shù)、產(chǎn)品和應(yīng)用多個維度更好地解決安全問題，為高質(zhì)量發(fā)展保駕護(hù)航。