分析如何應對未來人工智能安全的挑戰(zhàn)

據(jù)《紐約時報》報道，到2021年，全球AI網(wǎng)絡安全工作市場將見證350萬個未填補的網(wǎng)絡安全工作。此外，到2025年，市場規(guī)模預計將達到305億美元。

Synack最近的一份報告聲稱，將網(wǎng)絡安全人才和支持AI的技術相結合，可以使攻擊面的有效覆蓋范圍是傳統(tǒng)方法的20倍。但是，很難真正理解這些數(shù)字的含義。該主題的大部分內(nèi)容都使讀者自己去做所有的數(shù)學運算，連接點并嘗試理解數(shù)字背后的實際問題，這是一項艱巨的任務。

當今互聯(lián)網(wǎng)上最有趣的兩個主題是人工智能和網(wǎng)絡安全。您需要扎實的外賣和見識來融入當今互連的數(shù)字經(jīng)濟。

人工智能的挑戰(zhàn)：網(wǎng)絡安全行業(yè)的觀點

消費者技術協(xié)會（Consumer Technology Association）最近進行的一項調(diào)查將AI的優(yōu)秀應用程序確定為網(wǎng)絡安全，所有AI應用程序中有44%用于檢測和阻止安全入侵。

另一方面，網(wǎng)絡犯罪分子越來越多地并且以創(chuàng)新方式將AI用作數(shù)字彈藥。它會產(chǎn)生強大的安全威脅，導致對網(wǎng)絡安全專家的需求增加。

在威脅方面，以下是我當前的三大擔憂：

1.網(wǎng)絡安全威脅增加

2019年，《華爾街日報》報道稱，一群網(wǎng)絡犯罪分子向一家英國能源公司的首席執(zhí)行官索要22萬歐元。情節(jié)的一個有趣轉折：他們使用AI模仿了CEO的聲音。吸取的教訓是？AI為網(wǎng)絡犯罪分子提供了額外的優(yōu)勢，可以繞過組織中的安全盲點。

2.網(wǎng)絡安全攻擊和數(shù)據(jù)泄露的數(shù)量和復雜性不斷提高

瓦羅尼斯（Varonis）進行的一項研究將事情變成了現(xiàn)實：長話短說，基于AI的技術可以實現(xiàn)任務自動化，保護攻擊者的身份，在企業(yè)欺詐，akafakefake中產(chǎn)生下一個前沿領域，并以幾乎聞所未聞的速度和規(guī)模完善惡意服務（僅舉幾例）的。

3.由于更加依賴人工智能技術，（威脅）機會之窗

實際上，以AI為主導的技術可以雙向搖擺。視情況而定，有利于組織還是有利于網(wǎng)絡犯罪分子。組織可以通過使用新興技術和AI主導的軟件來增強其安全性。

具有諷刺意味的是，攻擊者可以通過臨時使用相同的技術來克服這些安全控制措施并處理日常任務，從而帶來更加復雜和相互關聯(lián)的風險。信不信由你，思科在2018年報告說，他們“代表客戶阻止了7萬億次威脅，或每天阻止200億次威脅?！碑斍?，似乎我們陷入了脆弱的境地。

人工智能如何為網(wǎng)絡安全流程做出貢獻

凱捷（Capgemini）表示，三分之二的企業(yè)計劃在2020年之前采用AI解決方案。

盡管構成了嚴重的威脅，但AI增強并補充了網(wǎng)絡安全優(yōu)秀實踐的未來。這是網(wǎng)絡安全領域中“ AI優(yōu)勢”的縮影：

減少了對威脅的響應時間并降低了防范違規(guī)的成本

Synack聲稱“使用AI將評估漏洞的可破解性的時間縮短了73%?！贝送?，凱捷（Capgemini）研究的其他數(shù)據(jù)顯示，“四分之三的高管認為，網(wǎng)絡安全中的AI可以加快漏洞響應速度，包括檢測和補救。

大約有64%的人表示，這也降低了檢測和響應的成本?！睂＜襅ayne McGladrey提出的AI解釋了這些數(shù)字可能意味著什么。與CIO交談時，她說：“ AI的毅力可以縮短發(fā)現(xiàn)時間，不需要假期，喝咖啡或睡覺。而且，與第1層安全運營中心的分析師所不同的是，他們無休止地讀取日志文件和警報。

輕松執(zhí)行多任務

AI就像一個超級大國組織，可以通過多種方式使用-審查用戶行為，查找模式以及在安全網(wǎng)絡中查找違規(guī)行為，僅舉幾例。

增強的動態(tài)安全實踐

將AI與人工相結合可以幫助公司更快地發(fā)現(xiàn)和關閉關鍵漏洞，速度提高40%。此外，這使公司可以將精力集中在創(chuàng)建安全的“阻塞點”上，而不用花費數(shù)百萬美元來保護整個工作環(huán)境。最后，通過使用AI來提高安全性，公司可以利用更大的回報并很大程度地降低風險-當今公司越來越關注這一點。

最小化安全責任，獲得高質量結果

人工智能通常被描述為智能，這是正確的。這項功能強大的技術可在許多應用領域中幫助組織突出重復發(fā)生的事件并消除損害。

網(wǎng)絡安全中AI的前三大影響用例

1.梳理大量安全數(shù)據(jù)并自動執(zhí)行日常任務

網(wǎng)絡安全中較大的擔憂之一是組織每天必須處理的數(shù)據(jù)量龐大。這可能是Gmail選擇AI路由來每天阻止Seedcamp的CTO額外發(fā)送1億條垃圾郵件的原因之一，David Mytton關于AI如何破壞網(wǎng)絡安全領域的解釋已刻不容緩。Mytton的CIO說：“隨著越來越多的系統(tǒng)被安裝，問題從知道發(fā)生了某些事情轉移了。這是要強調(diào)“發(fā)生了不尋常的事情”。”

儀器化系統(tǒng)指的是-誰登錄以及何時登錄？什么下載了，什么時候下載？什么時候訪問了什么？

2.減少錯誤的安全警報并捕獲異常事件

AI智能與威脅智能相結合，可以檢測并解決新的安全問題，與傳統(tǒng)的防病毒軟件相比，威脅檢測率為95%，而傳統(tǒng)的防病毒軟件的檢測率僅為90%，意味著惡意樣本的10%被錯過了?！?/p>

同樣，F(xiàn)oley&Lardner LLP的合伙人Michael Overly向Digital Munition談到了以對時間敏感的方式解決這些遺漏威脅的好處，他說：“希望這些系統(tǒng)能夠很大程度地減少錯誤警報和無關緊要的問題，只剩下很少的‘真實’威脅可以審查和解決。”

3.通過提供預測功能和提高效率來增強萬無一失的安全性

在阻止安全漏洞方面，AI很具創(chuàng)新性和最有效的應用之一是使用生物特征認證。科技巨頭蘋果公司使用這種方法，通常稱為“面部識別”。強大的人臉I(yè)D技術結合了內(nèi)置的紅外傳感器和神經(jīng)引擎來識別用戶。如果可以相信蘋果的說法，那么好處是巨大的，“只有百萬分之一的機會欺騙AI打開另一張面孔的設備。”

70%的安全專業(yè)人員表示，除了提供附加的安全層外，AI還使團隊更高效，并且消除了多達55%的員工手動任務。通過附加的安全層，并幫助團隊將精力集中在解決更重要的任務上，人工智能還為生產(chǎn)力提供了動力。幫助提高生產(chǎn)率可以降低所有參與人員的總體壓力水平。

人工智能安全的主要觀點和未來趨勢

訓練AI驅動的系統(tǒng)來保護我們

關于AI如何全天候工作以確保企業(yè)安全的問題，我們已經(jīng)談了很多，但是技術本身的安全性和培訓又如何呢？專家和企業(yè)需要將其策略重新集中在培訓AI-ML模型上，以很大程度地發(fā)揮這些系統(tǒng)的價值?？梢杂柧歁L系統(tǒng)從歷史數(shù)據(jù)中學習并檢測異常。它們可以使公司有效地緩解和管理網(wǎng)絡攻擊。

AI是數(shù)字軍備競賽中閃亮的新武器

從提高安全防御能力到網(wǎng)絡安全流程的超自動化部分，人工智能將在防止網(wǎng)絡攻擊中發(fā)揮越來越重要的作用。

凱捷（Capgemini）最近報告說，“人工智能的采用將激增，三分之二（63%）的組織計劃在2020年之前采用人工智能”。

人工智能作為一種防御能力

如前所述，人工智能是一種可用于防御和攻擊組織的數(shù)字防御系統(tǒng)的技術。網(wǎng)絡安全專家需要一個小時的時間來主動識別攻擊（例如：垃圾電子郵件嘗試，禁用關鍵基礎設施等）并防御攻擊。

人工智能的局限性和可能的解決方案

“人工智能無法解決您所有的安全問題。認為這是提高安全狀況的一種方法，而不是靈丹妙藥?！报C Akamai Technologies安全產(chǎn)品副總裁Raja Patel。

專家贊成由人類而非AI驗證的發(fā)現(xiàn)

根據(jù)White Hat Security的研究，“60%的安全專業(yè)人員對人類驗證的網(wǎng)絡威脅發(fā)現(xiàn)比對AI產(chǎn)生的發(fā)現(xiàn)更有信心?！逼渲?，人類的智慧勝過AI在運行的安全性過程中的頂4個地區(qū)均采用直覺，創(chuàng)造力，人的經(jīng)驗，和幀的參考-進化功能，AI是仍然需要證明，更不用說掌握。

顯然，當前的網(wǎng)絡安全環(huán)境至少已將平衡權轉移到了人的能力上。解決方案？利用AI的技術實力來增強人才可能是可靠的前進之路。IBM Security副總裁Aarti Borkar在Fast Company中寫道，企業(yè)可以接受的360度解決方案：

“防止人工智能內(nèi)部偏見的一種方法是建立認知多樣性。開發(fā)AI模型的計算機科學家的多樣性，向其提供數(shù)據(jù)的數(shù)據(jù)以及影響它的安全團隊?！?/p>

建立AI系統(tǒng)需要大量的資產(chǎn)和資源，例如內(nèi)存，準確的數(shù)據(jù)集和計算能力。更不用說，這是一項昂貴且費時的工作。

Osterman Research已很好地抓住了其他一些有關使用AI的擔憂：

展望未來，讓我們從整體角度看企業(yè)如何解決這些限制：

第一步是讓公司投資于擁有經(jīng)驗豐富的專業(yè)人員的經(jīng)驗豐富的網(wǎng)絡安全公司。

測試系統(tǒng)并審核您的硬件和軟件，以發(fā)現(xiàn)并主動修復安全漏洞。

安裝并不斷更新防火墻和其他惡意軟件掃描程序，以確保系統(tǒng)安全。

查看最新的網(wǎng)絡威脅和安全協(xié)議以區(qū)分風險優(yōu)先級并制定有效的策略。

人工智能驅動的未來網(wǎng)絡安全：專家演講

我們已經(jīng)畫出了數(shù)字并進行了分析。但是專家們對AI在網(wǎng)絡安全中的普遍性和相關性有何看法？讓我們來看看《福布斯》中收集的一些專家意見為我們繪制的圖片：

首先使用該技術的人會做主

薩米萊恩在1563技術戰(zhàn)略總監(jiān)說：“我們將會看到威脅者使用deepfakes作為一種策略為企業(yè)的網(wǎng)絡攻擊，類似于網(wǎng)絡釣魚攻擊是如何運作的。網(wǎng)絡釣魚攻擊是網(wǎng)絡騙子的金錢之源，它們可能對毫無戒心的員工造成嚴重破壞。

這意味著組織將需要使驗證技術保持最新狀態(tài);創(chuàng)建深造和檢測深造的工具將是相同的。因此，對于誰先使用這項技術將是一場軍備競賽?！?/p>

Deepfakes即服務的興起

Forcepoint創(chuàng)新總監(jiān)Audra Simons提出了一個有趣的觀點：“隨著深度假貨的真實性和潛力不斷增加，我們希望其在2020年對我們生活的各個方面產(chǎn)生顯著影響。

我們將會看到Deepfakes-As-A-Service會在2020年脫穎而出，原因是出于娛樂和惡意原因，Deepfakes被廣泛采用?！?/p>

在防御性網(wǎng)絡安全游戲中，防御性方面的工作被削減了

Darktrace戰(zhàn)略威脅總監(jiān)Marcus Fowler解釋了與AI對抗AI的方式：“隨著2020年以AI為動力的網(wǎng)絡攻擊的興起，更完善的防御措施和對開源AI工具的訪問已到位激勵對手加強攻擊。

人工智能不僅可以使惡意軟件在企業(yè)內(nèi)部秘密移動，而無需人工操作，而且攻擊者還將以其他惡意方式使用人工智能，包括確定目標，進行偵察和擴大攻擊范圍。

安全專家認識到，防御性AI是唯一能夠抵抗攻擊性AI攻擊的力量。而且必須通過匹配或超越攻擊者的創(chuàng)新速度來進行戰(zhàn)斗?！?/p>

虛假信息和假新聞的出現(xiàn)

Radware的安全研究員Pascal Geenens談到了這個困擾全球組織和國家的熱門話題：“虛假信息和虛假新聞可能在公共和私營部門中肆虐，并且越來越多地被民族國家用作武器。

2020年，深度學習算法可以帶來偽造但看似逼真的圖像和視頻的生成。AI的這種應用將成為大規(guī)模信息傳播活動的催化劑?！?/p>

數(shù)字化對AI和網(wǎng)絡安全的影響

Nok Nok Labs總裁兼首席執(zhí)行官Phil Dunkelberger總結了數(shù)字化的增長將如何影響組織，網(wǎng)絡犯罪分子，政府和整個世界：“隨著2020年數(shù)字化的繼續(xù)，數(shù)據(jù)將比以往任何時候都更有價值。以前對于日常消費者而言似乎微不足道的信息將對整個領域的利益相關者和黑客具有重大價值。

對手或現(xiàn)實生活中的“數(shù)據(jù)賞金獵人”將尋找新的利用方式，政府將尋求更好的方式來訪問它，企業(yè)將采取更強的安全措施來保護它，最終用戶將要求更好的隱私權來保護其個人安全信息。

此外，隨著AI和機器學習的興起，影響醫(yī)療決策方式，自動駕駛汽車在何處/如何移動的關鍵數(shù)據(jù)。而且，越來越多的東西將成為越來越主流的東西，并且越來越多的威脅者希望獲得信息?！?/p>

網(wǎng)絡安全的第一道和最后一道防線

無論采用哪種方式進行這些都特別是一項關鍵的學習?！叭斯ぶ悄苓€沒有準備好在不久的將來單飛?！逼髽I(yè)和專家都更樂于采用“中間立場”方法。人工智能可用作增強人類智能的智能工具。并幫助組織在網(wǎng)絡安全威脅不斷擴大的世界中保持競爭力和安全性。簡而言之，人工智能的優(yōu)勢遠遠超過了局限性，并提供了一種有希望的（安全的）方法。你覺得呢？你有沒有什么想法？