什么是攻擊性人工智能以及如何防御?

網(wǎng)絡(luò)犯罪分子正在利用人工智能 (AI) 的最新發(fā)展來創(chuàng)建新的、復(fù)雜的攻擊。人工智能可以在很大程度上實(shí)現(xiàn)更快、更隱蔽、自動(dòng)化的攻擊：這種新的趨勢(shì)被稱為攻擊性人工智能。

如何利用人工智能展開攻擊和進(jìn)行安全分析？

人工智能是一種強(qiáng)大的工具，攻擊者以各種方式和目的來使用它并實(shí)施攻擊：從數(shù)據(jù)竊取、規(guī)避檢測(cè)或發(fā)現(xiàn)漏洞，到社交工程攻擊。

有關(guān)攻擊性人工智能的一個(gè)比較常見且具有威脅性的例子，是使用深偽技術(shù)進(jìn)行網(wǎng)絡(luò)釣魚攻擊。深偽技術(shù)是通過深度學(xué)習(xí)創(chuàng)建假圖像或假聲音（更一般來講，媒體）來模仿受害者，最初是通過換臉[1]。使用深偽技術(shù)，攻擊者可以實(shí)施網(wǎng)絡(luò)釣魚攻擊，例如，通過模仿 CEO 向員工索取金錢或敏感信息。在過去幾年里，曾經(jīng)發(fā)生過類似事件，特別是使用聲音克隆實(shí)施攻擊 [2,3]。深偽技術(shù)網(wǎng)絡(luò)釣魚和其他社交工程攻擊，被學(xué)術(shù)界和工業(yè)界的專家認(rèn)為是攻擊性人工智能最嚴(yán)重的威脅之一 [4]。

另一個(gè)令人擔(dān)憂的威脅是人工智能和機(jī)器學(xué)習(xí) (ML) 從黑匣子系統(tǒng)中提取信息的效率：換句話說，用于逆向工程 (RE) 的人工智能。攻擊性人工智能通過幫助分析編譯代碼的內(nèi)部結(jié)構(gòu)，加速了漫長(zhǎng)而艱難的逆向工程過程 [5]。因此，攻擊性人工智能成為對(duì)知識(shí)產(chǎn)權(quán)和隱私的威脅，也可能用于發(fā)現(xiàn)漏洞從而允許攻擊者更快地構(gòu)建攻擊體系。盡管大部分注意力都集中在軟件應(yīng)用程序逆向工程上，但人工智能已應(yīng)用于集成電路系統(tǒng)中的網(wǎng)表逆向工程，以繞過類似代碼混淆的反逆向工程對(duì)策 [6]。

側(cè)信道攻擊和評(píng)估 (SCA) 是利用人工智能繞過保護(hù)的另一個(gè)攻擊示例。在這些攻擊中，深度神經(jīng)網(wǎng)絡(luò)被用來繞過反制措施并從加密引擎泄漏的物理輻射中提取私鑰。在這種情況下，人工智能還可以實(shí)現(xiàn)更快、更自動(dòng)化的攻擊 [7]。

總體而言，攻擊性人工智能可實(shí)現(xiàn)更高水平的自動(dòng)化攻擊。攻擊者目前能夠進(jìn)行大規(guī)模的“按鈕式”網(wǎng)絡(luò)釣魚活動(dòng)，例如，根據(jù)受害者的數(shù)據(jù)自動(dòng)地創(chuàng)建惡意電子郵件和網(wǎng)站，以及自動(dòng)啟動(dòng)和執(zhí)行不同的攻擊步驟。因此，人工智能可以擴(kuò)大攻擊范圍，減少必要的人際互動(dòng)，最終提高攻擊者的成功率。

應(yīng)對(duì)人工智能攻擊的安全挑戰(zhàn)。

攻擊性人工智能的效率使組織難以防范它。首先，人為控制的檢測(cè)系統(tǒng)無(wú)法隨時(shí)跟上這些攻擊發(fā)生時(shí)的速度和規(guī)模。就數(shù)量和速度而言，防御團(tuán)隊(duì)的響應(yīng)能力可能會(huì)被大規(guī)模攻擊活動(dòng)所淹沒。其次，傳統(tǒng)的規(guī)則或基于簽名的檢測(cè)工具可以檢測(cè)已知的攻擊，但對(duì)于新的或未見過的攻擊效率低下。

最后，一些人工智能攻擊，尤其是與電子郵件網(wǎng)絡(luò)釣魚等社會(huì)工程相關(guān)的攻擊，非常令人擔(dān)憂，因?yàn)樗鼈円蕾囉谌藶椴倏v，并不完全在行業(yè)通常部署的網(wǎng)絡(luò)防御系統(tǒng)的范圍內(nèi)。

???如何應(yīng)對(duì)攻擊性人工智能？

雖然人類和傳統(tǒng)防御結(jié)構(gòu)難以跟上這些新威脅的步伐，新的保護(hù)措施正在不斷涌現(xiàn)，也在利用人工智能的力量：這就是防御性人工智能。實(shí)際上，如果人工智能可以用作發(fā)動(dòng)更快、更危險(xiǎn)攻擊的工具，那么它也可以加強(qiáng)防御并加速安全團(tuán)隊(duì)在面臨威脅時(shí)的反應(yīng)。

利用人工智能，可以創(chuàng)建準(zhǔn)確可靠的檢測(cè)系統(tǒng)，可以設(shè)計(jì)用于檢測(cè)攻擊嘗試、入侵或異常。這在不同的網(wǎng)絡(luò)安全場(chǎng)景下是有用的：欺詐檢測(cè)、勒索軟件識(shí)別、物理攻擊檢測(cè)等。此外，一些近期的人工智能檢測(cè)方法通過依賴于機(jī)器學(xué)習(xí)算法來實(shí)現(xiàn)設(shè)備的正常操作，從而可以檢測(cè)到異常的可疑行為并防范新的未知攻擊。

人工智能的另一個(gè)巨大好處是，通過大數(shù)據(jù)工具和解決方案可以在短時(shí)間內(nèi)收集、攝取和分析大量信息。通過訪問過去的數(shù)據(jù)，結(jié)合先進(jìn)的分析技術(shù)，可以以高效的速度和準(zhǔn)確性檢測(cè)威脅、識(shí)別和應(yīng)對(duì)突發(fā)事件。

Secure-IC如何應(yīng)對(duì)攻擊性人工智能？

Secure-IC提供先進(jìn)的攻擊檢測(cè)系統(tǒng)，包括硬件和軟件層面，以應(yīng)對(duì)高級(jí)攻擊。SecuryzrTM一體化安全服務(wù)平臺(tái)（iSSP）實(shí)施基于防御性人工智能的保護(hù)措施，能夠檢測(cè)未知攻擊。

這個(gè)解決方案包括一種基于人工智能的入侵檢測(cè)系統(tǒng)（IDS），可部署在自動(dòng)駕駛車輛電子控制單元（ECUs）或智能手機(jī)等設(shè)備上，并兼容多種通信接口：控制器局域網(wǎng)總線、以太網(wǎng)、自定義傳感器等。嵌入式入侵檢測(cè)系統(tǒng)通過使用機(jī)器學(xué)習(xí)來分析實(shí)時(shí)流量，并在檢測(cè)攻擊和可疑異?；顒?dòng)的過程中生成警報(bào)。

這些警報(bào)，以及其他遙測(cè)和安全信息，隨后通過安全通道發(fā)送到遠(yuǎn)程服務(wù)器，例如，發(fā)送到一個(gè)安全運(yùn)營(yíng)中心（SOC）。在那里，設(shè)備群的數(shù)據(jù)可以使用高級(jí)人工智能分析進(jìn)行聚合和關(guān)聯(lián)，使安全運(yùn)營(yíng)中心團(tuán)隊(duì)能夠全局了解所有設(shè)備的安全狀態(tài)，進(jìn)行進(jìn)一步分析，并迅速采取適當(dāng)?shù)捻憫?yīng)。

在安全評(píng)估方面，LaboryzrTM平臺(tái)具有執(zhí)行增強(qiáng)人工智能側(cè)信道攻擊的能力，以確保嵌入式系統(tǒng)在硅后、硅前和軟件層面具有最高級(jí)別的安全性。

如果您對(duì)此主題以及我們防御辦法有任何問題，我們很樂意解答。