人工智能惡意軟件出現(xiàn) 可利用AI模型隱藏惡意

最近幾年，計算力的提升、算法改進(jìn)和大數(shù)據(jù)的出現(xiàn)，讓人工智能重新爆發(fā)。作為一種技術(shù)，人工智能可以用來做許多事。但是，如果把人工智能(AI)應(yīng)用于惡意軟件的開發(fā)會發(fā)生什么？威脅行為者可以使用AI驅(qū)動的惡意軟件來創(chuàng)建強(qiáng)大的惡意代碼，以逃避復(fù)雜的防御。

IBM研究院的安全研究人員開發(fā)了一種由人工智能驅(qū)動的“高度針對性和回避性”攻擊工具，DeepLocker能夠隱藏其惡意，直到它感染特定目標(biāo)。

專家在博客中寫道：IBM研究院開發(fā)了DeepLocker，以更好地了解現(xiàn)有的幾種AI模型如何與當(dāng)前的惡意軟件技術(shù)相結(jié)合，以創(chuàng)建一種特別具有挑戰(zhàn)性的新型惡意軟件。

“這類由人工智能驅(qū)動的惡意軟件可以隱藏其意圖，直到它觸達(dá)特定受害者。一旦AI模型通過面部識別、地理定位和語音識別等指標(biāo)識別目標(biāo)，它就會釋放惡意行為?！?/p>

根據(jù)IBM研究人員的說法，DeepLocker能夠避免檢測并僅在特定條件匹配后激活自身。人工智能惡意軟件是高目標(biāo)攻擊的特權(quán)選擇，就像民族國家行為者所做的那樣。惡意代碼可以隱藏在有害的應(yīng)用程序中，并根據(jù)各種指標(biāo)選擇目標(biāo)，比如語音識別、面部識別、地理定位和其他系統(tǒng)級功能。

“DeepLocker將其惡意負(fù)載隱藏在良性運營商應(yīng)用程序中，比如視頻會議軟件，以避免被大多數(shù)防病毒和惡意軟件掃描程序檢測到?！盜BM專家表示。

“DeepLocker的獨特之處在于，AI的使用讓解鎖攻擊的‘觸發(fā)條件’幾乎不可能進(jìn)行逆向工程。只有達(dá)到了預(yù)期目標(biāo)時，才會解鎖惡意有效負(fù)載。它通過使用深度神經(jīng)網(wǎng)絡(luò)(DNN)AI模型實現(xiàn)這一目標(biāo)。”

研究人員通過將WannaCry勒索軟件隱藏在視頻會議應(yīng)用程序中并將其保密，直到通過面部識別識別出受害者為止，他們分享了概念驗證。專家指出，可以通過將受害者的臉部與公開照片相匹配來識別目標(biāo)。

“為了展示DeepLocker功能的含義，我們設(shè)計了一個概念驗證。我們在一個良好的視頻會議應(yīng)用程序中偽裝一個著名的勒索軟件(WannaCry)，以便它不被惡意軟件分析工具(包括防病毒引擎和惡意軟件沙箱)監(jiān)測到。作為觸發(fā)條件，我們訓(xùn)練AI模型識別特定人員的面部以解鎖勒索軟件并在系統(tǒng)上執(zhí)行?！?/p>

“想象一下，這個視頻會議應(yīng)用程序是由數(shù)百萬人分發(fā)和下載的，這在許多公共平臺上現(xiàn)在都是合理的。推出時，該應(yīng)用程序會秘密地將相機(jī)快照提供給嵌入式AI模型，但除了預(yù)定的目標(biāo)之外，所有其他用戶都表現(xiàn)正常，“研究人員補(bǔ)充道。

“當(dāng)受害者坐在電腦前并使用該應(yīng)用程序時，相機(jī)會將他們的臉部送到應(yīng)用程序，并且由于受害者的臉，這是解鎖它的預(yù)編程鍵，因此將秘密執(zhí)行惡意有效載荷?！?/p>

據(jù)悉，IBM研究小組將在拉斯維加斯舉行的黑帽安全大會的現(xiàn)場提供更多詳細(xì)信息。