如何防御生成式AI的攻擊?|?自動移動目標防御

隨著ChatGPT、Copilot、Bard等人工智能(AI)工具的復雜性持續(xù)增長，它們給安全防御者帶來了更大的風險，并給采用AI驅(qū)動的攻擊技術(shù)的攻擊者帶來了更大的回報。

作為一名安全專業(yè)人員，您必須維護一個由多個操作系統(tǒng)(OS)組成的多樣化的生態(tài)系統(tǒng)，以便在采用新的、現(xiàn)代的B2B和B2C超大規(guī)模、超高速、數(shù)據(jù)豐富的接口。您尋找并依賴最新和最好的安全產(chǎn)品來幫助您抵御攻擊者。

然而，當與復雜的人工智能驅(qū)動的技術(shù)對抗時，現(xiàn)有的安全產(chǎn)品和實踐缺少一個關(guān)鍵的防御元素：一種能夠擊敗下一代機器驅(qū)動的、啟用人工智能的對手的技術(shù)，這些對手擅長機器學習，以驚人的速度和規(guī)模創(chuàng)造新的自適應(yīng)漏洞。

隨著人們對生成AI系統(tǒng)及其違反檢測和預防技術(shù)的能力的關(guān)注，一個明確的模式開始出現(xiàn)。

信息安全專業(yè)人員關(guān)心的是——生成式人工智能可以被利用來：

• 增加攻擊面：創(chuàng)建傳統(tǒng)安全工具不易檢測到的新攻擊載體。
• 逃避檢測：生成專門用于逃避安全工具檢測的惡意代碼。
• 增加復雜性：創(chuàng)建更難防御的日益復雜的攻擊或技術(shù)變體。
• 更快的速度和更大的規(guī)模：以安全團隊難以跟上的規(guī)模和速度發(fā)動攻擊。

防御者的視角

人工智能(AI)及其機器學習(ML)和深度學習(DL)子集是現(xiàn)代端點保護平臺(EPP)和端點檢測與響應(yīng)(EDR)產(chǎn)品不可或缺的一部分。

這些技術(shù)通過學習大量已知的惡意和良性行為或代碼模式的數(shù)據(jù)來工作。這種學習使他們能夠創(chuàng)建可以預測和識別以前未見過的威脅的模型。

具體地說，人工智能可用于：

• 檢測異常：識別終端行為中的異常，如不尋常的文件訪問模式或系統(tǒng)設(shè)置的更改。這些異常可能表明有惡意活動，即使安全產(chǎn)品不知道具體的行為。
• 行為分類：將終端行為分為惡意行為和良性行為。這使得安全產(chǎn)品可以將注意力集中在最有可能的威脅上。
• 判斷：判斷特定行為或代碼模式是惡意的還是良性的。這使安全產(chǎn)品可以采取措施減輕威脅，例如阻止訪問文件或終止進程。

人工智能的使用現(xiàn)在正在成為事實上的標準，通過識別事件的背景和理解終端的行為來幫助減少誤報，以消除警報，并使用以前發(fā)送的大量遙測數(shù)據(jù)追溯糾正錯誤分類的信息。

攻擊者的視角

隨著人工智能的發(fā)展和變得越來越復雜，攻擊者將找到新的方法來利用這些技術(shù)為自己帶來好處，并加速開發(fā)能夠繞過基于人工智能的終端保護解決方案的威脅。

攻擊者可以利用人工智能攻擊目標的方法包括：

• 自動化漏洞掃描：攻擊者可以使用人工智能自動掃描大量代碼和系統(tǒng)中的漏洞。使用機器學習算法，攻擊者可以識別模式代碼本身、相關(guān)配置甚至是獨立的服務(wù)，以發(fā)現(xiàn)潛在的漏洞，并據(jù)此確定攻擊的優(yōu)先級。它們訓練以尋找繞過檢測的方法。
• 對抗性機器學習：對抗性機器學習是一種使用人工智能在其他人工智能系統(tǒng)中尋找弱點的技術(shù)。通過利用基于人工智能的安全系統(tǒng)中使用的算法中的漏洞，攻擊者可以繞過這些防御措施并獲得敏感數(shù)據(jù)的訪問權(quán)。
• 漏洞生成：攻擊者可以利用人工智能生成繞過傳統(tǒng)安全措施的新漏洞。通過分析目標系統(tǒng)和識別漏洞，AI算法可以生成新的代碼，這些代碼可以利用這些弱點并獲得對系統(tǒng)的訪問權(quán)限。
• 社會工程：攻擊者可以使用人工智能生成有說服力的釣魚電子郵件或社交媒體消息，誘騙受害者泄露敏感信息或下載惡意軟件。利用自然語言處理和其他人工智能技術(shù)，攻擊者可以使這些消息高度個性化，更具說服力。
• 密碼破解：攻擊者可以使用人工智能使用暴力破解密碼。使用機器學習算法從之前的嘗試中學習，攻擊者可以在更短的時間內(nèi)增加他們破解密碼的機會。

我們預計攻擊者將積極使用人工智能來自動化漏洞掃描，生成引人注目的釣魚消息，在基于人工智能的安全系統(tǒng)中找到弱點，生成新的漏洞并破解密碼。隨著人工智能和機器學習的發(fā)展，組織必須保持警惕，并跟上基于人工智能的攻擊的最新發(fā)展，以保護自己免受這些威脅。

使用基于人工智能系統(tǒng)的組織必須質(zhì)疑其基礎(chǔ)數(shù)據(jù)集、訓練集和實現(xiàn)此學習過程的機器的魯棒性和安全性，并保護系統(tǒng)免受未經(jīng)授權(quán)和可能武器化的惡意代碼。發(fā)現(xiàn)的弱點，或注入到基于人工智能的安全解決方案的模型中，可能導致它們的保護被全局繞過。

Morphisec之前曾觀察到由高技能和資源豐富的威脅行為者發(fā)起的復雜攻擊，如國家行為者、有組織的犯罪集團或先進的黑客集團。基于人工智能的技術(shù)的進步，通過自動化多態(tài)和規(guī)避惡意軟件的創(chuàng)造，可以降低創(chuàng)建復雜威脅的進入門檻。

這不僅僅是對未來的擔憂

利用人工智能并不需要繞過今天的終端安全解決方案。逃避EDR和EPP檢測的策略和技術(shù)有很好的記錄，特別是在內(nèi)存操作和無文件惡意軟件中。根據(jù)Picus Security的數(shù)據(jù)，在惡意軟件中使用的頂級技術(shù)中，逃避和內(nèi)存技術(shù)占了30%以上。

另一個重要的問題是EPP和EDR的反應(yīng)性，因為它們的檢測通常是在違反之后進行的，并且補救不是完全自動化的。根據(jù)2023年IBM數(shù)據(jù)泄露報告，檢測和控制入侵的平均時間增加到322天。安全人工智能和自動化的廣泛使用將這一時間縮短到214天，這在攻擊者建立持久性并能夠潛在地竊取有價值的信息之后仍然很長時間。

是時候考慮一種不同的范式

在無休止的軍備競賽中，攻擊者將利用人工智能來產(chǎn)生能夠繞過基于人工智能的保護解決方案的威脅。然而，要使所有攻擊成功，它們必須破壞目標系統(tǒng)上的資源。

如果目標資源不存在，或者不斷被改變(移動)，那么目標系統(tǒng)的機會就會降低一個數(shù)量級。

舉個例子，假設(shè)一名訓練有素且極其聰明的狙擊手試圖攻破目標。如果目標隱藏起來，或者不斷移動，狙擊手的成功機會就會降低，甚至會因為在錯誤的位置反復射擊而危及狙擊手。

利用AMTD阻止生成性AI攻擊

進入自動移動目標防御(AMTD)系統(tǒng)，旨在通過變形——隨機化系統(tǒng)資源——移動目標來防止復雜的攻擊。

Morphisec的預防優(yōu)先安全(由AMTD提供支持)使用獲得專利的零信任執(zhí)行技術(shù)來主動阻止規(guī)避攻擊。當應(yīng)用程序加載內(nèi)存空間時，該技術(shù)會變形并隱藏進程結(jié)構(gòu)和其他系統(tǒng)資源，部署輕量級骨架陷阱來欺騙攻擊者。無法訪問原始資源，惡意代碼失敗，從而停止并記錄具有完整取證詳細信息的攻擊。

這種預防優(yōu)先的方法可以冷酷地阻止攻擊，即使它們繞過了現(xiàn)有的基于人工智能的端點保護工具。因此，AMTD系統(tǒng)提供了針對復雜攻擊的額外一層防御層。由于防止了攻擊，信息安全團隊獲得了關(guān)鍵的時間來調(diào)查威脅，同時知道他們的系統(tǒng)是安全的。AMTD的確定性還意味著該解決方案會生成高保真警報，這有助于確定安全團隊工作的優(yōu)先順序，從而減少警報疲勞。

Morphisec的AMTD技術(shù)可保護5,000個組織中的900多萬個終端，每天可防止繞過現(xiàn)有終端安全解決方案的數(shù)以萬計的規(guī)避攻擊和內(nèi)存攻擊，包括零日攻擊、勒索軟件、供應(yīng)鏈攻擊等。Morphisec阻止的攻擊通常是未知的，該公司的威脅實驗室團隊首先在野外觀察到了這些攻擊。

Morphisec最近阻止的規(guī)避威脅的例子：

-GuLoader ——一種針對美國法律和投資公司的先進變體。

-InvalidPrinter ——一個高度隱蔽的加載器，在Morphisec披露的時候?qū)Σ《究倲?shù)沒有檢測。

-SYS01 Stealer——瞄準政府和關(guān)鍵基礎(chǔ)設(shè)施。

-ProxyShellMiner——針對MS-Exchange中的ProxyShell漏洞的一個新變體。

-Babuk勒索軟件——被Morphisec阻止的泄漏的Babuk勒索軟件的一個新的未知變體，但觀察到需要兩周以上的主要EPPs和EDRs來調(diào)整他們的檢測邏輯。

-遺留系統(tǒng)——為windows和Linux遺留操作系統(tǒng)提供強大的保護。Morphisec阻止了數(shù)百個針對windows 7、8、2008r2、2012和遺留Linux發(fā)行版的惡意軟件家族。

AMTD的威力已經(jīng)證明，它與多波終端保護解決方案一起證明了其有效性，攻擊者已開發(fā)出繞過它們的策略。從基于簽名的AV、ML-Powered NextGen AVs(NGAV)到目前的EDR和XDR。

AMTD是終端保護的自然演變，提供真正的安全保護，免受人工智能攻擊。