解析人工智能在網(wǎng)絡(luò)安全中的偏見(jiàn)與漏洞

人工智能將徹底改變網(wǎng)絡(luò)安全領(lǐng)域。在過(guò)去的五年中，這句話您聽(tīng)過(guò)多少次？答案可能是數(shù)十次，甚至數(shù)百次。

爭(zhēng)論通常是這樣的：人工智能和機(jī)器學(xué)習(xí)技術(shù)使網(wǎng)絡(luò)安全從業(yè)人員，可以處理大量的網(wǎng)絡(luò)監(jiān)視數(shù)據(jù)，并可以以更高的準(zhǔn)確率發(fā)現(xiàn)惡意或可疑活動(dòng)。

盡管AI和ML工具在網(wǎng)絡(luò)安全方面是有效的，尤其是在安全性和軟件測(cè)試方面，但距離提供更可靠、更安全、更智能的網(wǎng)絡(luò)安全技術(shù)，真正人工智能的出現(xiàn)還需要很多年。

正如BMT的高級(jí)數(shù)據(jù)科學(xué)家Evan Elliott最近對(duì)DevOps Online所說(shuō)的，這在很大程度上是由于AI和ML工具能夠處理大量數(shù)據(jù)并從中進(jìn)行預(yù)測(cè)的速度所致。通過(guò)這種方式，AI可以對(duì)惡意的網(wǎng)絡(luò)活動(dòng)進(jìn)行預(yù)警。

一些支持AI和ML驅(qū)動(dòng)的安全性方法的支持者聲稱，這意味著AI可以搜索安全漏洞。坦率地說(shuō)，這是一個(gè)不太可靠的做法。盡管AI已證明在基于歷史數(shù)據(jù)進(jìn)行預(yù)測(cè)方面非常有效，但使用它們主動(dòng)識(shí)別網(wǎng)絡(luò)中潛在漏洞的想法卻遠(yuǎn)非如此。

人工智能對(duì)網(wǎng)絡(luò)安全的偏見(jiàn)

可以簡(jiǎn)單地解釋為什么AI產(chǎn)生的網(wǎng)絡(luò)可靠性預(yù)測(cè)值得懷疑。無(wú)論多么復(fù)雜，AI和ML工具仍然可以在關(guān)聯(lián)的基礎(chǔ)上工作。他們遍歷大量歷史數(shù)據(jù)，并可以據(jù)此做出準(zhǔn)確的預(yù)測(cè)。問(wèn)題在于，在進(jìn)行這些預(yù)測(cè)時(shí)，它們也傾向于產(chǎn)生偏見(jiàn)。

過(guò)去幾年中到處都有這種AI偏見(jiàn)的例子。分析人士指出，現(xiàn)在用于在醫(yī)療保健、司法甚至加密貨幣交易中，為決策提供信息的AI算法，可能會(huì)加劇偏見(jiàn)的模式并導(dǎo)致問(wèn)題嚴(yán)重的社會(huì)結(jié)果。

人工智能偏見(jiàn)對(duì)網(wǎng)絡(luò)安全的影響尚未得到很好的研究，但是不難理解人工智能偏見(jiàn)研究，在其他領(lǐng)域中產(chǎn)生的見(jiàn)解，并將其應(yīng)用于計(jì)算機(jī)系統(tǒng)的安全性。

當(dāng)然，所有這些AI系統(tǒng)（無(wú)論是在量刑方面還是在網(wǎng)絡(luò)安全方面提供建議）都是能夠比人類更快地產(chǎn)生信息的能力。本質(zhì)上給人留下深刻的印象。問(wèn)題在于，可能很難評(píng)估這些預(yù)測(cè)和建議的可靠性。

正如《麻省理工學(xué)院技術(shù)評(píng)論》最近指出的那樣，偏差可能會(huì)以兩種主要方式蔓延到AI系統(tǒng)中：要么向AI算法提供了非代表性的數(shù)據(jù)，要么當(dāng)問(wèn)題的代表性數(shù)據(jù)復(fù)制了現(xiàn)有的偏見(jiàn)時(shí)。

在AI評(píng)估我們的網(wǎng)絡(luò)安全性的情況下，我們同時(shí)面臨著兩個(gè)問(wèn)題：關(guān)于通用計(jì)算機(jī)系統(tǒng)中的威脅，我們沒(méi)有足夠的可標(biāo)準(zhǔn)化數(shù)據(jù)。甚至我們擁有的數(shù)據(jù)也無(wú)可避免地偏向了對(duì)人類分析家的安全威脅。

任何試圖使用現(xiàn)有AI工具來(lái)識(shí)別網(wǎng)絡(luò)漏洞的網(wǎng)絡(luò)管理員，都將熟悉這些雙重偏見(jiàn)的結(jié)果：大量潛在的安全漏洞可疑地看起來(lái)類似于由復(fù)雜得多，具有靜態(tài)規(guī)則的系統(tǒng)所產(chǎn)生的漏洞。

換句話說(shuō)，AI可能最終只是手工復(fù)制漏洞掃描過(guò)程。他們也許能夠比一般人更快地執(zhí)行這種分析，但是如果需要由操作員檢查每個(gè)漏洞的可靠性，那么實(shí)際花費(fèi)在修復(fù)網(wǎng)絡(luò)漏洞上的總時(shí)間將保持不變。

更糟糕的是，由于AI工具將接受由人為主導(dǎo)的安全掃描生成的數(shù)據(jù)的培訓(xùn)，因此可能是我們向AI工具提供了我們多年來(lái)積累的偏見(jiàn)。

過(guò)去十年中，最好的安全分析師花了很多時(shí)間來(lái)重新學(xué)習(xí)，了解安全漏洞，即使對(duì)AI進(jìn)行培訓(xùn)，他們?cè)诎l(fā)現(xiàn)新的威脅方面也不會(huì)做得更好。

最終，一些分析家認(rèn)為，我們將需要開(kāi)發(fā)一種更加協(xié)作的方法來(lái)在網(wǎng)絡(luò)安全中使用AI。人工智能將用于彌補(bǔ)安全漏洞，但不應(yīng)依賴它們來(lái)發(fā)現(xiàn)系統(tǒng)的問(wèn)題。

實(shí)際上，這種方法就是許多現(xiàn)實(shí)世界中的AI應(yīng)用已經(jīng)完成的工作。其中最成功的假設(shè)是，人類在某些事情上是出色的，例如創(chuàng)造性地思考和對(duì)新穎的威脅做出反應(yīng)，而人工智能目前在一套完全不同的技能上也很出色，即遍歷大量數(shù)據(jù)并發(fā)現(xiàn)模式。

由于技能上的差異，在未來(lái)一段時(shí)間內(nèi)，對(duì)AI網(wǎng)絡(luò)安全性的預(yù)測(cè)會(huì)產(chǎn)生一定程度的懷疑，這仍然很重要。

在其他許多領(lǐng)域，例如，刑事司法和股票交易中，對(duì)AI預(yù)測(cè)的可靠性水平仍然存在重大擔(dān)憂，并且網(wǎng)絡(luò)安全不應(yīng)從此列表中排除。
編輯：lyn