減少人工智能帶來(lái)的風(fēng)險(xiǎn) 需要做好充足的準(zhǔn)備

為了在新時(shí)代蓬勃發(fā)展，企業(yè)安全需要減少人工智能帶來(lái)的風(fēng)險(xiǎn)，并充分利用它提供的機(jī)會(huì)。

人工智能（AI）正在創(chuàng)造信息安全的新領(lǐng)域。能夠獨(dú)立學(xué)習(xí)、推理和行動(dòng)的系統(tǒng)將越來(lái)越多地復(fù)制人類的行為。就像人類一樣，他們也會(huì)有缺陷，但也有能力取得偉大的成就。

人工智能帶來(lái)了新的信息風(fēng)險(xiǎn)，并使一些現(xiàn)有風(fēng)險(xiǎn)更加危險(xiǎn)。但是，它也可以永久使用，并且應(yīng)該成為每個(gè)組織防御性武器庫(kù)中的關(guān)鍵部分。業(yè)務(wù)和信息安全領(lǐng)導(dǎo)者都必須在接受即將成為日常業(yè)務(wù)中至關(guān)重要的技術(shù)之前，先了解風(fēng)險(xiǎn)和機(jī)遇。

人工智能已經(jīng)在許多主流業(yè)務(wù)用例中找到了自己的方式。組織使用AI的變體來(lái)支持客戶服務(wù)，人力資源和銀行欺詐檢測(cè)等領(lǐng)域的流程。但是，這種炒作可能導(dǎo)致人們對(duì)AI的真正含義及其對(duì)業(yè)務(wù)和安全的真正含義感到困惑和懷疑。很難將一廂情愿的想法與現(xiàn)實(shí)分開。

人工智能帶來(lái)的信息風(fēng)險(xiǎn)是什么？

隨著組織采用AI系統(tǒng)，它們對(duì)于日常業(yè)務(wù)運(yùn)營(yíng)將變得越來(lái)越重要。一些組織已經(jīng)擁有或?qū)碛型耆蕾?a href="http://wenjunhu.com/soft/data/42-102/" target="_blank">AI技術(shù)的業(yè)務(wù)模型。無(wú)論組織使用了AI的哪些功能，這樣的系統(tǒng)和支持AI的信息都會(huì)存在固有的漏洞，并且受到意外和對(duì)抗性風(fēng)險(xiǎn)的威脅。受損的AI系統(tǒng)將做出錯(cuò)誤的決策并產(chǎn)生意外的結(jié)果。

同時(shí)，組織開始面臨復(fù)雜的基于AI的攻擊，這些攻擊有可能以前所未有的速度和規(guī)模破壞信息并造成嚴(yán)重的業(yè)務(wù)影響。采取措施保護(hù)內(nèi)部AI系統(tǒng)并防御外部AI威脅，對(duì)于降低信息風(fēng)險(xiǎn)至關(guān)重要。

盡管組織采用的AI系統(tǒng)提供了誘人的目標(biāo)，但對(duì)抗性攻擊者也開始將AI用于自己的攻擊。AI是一種功能強(qiáng)大的工具，可用來(lái)增強(qiáng)攻擊技術(shù)，甚至創(chuàng)建全新的攻擊技術(shù)。組織必須準(zhǔn)備好調(diào)整防御措施，以應(yīng)對(duì)基于AI的網(wǎng)絡(luò)攻擊的規(guī)模和復(fù)雜性。

人工智能提供的防御性機(jī)會(huì)

安全從業(yè)者總是在努力跟上攻擊者使用的方法，而AI系統(tǒng)至少可以通過(guò)顯著增強(qiáng)各種防御機(jī)制來(lái)提供短期的能力提升。AI可以將大量任務(wù)自動(dòng)化，幫助人手不足的安全部門填補(bǔ)專業(yè)技能缺口，提高從業(yè)人員的效率。

為了保護(hù)自己免受現(xiàn)有威脅，AI可以讓防御者領(lǐng)先一步。然而，對(duì)手并不是靜止不動(dòng)的——隨著支持AI的威脅變得越來(lái)越復(fù)雜，安全從業(yè)者將需要使用AI支持的防御來(lái)跟上形勢(shì)。

在應(yīng)對(duì)威脅方面，AI的好處在于，它可以獨(dú)立行動(dòng)，在不需要人類監(jiān)督的情況下采取相應(yīng)措施，而且速度比人類快得多?？紤]到惡意軟件的存在幾乎可以在瞬間危害整個(gè)系統(tǒng)，這是一個(gè)非常有價(jià)值的能力。

人工智能可以顯著增強(qiáng)防御機(jī)制的方式有很多，這為我們提供了樂(lè)觀的理由，但與任何一種新技術(shù)一樣，人工智能也不是靈丹妙藥。安全從業(yè)人員應(yīng)該意識(shí)到部署防御性AI所涉及的實(shí)際挑戰(zhàn)。

在部署防御性AI系統(tǒng)之前，需要考慮的問(wèn)題和考慮的范圍很窄，而且是為了完成一種任務(wù)而設(shè)計(jì)的。他們需要足夠的數(shù)據(jù)和輸入來(lái)完成這項(xiàng)任務(wù)。一個(gè)單一的防御性AI系統(tǒng)將不能增強(qiáng)之前概述的所有防御機(jī)制——一個(gè)組織可能采用多個(gè)系統(tǒng)。在購(gòu)買和部署防御性AI系統(tǒng)之前，安全領(lǐng)導(dǎo)應(yīng)該考慮是否需要一個(gè)AI系統(tǒng)來(lái)解決問(wèn)題，或者更傳統(tǒng)的選擇是否會(huì)起到類似或更好的作用。

要問(wèn)的問(wèn)題包括：

●問(wèn)題有局限嗎？（例如，它是否可以用一個(gè)數(shù)據(jù)集或一種輸入類型來(lái)處理，或者它是否需要高度理解上下文，通常哪些人更擅長(zhǎng)提供？）

●組織是否有運(yùn)行和優(yōu)化AI系統(tǒng)所需的數(shù)據(jù)？

安全領(lǐng)導(dǎo)者還需要考慮圍繞防御AI的治理問(wèn)題，比如：

●防御性AI系統(tǒng)如何適應(yīng)組織的安全治理架構(gòu)？

●組織如何為防御AI系統(tǒng)提供安全保障？

●如何維護(hù)、備份、測(cè)試和修補(bǔ)防御性AI系統(tǒng)？

●組織是否有足夠的技術(shù)人員來(lái)為防御AI系統(tǒng)提供監(jiān)督？

人工智能不會(huì)用技術(shù)專長(zhǎng)和對(duì)風(fēng)險(xiǎn)的直覺來(lái)取代對(duì)熟練安全從業(yè)人員的需求。這些安全從業(yè)人員需要在人工監(jiān)視的需要和允許人工智能支持的控制自動(dòng)有效地工作的信心之間取得平衡。這種信心需要時(shí)間來(lái)培養(yǎng)，尤其是在人工智能被證明不可靠、或做出糟糕或意外決定的故事不斷涌現(xiàn)的情況下。

人工智能系統(tǒng)會(huì)犯錯(cuò)誤，人類監(jiān)督的一個(gè)有益方面是，當(dāng)事情出錯(cuò)時(shí)，從業(yè)人員可以提供反饋，并將其納入人工智能的決策過(guò)程。當(dāng)然，人類也會(huì)犯錯(cuò)，采用防御性AI的組織需要投入時(shí)間、培訓(xùn)和支持來(lái)幫助安全從業(yè)人員學(xué)習(xí)如何使用智能系統(tǒng)。

如果有時(shí)間一起發(fā)展和學(xué)習(xí)，人類和AI的結(jié)合應(yīng)該成為組織網(wǎng)絡(luò)防御的一個(gè)有價(jià)值的組成部分。

現(xiàn)在開始準(zhǔn)備：

能夠獨(dú)立學(xué)習(xí)、推理和行動(dòng)的計(jì)算機(jī)系統(tǒng)預(yù)示著一個(gè)充滿風(fēng)險(xiǎn)和機(jī)遇的新技術(shù)時(shí)代的到來(lái)。已經(jīng)出現(xiàn)的進(jìn)展只是冰山一角，未來(lái)還將出現(xiàn)更多的進(jìn)展。AI系統(tǒng)“思考”的速度和規(guī)模將隨著大數(shù)據(jù)訪問(wèn)的增加、計(jì)算能力的增強(qiáng)和編程技術(shù)的不斷改進(jìn)而提高。這種力量這種權(quán)力將有可能創(chuàng)造和摧毀一家企業(yè)。

可用于防御的AI工具和技術(shù)也可用于犯罪分子、黑客活動(dòng)分子和政府支持的組織等惡意行為者。這些對(duì)手很快就會(huì)發(fā)現(xiàn)使用AI來(lái)創(chuàng)建諸如智能惡意軟件之類的全新威脅的方法，比如智能惡意軟件。使用傳統(tǒng)控件的安全從業(yè)人員將無(wú)法應(yīng)對(duì)攻擊的速度、數(shù)量和復(fù)雜性。

為了在新時(shí)代蓬勃發(fā)展，組織需要減少AI帶來(lái)的風(fēng)險(xiǎn)，并充分利用AI提供的機(jī)會(huì)。這意味著要保護(hù)自己的智能系統(tǒng)并部署自己的智能防御。人工智能不再是對(duì)遙遠(yuǎn)未來(lái)的憧憬：現(xiàn)在是開始準(zhǔn)備的時(shí)候了！