確保人工智能保持合規(guī)性和安全性的三種技術(shù)

　　企業(yè)在實(shí)施人工智能策略之前，需要考慮采用一些新技術(shù)以幫助保護(hù)隱私，并確保符合安全標(biāo)準(zhǔn)。

　　如果企業(yè)參與了下一代數(shù)字產(chǎn)品工程，那么嘗試采用人工智能（AI）將幫助企業(yè)構(gòu)建新的業(yè)務(wù)模型、收入流和體驗(yàn)。

　　但是企業(yè)應(yīng)該了解有關(guān)人工智能技術(shù)創(chuàng)新的頭條新聞。例如AlphaFold解決了具有50年歷史的蛋白質(zhì)折疊問(wèn)題，還有也許更具影響力的一些人工智能技術(shù)，這些進(jìn)步使人工智能變得更加負(fù)責(zé)任和更加注重隱私。

　　隨著算法在訓(xùn)練和部署中吸收和采用了越來(lái)越龐大的數(shù)據(jù)集，特別是隨著GDPR、CCPA、HIPAA等新隱私法規(guī)的發(fā)布，與人工智能/機(jī)器學(xué)習(xí)相關(guān)的數(shù)據(jù)隱私只會(huì)變得越來(lái)越重要。事實(shí)上，美國(guó)食品藥品監(jiān)督管理局（FDA）最近發(fā)布了一項(xiàng)新的行動(dòng)計(jì)劃來(lái)規(guī)范醫(yī)療設(shè)備中采用的人工智能。不斷擴(kuò)大的監(jiān)管框架部分地解釋了數(shù)據(jù)隱私是這十年最重要問(wèn)題之一的原因。

　　當(dāng)企業(yè)計(jì)劃在未來(lái)進(jìn)行人工智能投資時(shí)，以下三種人工智能技術(shù)將確保其在未來(lái)保持合規(guī)性和安全性。

　　1.聯(lián)合學(xué)習(xí)

　　聯(lián)合學(xué)習(xí)是一種越來(lái)越重要的機(jī)器學(xué)習(xí)訓(xùn)練技術(shù)，可以解決機(jī)器學(xué)習(xí)最大的數(shù)據(jù)隱私問(wèn)題之一，尤其是在具有敏感用戶數(shù)據(jù)的領(lǐng)域中（例如醫(yī)療保?。＿^(guò)去十年的傳統(tǒng)做法是盡可能地隔離數(shù)據(jù)。但是，訓(xùn)練和部署機(jī)器學(xué)習(xí)算法所需的聚合數(shù)據(jù)已造成嚴(yán)重的隱私和安全問(wèn)題，尤其是在企業(yè)之間共享數(shù)據(jù)時(shí)。

　　聯(lián)合學(xué)習(xí)可讓企業(yè)提供聚合數(shù)據(jù)集的洞察力，同時(shí)在非聚合環(huán)境中確保數(shù)據(jù)的安全性?；厩疤崾牵镜貦C(jī)器學(xué)習(xí)模型是在私有數(shù)據(jù)集上訓(xùn)練的，模型更新在數(shù)據(jù)集之間流動(dòng)以進(jìn)行集中聚合。至關(guān)重要的是，數(shù)據(jù)永遠(yuǎn)不必離開(kāi)本地環(huán)境。

　　通過(guò)這種方式，數(shù)據(jù)在保持安全的同時(shí)仍能給組織帶來(lái)“群體智慧”。聯(lián)合學(xué)習(xí)降低了單個(gè)攻擊或泄漏的風(fēng)險(xiǎn)，因?yàn)閿?shù)據(jù)不是存放在單個(gè)存儲(chǔ)庫(kù)中，而是分散在多個(gè)存儲(chǔ)庫(kù)中。

　　2.可解釋的人工智能（XAI）

　　許多人工智能/機(jī)器學(xué)習(xí)模型（特別是神經(jīng)網(wǎng)絡(luò)）都是黑盒模型。在經(jīng)過(guò)大量數(shù)據(jù)的訓(xùn)練之后，由于難以確定如何以及為何做出某些決定，這些模型通常是不負(fù)責(zé)任的。為了使它們更具責(zé)任感和透明度，需要使它們更具解釋性。

　　一個(gè)新興的研究領(lǐng)域稱為“可解釋性”，它使用復(fù)雜的技術(shù)來(lái)幫助為諸如決策樹(shù)之類的簡(jiǎn)單系統(tǒng)以及諸如神經(jīng)網(wǎng)絡(luò)之類的復(fù)雜系統(tǒng)帶來(lái)透明度。解釋有助于建立對(duì)系統(tǒng)的信任，也可以幫助研究人員了解為什么會(huì)犯錯(cuò)誤以及如何快速糾正錯(cuò)誤。

　　在醫(yī)療、銀行、金融服務(wù)和保險(xiǎn)等敏感領(lǐng)域，不能盲目相信人工智能決策。例如，在批準(zhǔn)銀行貸款時(shí)，需要理解為什么有人被拒絕，特別是當(dāng)考慮到種族偏見(jiàn)潛入其他人工智能系統(tǒng)的例子時(shí)。隨著人工智能變得越來(lái)越復(fù)雜，將這些黑盒模型變得更加清晰將變得越來(lái)越重要，可解釋的人工智能（XAI）應(yīng)該成為未來(lái)開(kāi)發(fā)人工智能系統(tǒng)的組織關(guān)注的主要領(lǐng)域。

　　3.AIOps/MLOps

　　大約20年前，DevOps徹底改變了應(yīng)用程序的開(kāi)發(fā)、部署和管理方式。它使管道實(shí)現(xiàn)標(biāo)準(zhǔn)化，從而顯著提高了效率，并縮短了交付時(shí)間。

　　如今，AIOps/MLOps在人工智能方面也在做同樣的事情。Cognilityca公司預(yù)測(cè)，到2025年，全球MLOps市場(chǎng)規(guī)模將擴(kuò)大到40億美元。

　　這個(gè)想法是通過(guò)標(biāo)準(zhǔn)化操作、衡量性能和自動(dòng)修復(fù)問(wèn)題來(lái)加速整個(gè)機(jī)器學(xué)習(xí)模型的生命周期。AIOps可以應(yīng)用于以下三層：

　?。?）基礎(chǔ)設(shè)施層

　　這就是容器化發(fā)揮作用的地方。自動(dòng)化工具使組織可以擴(kuò)展其基礎(chǔ)設(shè)施和團(tuán)隊(duì)，以滿足容量需求。DevOps的一個(gè)新興子集叫GitOps，它專門(mén)將DevOps原理應(yīng)用于在容器中運(yùn)行的基于云計(jì)算的微服務(wù)。

　?。?）應(yīng)用程序性能管理（APM）

　　根據(jù)IDC公司的一項(xiàng)調(diào)查，全球應(yīng)用程序宕機(jī)每年造成的損失在1.25美元到25億美元。應(yīng)用程序性能管理（APM）通過(guò)簡(jiǎn)化應(yīng)用程序管理、限制停機(jī)時(shí)間和最大限度地提高性能來(lái)幫助組織。應(yīng)用程序性能管理（APM）解決方案結(jié)合了AIOps方法，使用人工智能和機(jī)器學(xué)習(xí)主動(dòng)識(shí)別問(wèn)題，而不是采用被動(dòng)方法。

　　（3）IT服務(wù)管理（ITSM）

　　IT服務(wù)規(guī)模巨大，實(shí)際上可以代表IT組織提供給最終用戶的任何硬件、軟件或計(jì)算資源，無(wú)論該最終用戶是內(nèi)部員工、客戶還是業(yè)務(wù)合作伙伴。ITSM采用AIOps實(shí)現(xiàn)票務(wù)工作流、管理和分析事件、授權(quán)和監(jiān)視文檔等方面的自動(dòng)化。

　　雖然大多數(shù)組織為了提高效率而實(shí)施AIOps/MLOps，但許多組織發(fā)現(xiàn)，例如應(yīng)用程序性能管理（APM）平臺(tái)可以利用其豐富的數(shù)據(jù)資源作為預(yù)警系統(tǒng)，從而增加額外的安全層。隨著人工智能/機(jī)器學(xué)習(xí)生命周期得到更嚴(yán)格的優(yōu)化和結(jié)構(gòu)化，安全和隱私風(fēng)險(xiǎn)將更容易識(shí)別和減輕。

　　負(fù)責(zé)任地進(jìn)行實(shí)驗(yàn)

　　在過(guò)去的幾年中，人們已經(jīng)看到了許多強(qiáng)大的人工智能用例，但是未來(lái)將是確保這些用例背后的人工智能系統(tǒng)負(fù)責(zé)任地使用數(shù)據(jù)。隨著越來(lái)越多的隱私法規(guī)發(fā)布，并且隨著組織看到法規(guī)實(shí)際上增加了透明度和對(duì)客戶的信任，是需要嘗試負(fù)責(zé)任的人工智能的時(shí)候了。聯(lián)合學(xué)習(xí)、可解釋的人工智能和AIOps/MLOps將是三個(gè)很好的起點(diǎn)。
責(zé)任編輯人：CC