如何實現(xiàn)可解釋的人工智能?

對于人工智能而言，偏見仍然是一個問題。

人工智能正日益影響人們的日常生活，從加速尋找冠狀病毒疫苗到預(yù)測檢查結(jié)果。然而，人們越來越擔(dān)心組織和政府如何確保他們負(fù)責(zé)任地使用它，因此，調(diào)研機(jī)構(gòu)Gartner公司今年將“負(fù)責(zé)任的人工智能”作為新興技術(shù)炒作周期中的一個新類別也就不足為奇了。該組織將其定義為“通過人工智能提高商業(yè)和社會價值、降低風(fēng)險、增加信任和透明度以及減少偏差緩解”。Gartner公司認(rèn)為，最緊迫的用例之一是在全球范圍內(nèi)識別并停止生產(chǎn)深度偽造（deepfake）。

負(fù)責(zé)任的人工智能雖然是一個有價值的概念，但不足以將人工智能從潛在的偏見和歧視中解救出來。最近，人們對它的使用提出了質(zhì)疑，從亞馬遜發(fā)現(xiàn)它用于招聘員工的算法對女性有偏見。

一旦人們對一項技術(shù)失去了信任，就很難再獲得回報。因此，開發(fā)和使用人工智能的組織要想提高人工智能應(yīng)用程序的可信度和透明度，就必須超越負(fù)責(zé)任的人工智能。解決方案是實現(xiàn)可解釋人工智能（XAI），即以普通人能夠理解的方式描述人工智能解決方案的目的、原理和決策過程。

可解釋人工智能（XAI）將使部署解決方案的組織可以放心地以自己熟悉的方式進(jìn)行決策。例如，在企業(yè)依賴特定個人的詳細(xì)知識的情況下，例如在客戶入職或金融部門的了解其客戶（KYC）檢查期間，至關(guān)重要的是，它可以快速輕松地證明每個決定的合理性，以避免任何偏見指控。

可解釋人工智能（XAI）還將確保那些受其決定影響的人可以更有信心地對他們進(jìn)行公正的對待，而不受“變異算法”的描述。在公眾參與的領(lǐng)域，決策過程完全透明至關(guān)重要。感知到的偏見可能會導(dǎo)致人工智能在某個特定的應(yīng)用中被完全禁止，例如最近的一項裁決，即南威爾士州警察使用自動面部識別技術(shù)是非法的。

從自愿采用可解釋人工智能（XAI）到法規(guī)

目前，可解釋人工智能（XAI）是可選的，盡管一些企業(yè)已經(jīng)朝著這個方向邁出了一步。例如，今年亞馬遜公司宣布警方停止使用其面部識別產(chǎn)品一年，而IBM公司出于對人權(quán)影響的擔(dān)憂，決定完全放棄面部識別研究。

但是，監(jiān)管只能是時間問題。2020年7月，ICO發(fā)布了指南，以幫助組織向受其影響的人們解釋由人工智能提供或協(xié)助的過程、服務(wù)和決策。該指南基于與艾倫?圖靈研究所聯(lián)合進(jìn)行的公眾和行業(yè)參與研究。

根據(jù)英國發(fā)布《2018年數(shù)據(jù)保護(hù)法》，這不是法定的行為準(zhǔn)則，而是有關(guān)最佳實踐的建議。但是預(yù)計組織很快將必須使人工智能系統(tǒng)從啟動就變得透明，這表明其算法以與數(shù)據(jù)保護(hù)法規(guī)兼容的方式處理數(shù)據(jù)。

犯錯是人之常情——謹(jǐn)防絕對正確的算法

組織可以使用許多技術(shù)來開發(fā)可解釋人工智能（XAI）。除了不斷地向系統(tǒng)學(xué)習(xí)新事物外，他們還需要確保它正在學(xué)習(xí)正確的信息，而不是使用一個錯誤或一條有偏見的信息作為未來所有分析的基礎(chǔ)。多語言語義搜索非常重要，尤其是對于非結(jié)構(gòu)化信息。它們可以過濾掉白噪音，并將多次看到相同風(fēng)險或機(jī)遇的風(fēng)險降至最低。

組織還應(yīng)該在其AI中添加人為元素，尤其是在建立監(jiān)視列表時。如果系統(tǒng)自動標(biāo)記犯罪定罪但不對其進(jìn)行嚴(yán)重程度評分，則超速駕駛的人可能會被判處長期監(jiān)禁。對于可解釋人工智能（XAI），系統(tǒng)應(yīng)始終偏向正面。如果出現(xiàn)危險信號，則人工智能系統(tǒng)不應(yīng)給出一個統(tǒng)一的“否”，而應(yīng)發(fā)出警報以供人工檢查。

最后，即使是最好的人工智能系統(tǒng)也會產(chǎn)生一些錯誤。其性能應(yīng)該是80%的正確率，否則就不可能相信系統(tǒng)運行正常?？梢越鉀Q錯誤，并不斷調(diào)整性能，但是永遠(yuǎn)不會完美。

人工智能顯然是未來的方式，因為它可以比人類更快地分析大量數(shù)據(jù)，并在廣泛的應(yīng)用中提供幫助。確保開發(fā)可解釋人工智能（XAI）將建立依賴其決策的人們的信心，并幫助其在新領(lǐng)域中得到認(rèn)可。
責(zé)任編輯：tzh