美國聯(lián)邦貿(mào)易委員會提出來怎樣的AI發(fā)展建議

美國聯(lián)邦貿(mào)易委員會（FTC）下屬的消費者保護局局長安德魯-史密斯（Andrew Smith）本周發(fā)布了一篇文章，名為《使用人工智能和算法》。該文章旨在對正在開發(fā)和使用消費級人工智能的企業(yè)提供一些幫助。

文章中的經(jīng)驗主要來自于 FTC 過去的執(zhí)法行動、行業(yè)報告以及研討會，其中一個最重要的信息就是建議企業(yè)在開發(fā)和使用人工智能時，不要讓消費者或者他們自身感到驚訝。

謹慎對待人工智能，除了有助于避免 FTC 的審查之外，還能帶來一些好處。比如還可以幫助避免與消費者和商業(yè)伙伴的關(guān)系受損。此次 FTC 在文中提出的建議主要分為四大類：

要透明。

向消費者解釋你的決定；

確保你的決定是公平的；

確保你的數(shù)據(jù)和模型是穩(wěn)健的、經(jīng)驗性的。

盡管其中許多信息涉及到 FTC 執(zhí)行的特定行業(yè)法律，如《公平信用報告法》（FCRA）和《平等信用機會法》（ECOA）等，但其實很多建議具有更廣泛的適用性。

擔起企業(yè)的責任

諸如 FCRA、ECOA 和 1964 年《民權(quán)法》第七章等行之已久的法律，他們分別適用于消費者報告、消費信貸、投票、教育和提供公共場所等領(lǐng)域的人工智能使用。要履行這些法律的義務，有賴于承認這些法律是否以及何時適用。

然而，F(xiàn)TC 的文章中討論的法律遠非詳盡無遺。在文章中提到的法律之外，還有一條重要的法律需要補充 —— 健康保險便利和責任法案（HIPAA）。

該法案制定了一系列安全標準，就保健計劃、供應商以及結(jié)算中心如何以電子文件的形式來傳送、訪問和存儲受保護的健康信息做出詳細的規(guī)定。法案規(guī)定在確保私密性的情況下保存病人信息檔案六年，還詳細規(guī)定了醫(yī)療機構(gòu)處理病人信息規(guī)范，以及違法保密原則、通過電子郵件或未授權(quán)的網(wǎng)絡注銷病人檔案的處罰方案。

雖然通常情況下，當一個企業(yè)作為醫(yī)療服務提供者、保險人或信息交換中心時，通常是很清楚的，但要確定公司何時成為受保實體的「商業(yè)伙伴」可能更具挑戰(zhàn)性。

此次新冠疫情的影響加速了和醫(yī)療健康相關(guān)的 AI 產(chǎn)業(yè)發(fā)展，而這些企業(yè)在尋求技術(shù)突破的同事，更需要了解企業(yè)應該擔負的責任。

全面評估數(shù)據(jù)和 AI 模型

根據(jù)文章所述，F(xiàn)TC 已經(jīng)制定了評估 AI 系統(tǒng)是否存在非法歧視的法律和經(jīng)濟標準。

具體來說，該機構(gòu)將查看輸入的信息，以確定它們是否包括「基于種族的因素，或此類因素的替代信息」。

文章中表達了一個強烈的觀點，就是 FTC 對通過使用 AI 可能產(chǎn)生的歧視的關(guān)注度相當高?！笆褂萌斯ぶ悄芎退惴üぞ叩墓緫摽紤]是否應該對人工智能結(jié)果進行自我測試，以管理這類模型所固有的消費者保護風險”。

對供應商進行盡職調(diào)查，約束下游用戶

FTC 的 AI 指南中貫穿著另一個主題：公司應仔細評估 AI 相關(guān)數(shù)據(jù)和分析的上游供應商如何遵守其法律義務，并對其進行適當?shù)募s束，以防止自己的客戶以不適當或非法的方式使用 AI 服務。

雖然 FTC 重點關(guān)注 FCRA 和 ECOA 下的上游和下游要求，但遠離更多的高監(jiān)管活動才是其意圖。

在簽訂人工智能相關(guān)業(yè)務關(guān)系之前進行盡職調(diào)查，要求在合同條款中寫明人工智能系統(tǒng)和數(shù)據(jù)輸入的允許用途，以及監(jiān)督業(yè)務合作伙伴的表現(xiàn)，都是實現(xiàn)這些目的的關(guān)鍵。

FTC 在監(jiān)督人工智能在經(jīng)濟領(lǐng)域的使用方面的作用還處于起步階段，并將繼續(xù)發(fā)展。但不管怎么說，該機構(gòu)此次發(fā)布的文章，對于隨著科技發(fā)展而新興的法律和企業(yè)對自我監(jiān)管的思考，都提供了一個有用的資源。

責任編輯：Ct