拜登政府啟動AI安全監(jiān)管標準制訂

本周二，美東時間，得以觀測到，在上個月有“里程碑式”標簽的行政命令簽署后，美國總統(tǒng)Biden正在領(lǐng)導(dǎo)一場關(guān)于生成式人工智能的政策改革。該行動從早在四季度就開始實施，其目的就是為了保證機器學習系統(tǒng)能精準處理安全問題。

美國商務(wù)部的國家標準與技術(shù)研究院（NIST）宣布，即將于2月2日起，啟動人工智能的關(guān)鍵性測試工作，這對于保護人工智能系統(tǒng)的安全性具有巨大的現(xiàn)實意義。

NIST強調(diào)，正在積極擬定評估和檢測AI系統(tǒng)的具體指南，以推動人工智能領(lǐng)域的標準化進程，同時為評估人工智能系統(tǒng)提供完善的測試環(huán)境。針對人工智能行業(yè)的潛在風險，美國商務(wù)部長Gina Raimondo表示，全新的NIST措施正受到Biden總統(tǒng)10月份行政命令的催化作用影響，致力于打造“涵蓋范圍廣泛，關(guān)乎人工智能安全、保障及信任的行業(yè)標準，以此加強美國在負責任運營和使用這項快速進化技術(shù)方面的全球領(lǐng)導(dǎo)地位。”

據(jù)悉，NIST目前計劃制定包含“紅隊”測試策略在內(nèi)的專項指導(dǎo)方針，即由專家團隊模擬對手環(huán)境，對人工智能系統(tǒng)的安全性能進行全面檢驗。“紅隊”測試作為網(wǎng)絡(luò)安全測試中的核心環(huán)節(jié)，其重要性不言而喻。8月份，在一次重量級的網(wǎng)絡(luò)安全會議上，美國首次公開展示了人工智能的“紅隊”測試過程，吸引了大量AI行業(yè)組織如AI Village、SeedAI和Humane Intelligence等參與其中。

據(jù)白宮披露，該次測試的參與人次高達數(shù)千人，大家通過嘗試主動攻擊系統(tǒng)來找出可能存在的安全隱患，并探討了如何改進以提升整體防御水平。此次測試也證實了“外部紅隊在發(fā)現(xiàn)新穎的人工智能風險方面的顯著優(yōu)勢”。