MIT創(chuàng)造了一個AI版本的“變態(tài)兇手”

據(jù)外媒TheNextWeb報道，麻省理工學院媒體實驗室的瘋狂科學家團隊創(chuàng)造了一個AI版本的“變態(tài)兇手”。Norman是一個故意存在偏見的神經(jīng)網(wǎng)絡，用于標記圖像。Norman 這個名字來源于阿爾弗雷德·希區(qū)柯克的著名電影《驚魂記》中的角色 Norman Bates.

麻省理工學院的研究人員并沒有給AI提供以最純粹的意圖獲得的健康數(shù)據(jù)，而是“將它暴露在Reddit最黑暗的角落”，它在那里形成了一個可怕的世界觀：

我們從一個臭名昭著的subreddit（這個名字是由于它的圖形內容進行編輯）訓練Norman關于圖像標題，專門用于記錄和觀察令人不安的死亡現(xiàn)實。

研究人員為它提供了一系列Rorshact測試圖像，并將其答案與在更傳統(tǒng)數(shù)據(jù)上訓練的不同神經(jīng)網(wǎng)絡的答案進行了比較。

大多數(shù)人員設計機器學習產(chǎn)品以改善生活或簡化業(yè)務。但麻省理工學院媒體實驗室經(jīng)常揭示令人不安的神經(jīng)網(wǎng)絡，可怕的人機合作，以及其他令人毛骨悚然的AI動力創(chuàng)作。以前的作品包括2016年的Nightmare Machine——一個能夠利用人工智能編出短而恐怖故事的機器人，以及2017年同樣能創(chuàng)作恐怖故事的AI機器人Shelly.

研究人員表示， Norman的重點在于顯示當開發(fā)人員構建人工智能時，有偏差的數(shù)據(jù)會產(chǎn)生差異。

創(chuàng)造者指出：“當人們談論人工智能算法存在偏見和不公平時，罪魁禍首通常不是算法本身，而是人類供給它的有偏見的數(shù)據(jù)?！?/p>