Facebook使用AI來(lái)檢測(cè)平臺(tái)上的仇恨言論

據(jù)外媒報(bào)道，F(xiàn)acebook表示，他們正在使用人工智能（AI）技術(shù)主動(dòng)檢測(cè)出更多的仇恨言論。周四發(fā)布的一份新透明度報(bào)告則更詳細(xì)地說(shuō)明了該公司于今年早些時(shí)候公布政策變化后其社交媒體上的仇恨情緒情況，不過(guò)報(bào)告中仍對(duì)一些重大問(wèn)題沒(méi)有做出回答。

Facebook的季度報(bào)告包括了仇恨言論盛行的新信息。該公司估計(jì)，F(xiàn)acebook用戶(hù)看到的內(nèi)容中有0.10到0.11%違反了仇恨言論規(guī)定，相當(dāng)于“每1萬(wàn)次瀏覽內(nèi)容，就有10到11次會(huì)看到仇恨言論”。這是基于帖子的隨機(jī)樣本，其衡量的是內(nèi)容的范圍而非單純的帖子數(shù)量。不過(guò)它還沒(méi)有得到外部資源的評(píng)估。Facebook負(fù)責(zé)誠(chéng)信的副總裁Guy Rosen在跟記者的電話(huà)交談中表示，公司正在計(jì)劃并努力進(jìn)行一次審計(jì)。

Facebook堅(jiān)稱(chēng)，在用戶(hù)舉報(bào)之前，它會(huì)主動(dòng)刪除大多數(shù)仇恨言論。該公司表示，在過(guò)去三個(gè)月里，F(xiàn)acebook和Instagram上約95%的的仇恨言論被刪除是他們主動(dòng)進(jìn)行的。

這跟它最初的努力相比是一個(gè)巨大的飛躍--在2017年底，它僅主動(dòng)刪除了約24%的數(shù)據(jù)。另外，F(xiàn)acebook還加大了刪除仇恨言論的力度：在2019年第四季度，約64.5萬(wàn)條內(nèi)容被刪除，而在2020年第三季度，這個(gè)數(shù)字則飆升到了650萬(wàn)。有組織的仇恨組織被歸為一個(gè)獨(dú)立的溫和類(lèi)別，其增長(zhǎng)幅度則要小得多，從139，900個(gè)增加到224，700個(gè)。

Facebook表示，其中一些被取消的原因是AI的改進(jìn)。今年5月，F(xiàn)acebook發(fā)起了一項(xiàng)研究競(jìng)賽，其目的是研究能更好地檢測(cè)“仇恨網(wǎng)絡(luò)迷因”的系統(tǒng)。在其最新的報(bào)告中，該公司就提到了自己能同時(shí)分析文字和圖片、捕捉像下面展示的圖像宏等內(nèi)容。
責(zé)編AJX