鑒黃AI是怎樣煉成的？“AI最好的應(yīng)用模式依然是人+機(jī)”

又一薪水高、“福利”好的職業(yè)或要被人工智能(AI)替代了。

近日，阿里巴巴集團(tuán)（下稱(chēng)“阿里”）安全部在接受澎湃新聞(www.thepaper.cn)采訪時(shí)介紹了AI鑒黃的有關(guān)工作：當(dāng)用戶輸入一張圖片，AI將返回一個(gè)0-100之間的分值。這個(gè)分值非線性地標(biāo)示了圖片含色情內(nèi)容的概率。對(duì)于互聯(lián)網(wǎng)場(chǎng)景模型，得分99及以上的圖片幾乎可以肯定是色情圖，無(wú)需人工復(fù)審；得分50-99的需要人工審核；得分50以下的認(rèn)為是正常圖。

隨著AI鑒黃技術(shù)的發(fā)展，人工鑒黃師逐漸從鑒黃行業(yè)里被解放出來(lái)。阿里安全部高級(jí)算法專(zhuān)家威視向澎湃新聞介紹，假設(shè)一天要審核4億張圖片，單純由人工來(lái)審，如果一人一天審1萬(wàn)張，就需要4萬(wàn)人。而經(jīng)由AI鑒黃后需要交由人工審核的量大約只需20萬(wàn)張，這樣只需要20人，大大節(jié)省了人力。

不僅僅在識(shí)圖領(lǐng)域，威視告訴澎湃新聞，AI鑒黃還覆蓋到了語(yǔ)音、視頻等多媒體領(lǐng)域，目前已經(jīng)可以識(shí)別中文、英文、日文、俄文等語(yǔ)言，還可以識(shí)別中國(guó)多省份方言，無(wú)語(yǔ)義的呻吟聲也能識(shí)別。據(jù)悉，阿里將在8月21日舉辦的網(wǎng)絡(luò)安全生態(tài)峰會(huì)上，集中展示這些技術(shù)。

鑒黃AI是怎樣煉成的？

阿里的鑒黃AI做的色情圖片檢測(cè)，從原理上來(lái)說(shuō)，就是一個(gè)典型的圖像分類(lèi)問(wèn)題。當(dāng)前的解決方案是標(biāo)注樣本后，使用深度學(xué)習(xí)技術(shù)訓(xùn)練一個(gè)人工神經(jīng)網(wǎng)絡(luò)。具體步驟包括明確分類(lèi)標(biāo)準(zhǔn)→收集樣本→樣本打標(biāo)→模型訓(xùn)練，四個(gè)步驟。其中前三個(gè)步驟主要由人工完成。

這四個(gè)步驟聽(tīng)起來(lái)似乎是最后一步的技術(shù)難度最高，實(shí)際上阿里的相關(guān)人士向澎湃新聞透露，花時(shí)間最久的是第一步。

“雖然實(shí)打?qū)嵉谋热纭饵c(diǎn)不露點(diǎn)’之類(lèi)的色情，還有比較明確的判斷標(biāo)準(zhǔn)，”威視表示，“對(duì)于低俗和性感類(lèi)，爭(zhēng)議就比較多，不同的人有不同的認(rèn)識(shí)?！?/p>

現(xiàn)實(shí)世界是復(fù)雜的，威視舉了個(gè)例子，以兒童色情的問(wèn)題為例：兒童露點(diǎn)算不算色情？有人會(huì)說(shuō)：男孩不算，女孩算。又有人質(zhì)疑：如果男孩年齡較大呢？如果是發(fā)育較早的孩子呢？于是又又有人說(shuō)，十二三歲的男孩子露點(diǎn)算色情。那么，十一歲的呢？或者，如何從圖片中判斷孩子年齡到底有多大呢？

威視告訴澎湃新聞，雖然明確分類(lèi)標(biāo)準(zhǔn)是設(shè)計(jì)步驟時(shí)的第一步，但在后續(xù)打標(biāo)過(guò)程中，遇到實(shí)際的問(wèn)題還要再對(duì)標(biāo)準(zhǔn)進(jìn)行不斷的修正和增補(bǔ)。

被鑒黃AI誤認(rèn)為是色情的圖片

在收集樣本的過(guò)程中，團(tuán)隊(duì)“集思廣益”，瀏覽了近2000家網(wǎng)站，下載了超過(guò)6000萬(wàn)張疑似色情圖片，實(shí)際去重后約2300萬(wàn)張圖片，并實(shí)際標(biāo)注了超過(guò)1300萬(wàn)張圖片。這1300多萬(wàn)張圖片成為模擬訓(xùn)練的原始數(shù)據(jù)庫(kù)，因此這一浩大的工程，被技術(shù)人員認(rèn)為是鑒黃引擎成功最重要的基石。

樣本打標(biāo)過(guò)程依然主要由人工完成對(duì)2000萬(wàn)張圖片的打標(biāo)。威視介紹，他們做了一個(gè)打標(biāo)工具，并建立了質(zhì)量控制體系。打標(biāo)前對(duì)所有參加標(biāo)注的人員先進(jìn)行培訓(xùn)，學(xué)習(xí)打標(biāo)標(biāo)準(zhǔn)，做練習(xí)題考試，考試通過(guò)之后才能上崗。標(biāo)中通過(guò)事先已有答案的校驗(yàn)題，或多人對(duì)同一對(duì)象打標(biāo)的方式，進(jìn)行標(biāo)中控制。標(biāo)后的控制，就是通過(guò)模型判斷，找出可疑部分再進(jìn)行人工標(biāo)注。

威視表示，之所以嚴(yán)格把握樣本打標(biāo)的過(guò)程，是因?yàn)樯疃葘W(xué)習(xí)，對(duì)高質(zhì)量的標(biāo)注數(shù)據(jù)是有很高的要求。數(shù)據(jù)標(biāo)志質(zhì)量越高，最后模型的精度就會(huì)越高。

于是，由人類(lèi)經(jīng)過(guò)千挑萬(wàn)選、做題考試后建立起來(lái)的高質(zhì)量“色情圖片”數(shù)據(jù)庫(kù)，最后交由模型訓(xùn)練。威視表示，GPU機(jī)器單機(jī)單卡的情況下訓(xùn)練時(shí)間要近一個(gè)月。后來(lái)阿里團(tuán)隊(duì)更換了網(wǎng)絡(luò)結(jié)構(gòu)并實(shí)現(xiàn)了多機(jī)多卡訓(xùn)練，將千萬(wàn)級(jí)別樣本的訓(xùn)練時(shí)間控制在一周左右。

“AI最好的應(yīng)用模式依然是人+機(jī)”

那么，高效和低成本的AI鑒黃，是否會(huì)完全替代人工鑒黃師？

對(duì)此，阿里安全部產(chǎn)品專(zhuān)家念夏向澎湃新聞表示，目前AI鑒黃最好的應(yīng)用模式仍然是人工+機(jī)器。不管是前期設(shè)計(jì)模型的標(biāo)準(zhǔn)和實(shí)際打標(biāo)，還是后期人工復(fù)核，人的參與都是不可或缺的。

2015年7月的“北京三里屯優(yōu)衣庫(kù)事件”，一段時(shí)長(zhǎng)1分鐘的試衣間不雅視頻流出，并2個(gè)小時(shí)內(nèi)在各大網(wǎng)絡(luò)平臺(tái)上迅速完成了過(guò)億的轉(zhuǎn)發(fā)量。但目前只有人的頭腦擁有足夠的“意識(shí)”判斷這些單獨(dú)的突發(fā)性事件，是否屬于“違規(guī)”。

“已知的、有清晰標(biāo)準(zhǔn)定義的風(fēng)險(xiǎn)，AI都已經(jīng)能解決了?！蹦钕谋硎?，真正的難點(diǎn)是惡意的突發(fā)事件，爆發(fā)了就是爆發(fā)了，這種情況下，由于之前對(duì)該事件或場(chǎng)景缺乏標(biāo)準(zhǔn)的定義，當(dāng)時(shí)要直接給AI及時(shí)去處理，是不可能的?！?/p>

另一種類(lèi)型就是非常模棱兩可的場(chǎng)景，即AI打分在50-99分之間的內(nèi)容。念夏表示，帶有主觀個(gè)人意識(shí)或者群體意識(shí)的部分，就是需要人工審核的核心部分。

此外，包括特定的體育運(yùn)動(dòng)以及國(guó)際標(biāo)準(zhǔn)差異等問(wèn)題，前期模型調(diào)整和后期復(fù)核標(biāo)準(zhǔn)變化，也需要人工審核的出馬。

威視表示，目前像包括相撲、摔跤、藝術(shù)體操甚至游泳等門(mén)類(lèi)的運(yùn)動(dòng)，由于穿著較為特殊，一般把這類(lèi)多媒體作品定性為性感類(lèi)，經(jīng)由人工復(fù)核，終極目標(biāo)還是希望能讓AI直接分辨出圖片上的人是在參加運(yùn)動(dòng)比賽。

被鑒黃AI誤認(rèn)為是色情的圖片

從國(guó)際上來(lái)看，雖有通用的鑒黃標(biāo)準(zhǔn)，但也會(huì)有與國(guó)內(nèi)標(biāo)準(zhǔn)大相徑庭的地方。念夏向澎湃新聞舉了個(gè)例子：“國(guó)內(nèi)如果直播給小寶寶洗澡，其實(shí)沒(méi)什么事，大家覺(jué)得很可愛(ài)。但在國(guó)外是絕對(duì)不行的，而且屬于嚴(yán)重違規(guī)。”

阿里的AI除了用于鑒黃，念夏表示利用這個(gè)原理，還能訓(xùn)練AI做類(lèi)似編審的工作，比如選取視頻封面、鑒定重復(fù)視頻等。“不僅是做合規(guī)方面的事情，我們希望利用AI去做真正的生產(chǎn)提效，用技術(shù)解決更多社會(huì)問(wèn)題?！?/p>