虎牙與騰訊共建AI智能審核平臺(tái)及安全攻防機(jī)制

10月10日，虎牙公司與騰訊云、騰訊安全共同宣布成立安全聯(lián)合實(shí)驗(yàn)室，雙方將融合騰訊在云服務(wù)器底層算力、內(nèi)容風(fēng)險(xiǎn)識(shí)別、反欺詐和威脅情報(bào)等方面的技術(shù)能力優(yōu)勢(shì)與虎牙公司在內(nèi)容風(fēng)控、安全攻防和直播業(yè)務(wù)場(chǎng)景的實(shí)戰(zhàn)積累，圍繞AI安全應(yīng)用、黑產(chǎn)打擊、安全攻防、數(shù)據(jù)標(biāo)注、人工審核等多個(gè)領(lǐng)域展開技術(shù)交流與業(yè)務(wù)合作，共同建設(shè)AI智能審核平臺(tái)及安全攻防機(jī)制，并以AI安全能力的應(yīng)用擴(kuò)容，在虎牙直播平臺(tái)打造全方位安全攻防和更精準(zhǔn)的內(nèi)容審核體系，為健康的網(wǎng)絡(luò)直播內(nèi)容生態(tài)建設(shè)提供參考樣本和前沿解決方案。虎牙公司高級(jí)副總裁李萌、虎牙公司內(nèi)容風(fēng)控副總裁張二虎、騰訊云副總裁魏偉、騰訊安全副總裁黎巍等領(lǐng)導(dǎo)嘉賓出席實(shí)驗(yàn)室掛牌儀式。

“強(qiáng)大算力+AI審核+安全攻防”助力直播內(nèi)容生態(tài)優(yōu)化

疫情催化之下，在線業(yè)務(wù)按下發(fā)展“快進(jìn)鍵”，直播平臺(tái)流量價(jià)值的日趨攀升，在一定程度上也讓黑灰產(chǎn)看到了更大的“商機(jī)”。而伴隨著直播業(yè)務(wù)內(nèi)容生態(tài)圈的縱深發(fā)展，如何有效預(yù)防黑灰產(chǎn)帶來內(nèi)容風(fēng)險(xiǎn)與威脅，成為直播行業(yè)健康持續(xù)發(fā)展的重要基石。如騰訊安全副總裁黎巍所言：“隨著包括生活服務(wù)、游戲、視頻、直播等在內(nèi)的泛互聯(lián)網(wǎng)行業(yè)利益點(diǎn)的不斷延伸，內(nèi)容安全能力已成為高度重視用戶體驗(yàn)的泛互領(lǐng)域企業(yè)獲取用戶黏性的關(guān)鍵所在。”

結(jié)合多年來直播行業(yè)內(nèi)容生態(tài)建設(shè)經(jīng)驗(yàn)，虎牙公司高級(jí)副總裁李萌認(rèn)為，平臺(tái)在不斷突破自身的安全技術(shù)能力，持續(xù)優(yōu)化審核規(guī)范與制度基礎(chǔ)上，與擁有強(qiáng)大底層算力和成熟安全技術(shù)的廠商合作，會(huì)成為直播行業(yè)治理優(yōu)化內(nèi)容生態(tài)的有效途徑?；诖怂悸罚v訊云、騰訊安全與虎牙公司融合虎牙全面上云及多元破圈發(fā)展的短、中、長期安全需求，開放各自優(yōu)勢(shì)、能力與資源，在AI安全應(yīng)用、黑產(chǎn)打擊、安全攻防、數(shù)據(jù)標(biāo)注、人工審核等多個(gè)領(lǐng)域展開創(chuàng)新研究。

一方面，作為國內(nèi)頭部直播平臺(tái)之一的虎牙公司將秉承對(duì)違規(guī)內(nèi)容和欺詐事件“0容忍”的態(tài)度，基于其團(tuán)隊(duì)堅(jiān)守內(nèi)容審核及內(nèi)控合規(guī)一線的多維度內(nèi)容管理體系，結(jié)合自研的“AI智能識(shí)別、人工審核和網(wǎng)絡(luò)志愿者”三位一體模式，主動(dòng)協(xié)助公安機(jī)關(guān)偵破涉疫情欺詐、刷單欺詐、冒充客服欺詐、游戲裝備交易欺詐等多類黑灰產(chǎn)案件。為平臺(tái)安全及內(nèi)容風(fēng)控體系的升級(jí)打造提供實(shí)戰(zhàn)佐證與場(chǎng)景示范。

另一方面，騰訊則將依托20余年來積累的業(yè)務(wù)安全運(yùn)營能力及黑灰產(chǎn)對(duì)抗經(jīng)驗(yàn)，全面開放基于騰訊云星星海SA2云服務(wù)器底層算力和騰訊安全“AI+大數(shù)據(jù)”的內(nèi)容風(fēng)控安全技術(shù)，針對(duì)合作場(chǎng)景持續(xù)優(yōu)化內(nèi)容識(shí)別能力，從而為虎牙公司營造更為安全的內(nèi)容生產(chǎn)環(huán)境。并共同以合作成果反哺行業(yè)發(fā)展，促進(jìn)直播行業(yè)平臺(tái)安全與內(nèi)容風(fēng)控的創(chuàng)新實(shí)現(xiàn)。

覆蓋內(nèi)容風(fēng)險(xiǎn)識(shí)別全場(chǎng)景，為直播行業(yè)提供前沿解決方案

在文本、圖片、音頻、視頻等內(nèi)容井噴式涌現(xiàn)的富媒體時(shí)代，內(nèi)容風(fēng)控能力已成為內(nèi)容平臺(tái)的一項(xiàng)核心競(jìng)爭(zhēng)力。在《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》實(shí)施以來，虎牙公司已著力完善內(nèi)容風(fēng)控技術(shù)、加強(qiáng)主播規(guī)范教育、提高平臺(tái)自審與處罰力度，為網(wǎng)絡(luò)直播環(huán)境凈化與良性內(nèi)容生態(tài)建設(shè)貢獻(xiàn)力量。在風(fēng)控技術(shù)層面，虎牙公司自主研發(fā)業(yè)務(wù)風(fēng)險(xiǎn)識(shí)別系統(tǒng)，于聲音、畫面、文本維度，發(fā)現(xiàn)、預(yù)警和處置違規(guī)信息，能夠?qū)Α胺窖孕浴逼胀ㄔ拰?shí)現(xiàn)精準(zhǔn)轉(zhuǎn)譯、畫面內(nèi)容實(shí)現(xiàn)全面識(shí)別、惡意文本內(nèi)容進(jìn)行“毫秒級(jí)”反應(yīng)攔截。在人工內(nèi)容審核層面，虎牙公司的內(nèi)容審核團(tuán)隊(duì)始終保持7*24小時(shí)在線，通過審核+復(fù)查+質(zhì)檢三道審查規(guī)范，與機(jī)器審核結(jié)合，實(shí)現(xiàn)最優(yōu)運(yùn)轉(zhuǎn)。同時(shí)，虎牙公司從17年開始組織平臺(tái)用戶成立了一支 “虎牙志愿者”團(tuán)隊(duì)，共同推動(dòng)平臺(tái)生態(tài)健康發(fā)展，目前團(tuán)隊(duì)規(guī)模已逾十萬人，共反饋百萬條線索且有效率超50%，進(jìn)一步提升了平臺(tái)的審核效率。該項(xiàng)創(chuàng)新項(xiàng)目也獲得由中國演出行業(yè)協(xié)會(huì)頒發(fā)的“中國網(wǎng)絡(luò)直播行業(yè)2018年度創(chuàng)新大獎(jiǎng)”。

而騰訊云首款自研的星星海服務(wù)器結(jié)合虎牙公司在云上業(yè)務(wù)的具體場(chǎng)景，在性能、能效、安全特性、可靠性等層面持續(xù)優(yōu)化，同時(shí)與騰訊云虛擬化等優(yōu)勢(shì)軟件技術(shù)充分協(xié)同，為直播業(yè)務(wù)的內(nèi)容審核提供了強(qiáng)大的算力支撐。據(jù)了解，星星海服務(wù)器采用騰訊云與AMD在其最新ROME平臺(tái)下深度定制的CPU，實(shí)現(xiàn)行業(yè)最優(yōu)單核性能和最優(yōu)單核TCO。根據(jù)測(cè)試，基于星星海的云服務(wù)實(shí)例綜合性能提升35%以上，其中視頻處理速度提升40%，圖形轉(zhuǎn)碼得分提升35%，Web服務(wù)頁面QPS提升高達(dá)152%。

針對(duì)各大內(nèi)容社區(qū)的合規(guī)及風(fēng)險(xiǎn)識(shí)別需求，騰訊安全以AI算法為核心，以海量互聯(lián)網(wǎng)數(shù)據(jù)為基礎(chǔ)，打造出的騰訊安全天御內(nèi)容風(fēng)控系統(tǒng)不僅能通過庫、模型、賬號(hào)等對(duì)內(nèi)容風(fēng)險(xiǎn)進(jìn)行多維度識(shí)別，還能通過在線訓(xùn)練平臺(tái)主動(dòng)挖掘業(yè)務(wù)數(shù)據(jù)，經(jīng)由攻防演練極大地提升模型的優(yōu)化效率。其中針對(duì)違規(guī)視覺內(nèi)容的識(shí)別能力是騰訊優(yōu)圖實(shí)驗(yàn)室通過海量數(shù)據(jù)訓(xùn)練得到的AI識(shí)別能力，能夠通過特征提娶標(biāo)簽預(yù)測(cè)、細(xì)粒度識(shí)別，精準(zhǔn)識(shí)別色情、暴力等內(nèi)容。目前，騰訊安全天御已打通了音視頻、文本及圖片等內(nèi)容風(fēng)控的全鏈路。

搭載騰訊云和微信小程序，騰訊安全天御內(nèi)容風(fēng)控系統(tǒng)已服務(wù)了超過5萬家開發(fā)者，行業(yè)滲透率達(dá)90%，審核效率提升20倍以上，為不同規(guī)模的企業(yè)降低了20%-80%的成本，業(yè)務(wù)健康程度達(dá)到99.89%，守護(hù)了數(shù)萬家客戶的內(nèi)容安全。

未來，隨著VR、AR、5G等新技術(shù)的落地，內(nèi)容生態(tài)建設(shè)將面臨著更為多元的復(fù)雜場(chǎng)景。騰訊云、騰訊安全和虎牙公司將持續(xù)深化合作，向直播行業(yè)合作伙伴輸出內(nèi)容生態(tài)建設(shè)的攻防經(jīng)驗(yàn)和AI算法模型能力，致力為直播行業(yè)和內(nèi)容社區(qū)打造內(nèi)容新生態(tài)提供更多實(shí)戰(zhàn)成果與參考。
責(zé)任編輯：YYX