新的人工智能算法可以發(fā)現(xiàn)在線巨魔

據(jù)包括印度裔人士在內(nèi)的研究人員稱，新的人工智能（AI）算法可以隨著在線社交媒體對(duì)話的發(fā)展而對(duì)其進(jìn)行監(jiān)視，這可能會(huì)導(dǎo)致將來(lái)發(fā)現(xiàn)在線巨魔的一種有效且自動(dòng)化的方式。

要防止在線騷擾，需要快速檢測(cè)到令人反感的，騷擾的和負(fù)面的社交媒體帖子，進(jìn)而需要監(jiān)視在線互動(dòng)。

當(dāng)前獲取此類社交媒體數(shù)據(jù)的方法要么完全自動(dòng)化，而且無(wú)法解釋，要么依賴一組靜態(tài)的關(guān)鍵字，而這些關(guān)鍵字很快就會(huì)過(guò)時(shí)。

美國(guó)加州理工學(xué)院（Caltech）的Maya Srikanth認(rèn)為，這兩種方法都不是很有效。

Srikanth說(shuō)：“讓人類嘗試手工完成這項(xiàng)工作是不可擴(kuò)展的，而這些人類可能有偏見(jiàn)。”

她說(shuō)：“另一方面，關(guān)鍵字搜索受到在線對(duì)話發(fā)展速度的困擾。新術(shù)語(yǔ)的出現(xiàn)和舊術(shù)語(yǔ)的含義發(fā)生了變化，因此真誠(chéng)地使用一天的關(guān)鍵字可能會(huì)在第二天被諷刺?！?/p>

包括來(lái)自加州理工學(xué)院的Anima Anandkumar在內(nèi)的團(tuán)隊(duì)使用了GloVe（全球單詞表示向量）模型，該模型使用機(jī)器學(xué)習(xí)算法來(lái)發(fā)現(xiàn)新的相關(guān)關(guān)鍵字。

機(jī)器學(xué)習(xí)是AI的一種應(yīng)用，它使系統(tǒng)能夠自動(dòng)學(xué)習(xí)并從經(jīng)驗(yàn)中進(jìn)行改進(jìn)，而無(wú)需進(jìn)行明確的編程。

GloVe是一個(gè)詞嵌入模型，意味著它代表向量空間中的詞，其中兩個(gè)詞之間的“距離”是其語(yǔ)言或語(yǔ)義相似性的量度。

從一個(gè)關(guān)鍵字開(kāi)始，此模型可用于查找與該單詞密切相關(guān)的其他關(guān)鍵字，以揭示實(shí)際使用的相關(guān)術(shù)語(yǔ)的群集。

例如，在Twitter上搜索對(duì)話中對(duì)“ MeToo”的使用，產(chǎn)生了一系列相關(guān)的標(biāo)簽，例如“ SupportSurvivors”，“ ImWithHer”和“ NotSilent”。

這種方法為研究人員提供了動(dòng)態(tài)且不斷發(fā)展的關(guān)鍵字集來(lái)進(jìn)行搜索。

但是，僅僅知道某個(gè)對(duì)話是否與感興趣的話題有關(guān)還不夠。研究人員說(shuō)，背景很重要。

為此，GloVe顯示了某些關(guān)鍵字的關(guān)聯(lián)程度，提供了有關(guān)其用法的輸入。

例如，在一個(gè)專門(mén)針對(duì)厭女癥的在線Reddit論壇中，“女性”一詞與“性”，“陰性”和“性交”密切相關(guān)。

在有關(guān)#MeToo運(yùn)動(dòng)的Twitter帖子中，“女性”一詞更可能與“公司”，“欲望”和“受害者”這兩個(gè)術(shù)語(yǔ)相關(guān)聯(lián)。

研究人員說(shuō)，該項(xiàng)目是一個(gè)概念證明，旨在有朝一日為社交媒體平臺(tái)提供一種更強(qiáng)大的工具來(lái)發(fā)現(xiàn)在線騷擾。

Anandkumar說(shuō)：“人工智能研究領(lǐng)域變得越來(lái)越具有包容性，但總有人抵制變革?！?/p>

她說(shuō)：“希望我們現(xiàn)在正在開(kāi)發(fā)的工具能夠在將來(lái)幫助應(yīng)對(duì)各種騷擾?！?/p>

該研究于去年12月14日在加拿大溫哥華神經(jīng)信息處理系統(tǒng)會(huì)議上的AI for Social Good研討會(huì)上進(jìn)行了介紹。