輕松監(jiān)聽手機(jī)的信息，AI是如何竊取隱私、監(jiān)控社會(huì)的？

輕松監(jiān)聽手機(jī)的信息，AI是如何竊取隱私、監(jiān)控社會(huì)的？

海歸學(xué)者發(fā)起的公益學(xué)術(shù)平臺(tái)

分享信息，整合資源

交流學(xué)術(shù)，偶爾風(fēng)月

近日，劍橋大學(xué)計(jì)算機(jī)實(shí)驗(yàn)室在預(yù)印本平臺(tái)arXiv上線了一項(xiàng)研究，研究人員設(shè)計(jì)了一種人工智能算法，該算法通過(guò)監(jiān)聽用戶點(diǎn)擊手機(jī)屏幕發(fā)出的聲音，可以還原出用戶在智能手機(jī)上的輸入內(nèi)容。

該研究由劍橋大學(xué)的Ilia Shumailov、Jeff Yan、Ross Anderson及三星美國(guó)研究院Laurent Simon合作開展。

在這個(gè)被智能手機(jī)統(tǒng)治了的社會(huì)，人們伸手點(diǎn)觸摸屏的頻次或許比張嘴說(shuō)話更多。而任何點(diǎn)擊屏幕的操作都不可避免地會(huì)發(fā)出聲音?；蛟S人們自己聽不見，可是手機(jī)內(nèi)置的麥克風(fēng)卻能聽得一清二楚。

研究人員利用這一點(diǎn)，對(duì)人們點(diǎn)擊屏幕的聲音進(jìn)行了監(jiān)聽，他們辨認(rèn)出點(diǎn)擊屏幕不同區(qū)域時(shí)所產(chǎn)生的聲波波形，再進(jìn)一步運(yùn)用人工智能算法，使還原用戶輸入內(nèi)容成為了可能。從此，窺探隱私、竊取密碼易如反掌。

圖1.點(diǎn)擊觸摸屏上f時(shí)的聲波波形反饋

劍橋大學(xué)計(jì)算機(jī)實(shí)驗(yàn)室安全工程教授Ross Anderson及其團(tuán)隊(duì)設(shè)計(jì)開發(fā)了一個(gè)可以監(jiān)聽觸摸屏聲波的應(yīng)用程序，并隨即采用機(jī)器學(xué)習(xí)算法對(duì)其進(jìn)行訓(xùn)練，使其能夠順利還原出用戶輸入內(nèi)容。

圖2.可以監(jiān)聽觸摸屏的應(yīng)用程序

研究人員模擬了三種日常噪聲環(huán)境，并在這種環(huán)境下檢驗(yàn)AI是否能成功還原信息。這三種環(huán)境分別為：

1、公共休息室：有人在旁邊談話，偶爾會(huì)有咖啡機(jī)噪聲。

2、閱覽室：有輕微鍵盤敲擊聲，有人低聲談話。

3、圖書館：幾乎無(wú)人談話，僅有鍵盤敲擊聲。

被試將被要求在上述環(huán)境中輸入文字與數(shù)字，而所采用的設(shè)備為谷歌智能手機(jī)Nexus 5與谷歌平板電腦Nexus 9。這兩種設(shè)備均有兩個(gè)內(nèi)置麥克風(fēng)。

當(dāng)被試輸入的是四位數(shù)字密碼時(shí)，重復(fù)輸入該密碼10次后，AI識(shí)別出正確密碼的概率是54%，重復(fù)輸入該密碼20次后，正確識(shí)別率為61%。被試輸入單詞時(shí)還原同樣有效。對(duì)于一個(gè)27詞長(zhǎng)度的英文密碼，在重復(fù)輸入10次之后，Nexus 5手機(jī)上能夠被正確還原7個(gè)單詞， Nexus 9平板電腦上能夠被正確還原19個(gè)單詞。

研究人員表示，該算法模型還僅僅處于實(shí)驗(yàn)階段。但這無(wú)疑揭示了一個(gè)針對(duì)人們隱私的巨大潛在威脅。而在其中助紂為虐的，正是上天入地?zé)o所不能的人工智能。

無(wú)獨(dú)有偶，在更早的一項(xiàng)研究里，研究人員竟然能夠利用AI分析薯片包裝袋的振動(dòng)，進(jìn)而破譯附近的人的談話內(nèi)容。

這個(gè)來(lái)自MIT的研究團(tuán)隊(duì)通過(guò)捕捉物體的微小振動(dòng)還原了音頻。在實(shí)驗(yàn)里，研究人員在4.6米外透過(guò)隔音玻璃拍攝一個(gè)薯片包裝袋，而后通過(guò)分析包裝袋的振動(dòng)還原了談話內(nèi)容。而在另一項(xiàng)實(shí)驗(yàn)中，研究人員通過(guò)監(jiān)測(cè)植物葉片振動(dòng)，成功鑒別出了播放的歌曲。

而原理同樣簡(jiǎn)單：當(dāng)聲波擊中物體時(shí)會(huì)引發(fā)物體振動(dòng)，這正是一種視覺(jué)信號(hào)。通過(guò)對(duì)視覺(jué)信號(hào)的分析，我們就可以還原出音頻。而這些視覺(jué)信號(hào)人類的肉眼難以分辨，但是深度學(xué)習(xí)后的AI不僅可以輕松辨別，更能夠?qū)⑦@些信號(hào)背后的內(nèi)容破譯出來(lái)。

橫行世界的AI 監(jiān)控大師

嚴(yán)格說(shuō)來(lái)，“偷聽”還不算人工智能的最強(qiáng)項(xiàng)，“偷看”才是。事實(shí)上，AI在人臉識(shí)別上的巨大突破，令其成為了人們最理想的監(jiān)控助手。尤其在公共安全領(lǐng)域，AI監(jiān)控正在發(fā)揮巨大的作用。

在莫斯科，城市正在組建一套監(jiān)控設(shè)施，該系統(tǒng)擁有超過(guò)10 萬(wàn)臺(tái)高分辨率相機(jī)，覆蓋了城市 90％ 以上的公寓出入口，AI通過(guò)這些相機(jī)提供的資料進(jìn)行人臉識(shí)別；在英國(guó)，警方開發(fā)了一套相當(dāng)完備的AI監(jiān)控系統(tǒng)，它能夠準(zhǔn)確區(qū)分上百萬(wàn)個(gè)嫌疑人，甚至僅僅看見嫌疑人的耳朵就可以確定他的身份。

在過(guò)去十年間，中國(guó)是世界上監(jiān)控?cái)z像頭增長(zhǎng)最快的國(guó)家。根據(jù)IHS Markit 2016 年的數(shù)據(jù)，中國(guó)共有約 1.76 億個(gè)監(jiān)控?cái)z像頭，而這一數(shù)值在2020年有望突破6億。這樣的背景為AI監(jiān)控技術(shù)提供了曠闊的成長(zhǎng)空間。

現(xiàn)在AI技術(shù)的成長(zhǎng)速度令人咋舌。即便你戴上墨鏡口罩，AI也照樣可以識(shí)別。來(lái)自劍橋大學(xué)的Amarjot Singh、印度國(guó)家理工學(xué)院的Devendra Patil、G Meghana Reddy和印度科學(xué)院的SN Omkar，在一篇題為“Disguised Face Identification (DFI) with Facial Key Points using Spatial Fusion Convolutional Network”的論文當(dāng)中，初步驗(yàn)證了人工智能可以用于識(shí)別那些戴著帽子、圍巾、墨鏡的人。

除開看臉的人臉識(shí)別，AI也有不看臉的步態(tài)識(shí)別算法。我國(guó)河南的一起案件就運(yùn)用了這種技術(shù)，AI通過(guò)對(duì)對(duì)其步態(tài)體征進(jìn)行分析，僅花費(fèi)33個(gè)小時(shí)，就從3000個(gè)小時(shí)的監(jiān)控視頻資料里尋找到了特征吻合的嫌疑人。案件圓滿告破。

不過(guò)，歷史經(jīng)驗(yàn)告訴我們，技術(shù)發(fā)展似乎總是一把雙刃劍。在迅猛的AI技術(shù)發(fā)展背后，我們或許應(yīng)該更多地思考：這些技術(shù)將為人們勾勒出一幅怎樣的生活圖景？

AI發(fā)展與隱私泄露

再度崛起的AI技術(shù)自然是一匹意義巨大的黑馬，但窺探手機(jī)隱私，破譯私密談話內(nèi)容，無(wú)處不在的監(jiān)控識(shí)別，似乎也已將人類的隱私逼入了一個(gè)死角。例如，現(xiàn)在許多企業(yè)都將AI技術(shù)用于員工考勤，而更有一些企業(yè)讓AI變成了一位“常駐監(jiān)工”。 這些AI監(jiān)工將員工的工作量化，并結(jié)合多種參數(shù)判斷員工績(jī)效如何、是否有偷懶嫌疑。

這樣的AI監(jiān)工受到了老板們的熱烈歡迎?；ヂ?lián)網(wǎng)企業(yè)高管Dana Gibber表示，這些AI監(jiān)工將被認(rèn)為是非常有價(jià)值的，因?yàn)樗鼈儠?huì)提供關(guān)于員工行為的重要意見，鼓勵(lì)最佳的工作狀態(tài)，提高工作效率。不過(guò)對(duì)于員工們來(lái)說(shuō)則是五味雜陳，因?yàn)樵谌轿槐O(jiān)督工作過(guò)程時(shí)，個(gè)人隱私也必定蕩然無(wú)存。

而另一方面，AI的深度學(xué)習(xí)是建立在大數(shù)據(jù)之上的。在使用深度學(xué)習(xí)AI的過(guò)程中，往往伴隨著海量隱私數(shù)據(jù)泄露的風(fēng)險(xiǎn)。

2017年5月，在沒(méi)有征詢患者意見的情況下，英國(guó)皇家自由信托基金會(huì)將共計(jì)160萬(wàn)份病人資料提供給AI公司DeepMind。這些醫(yī)療資料里甚至包括HIV感染狀況、過(guò)去的吸毒量和墮胎信息等私密數(shù)據(jù)。而面對(duì)公眾憤怒的質(zhì)疑，DeepMind和英國(guó)皇家自由信托基金會(huì)表示，他們認(rèn)為患者已經(jīng)給予“暗示同意”。

2017年9月，我國(guó)浙江紹興警方取締了臭名昭著的“快啊”打碼平臺(tái)，該平臺(tái)竊取了近10億組公民個(gè)人信息。作案人員在破解一個(gè)用戶密碼之后，往往用該密碼嘗試登入其他各大網(wǎng)站，以便破解該用戶的更多賬戶。該過(guò)程稱之為“撞庫(kù)”。

而在撞庫(kù)過(guò)程中，各網(wǎng)站的驗(yàn)證碼機(jī)制讓作案人員必須手工鍵入，這無(wú)疑大大拖慢了破解速度。于是“快啊”案的作案人員轉(zhuǎn)而使用一個(gè)深度學(xué)習(xí)AI，完美解決了驗(yàn)證碼問(wèn)題。據(jù)悉，該AI破解驗(yàn)證碼的效率在90%之上。

其實(shí)在AI技術(shù)聲勢(shì)喧天之時(shí)，反思與警告的聲音一直都存在。只不過(guò)它們都被淹沒(méi)在了關(guān)于AI技術(shù)的溢美之詞里。特斯拉首席執(zhí)行官Elon Musk至始至終對(duì)AI保持警惕態(tài)度，他聯(lián)合眾多硅谷巨頭發(fā)起了非營(yíng)利組織Open AI，旨在預(yù)防人工智能的災(zāi)難性影響，推動(dòng)人工智能發(fā)揮積極作用。

前不久，谷歌發(fā)布了一款可以自動(dòng)拍照的AI相機(jī)Google Clips，許多人質(zhì)疑這樣的自動(dòng)相機(jī)是否會(huì)侵犯用戶隱私。Musk則直接發(fā)推譏諷說(shuō)：“這玩意甚至不屑于讓自己‘看起來(lái)’是無(wú)辜的。”

對(duì)于AI技術(shù)的反思很多，而隱私保護(hù)是其中非常重要的一環(huán)。按照如今的AI發(fā)展速度，這個(gè)問(wèn)題已經(jīng)迫在眼前。如何在發(fā)展技術(shù)的同時(shí)建立起全新的法律法規(guī)、倫理框架，從而將收益提至最高、將風(fēng)險(xiǎn)降至最低，這是一個(gè)亟待解決的問(wèn)題。相信，沒(méi)有人愿意生活在一個(gè)毫無(wú)隱私、處處被監(jiān)視的世界。

而尤其需要銘記的是，在一個(gè)技術(shù)飛速革新的社會(huì)里，我們都不是局外人，技術(shù)現(xiàn)在的發(fā)展將決定我們未來(lái)的生活。SAP首席學(xué)習(xí)官Jenny Dearborn說(shuō)：“對(duì)于人工智能滲透到人們生活的程度，人們需要有所了解。這樣，他們就不會(huì)在某天醒來(lái)說(shuō)：‘我一直都是被利用的棋子’”。