“血案”引發(fā)的智能設(shè)備隱私問題，科技公司的隱私保衛(wèi)戰(zhàn)

導(dǎo)語：無論是我們的家里還是身上或多或少都會攜帶智能語音設(shè)備，如今甚至連兒童玩具也越來越智能了。但是當(dāng)我們與這些虛擬助手交談的時候，背后傾聽的人究竟是誰？我們是否還有隱私可言？

以下為譯文：

“血案”引發(fā)的智能設(shè)備隱私問題

2015年11月21日，James Bates和三位朋友觀看了阿肯色州野豬隊與密西西比州斗牛犬隊的比賽。Bates居住在阿肯色州本頓維爾市，他和他的朋友們喝著啤酒和伏特加，觀看了一場緊張的橄欖球比賽。后來，野豬隊以51-50輸?shù)袅吮荣?，Bates的一位朋友悻悻而歸，而Bates和其余兩位朋友去后院的熱水浴缸里繼續(xù)飲酒。據(jù)Bates事后說，凌晨1點左右的時候他上床睡覺了，而他的兩位朋友（其中一人名叫Victor Collins）打算在他家中過夜。次日清晨，Bates起床后卻發(fā)現(xiàn)兩位朋友不見了?？墒?，當(dāng)他打開后門，才發(fā)現(xiàn)熱水浴缸中漂浮著一具尸體，此人正是Collins。

這在當(dāng)?shù)厥且黄饑?yán)峻的死亡事件，但如果不是由于本頓維爾市警方在調(diào)查死因的時候，將世界上最強(qiáng)大的公司亞馬遜也卷了進(jìn)來的話，可能Victor Collins的死永遠(yuǎn)也不會引起國際的關(guān)注。Collins的死亡引發(fā)了一場關(guān)于語音計算時代隱私的爭論，這些討論讓大科技公司感到不安。

橄欖球比賽的次日清晨，Bates報了警。警方發(fā)現(xiàn)了打斗的痕跡，覺得很可疑——地上散落著熱水浴缸的頭枕、把手以及兩個破碎的瓶子。Collins的一只眼睛烏青，嘴唇腫脹，而浴缸中的水也被血染紅了。Bates說，他不知道發(fā)生了什么事情，但警方覺得很可疑。2016年2月22日，警方以謀殺罪逮捕了Bates。

在搜查犯罪現(xiàn)場時，調(diào)查人員注意到了亞馬遜的Echo。由于警察認(rèn)為Bates可能沒有說實話，所以他們想試試看Echo是否可能在無意間記錄了有關(guān)真相。2015年12月，調(diào)查人員向亞馬遜提出了搜查令，要求亞馬遜提供“錄音、轉(zhuǎn)錄記錄或其他文本記錄形式的電子數(shù)據(jù)”。

亞馬遜提交了Echo記錄的一份事務(wù)記錄，但沒有提供任何音頻數(shù)據(jù)。亞馬遜在提交給法庭的一份文件中稱：“鑒于第一修正案的重要性與隱私權(quán)的問題，逮捕令應(yīng)予以撤銷?！盉ates的律師Kimberly Weber用更為通俗的語言闡述了這一論點：“一份理應(yīng)改善你的生活的圣誕禮物，如今卻變成了你的罪證?！?/p>

亞馬遜的Echo帶有麥克風(fēng)、能夠收錄到各個房間的聲音。蘋果、Google和微軟的智能家居產(chǎn)品，以及我們所有手機(jī)中配備麥克風(fēng)的AI也一樣。作家Adam Clark Estes曾說過：“購買智能揚聲器，實際上等同于花錢讓一家大型科技公司監(jiān)視你?！?/p>

亞馬遜對此做出了反擊，認(rèn)為其產(chǎn)品受到了不公平的誹謗。沒錯，他們的設(shè)備時刻在聽候指令，但絕不會傳輸聽到的所有內(nèi)容。只有當(dāng)設(shè)備聽到有人叫它“Alexa”時，才會將語音發(fā)送到云端進(jìn)行分析。Bates不太可能會明目張膽地說出自己的罪行。例如：“Alexa，我該如何把尸體藏起來？”但可以想象這臺設(shè)備可能收錄了一些調(diào)查人員感興趣的東西。例如，如果有人有意激活Echo（如播放歌曲等正常的要求），而設(shè)備可能錄下了當(dāng)時的背景聲音，比如有人爭吵的聲音等。如果Bates在凌晨1點之后向Echo發(fā)出了任何請求，那么就證明他所說的上床睡覺的時間有誤。

2016年8月，一名法官接受了亞馬遜可能持有有利證據(jù)的觀點，批準(zhǔn)了第二次搜查令，準(zhǔn)許警方獲取亞馬遜之前保留的信息。就在雙方陷入僵局的時候，情況發(fā)生了突變——Bates堅持認(rèn)為自己無罪，所以他和他的律師表示，他們并不反對警察獲取這些信息。于是，亞馬遜表示妥協(xié)，但要求警方永遠(yuǎn)不能透漏Echo記錄的有關(guān)犯罪的任何內(nèi)容。然而，2017年12月，檢察官提出了駁回此案的動議，稱Collins的死亡有不止一種合理的解釋。但該案件引發(fā)的監(jiān)視問題掀起了軒然大波，久久無法散去。

各大科技公司堅持認(rèn)為，他們沒有使用虛擬助手和家用小工具來監(jiān)視他們的用戶，這些工具只在收到明確指示時，才會接收指令。至少就外部的檢驗結(jié)果而言，這種說法似乎屬實。但這并不意味著挑戰(zhàn)傳統(tǒng)隱私觀念的監(jiān)聽沒有發(fā)生，或不可能發(fā)生。

科技公司的隱私保衛(wèi)戰(zhàn)

家用設(shè)備威脅到我們的隱私觀念的方式有很多種。一種是通過監(jiān)聽改善語音識別系統(tǒng)。當(dāng)你按下Hello Barbie這款芭比娃娃閃閃發(fā)光的束衣扣時，她的數(shù)字耳朵就會豎起來。當(dāng)你說“OK，Google”的時候，Google的語音助手也會被激活。亞馬遜的Alexa最喜歡有人叫她的名字。但是一旦這些設(shè)備被激活，接下來會發(fā)生什么呢？

蘋果向來以保護(hù)隱私為傲，據(jù)稱Siri會盡可能地滿足使用iPhone或HomePod的用戶。在將用戶所說的話發(fā)送到云進(jìn)行其他分析時，會對用戶的信息進(jìn)行編碼。為了便于語音識別系統(tǒng)學(xué)習(xí)更好地理解人的聲音，這些信息會被保存六個月。在這之后，為了幫助改善Siri，這些數(shù)據(jù)在去除有關(guān)用戶的信息后，會被保存在另一個副本中長達(dá)兩年。

大多數(shù)其他公司并沒有采取本地處理的方式，而是會將所有音頻傳輸?shù)皆贫?，通過更強(qiáng)大的計算資源進(jìn)行處理。然后，由計算機(jī)判斷用戶的意圖并遵從用戶的命令。在這之后，這些公司本可以刪除請求和系統(tǒng)的響應(yīng)，但通常他們都不會這樣做。原因就在于這些都是數(shù)據(jù)。在AI會話中，你擁有的數(shù)據(jù)越多就越有利。

幾乎所有的機(jī)器人廠商，從業(yè)余愛好者到大型科技公司的人工智能向?qū)?，都會審核人們與這些機(jī)器人之間的互動內(nèi)容。目的是為了查看哪些方面做得不錯，哪些方面需要改進(jìn)，以及用戶感興趣的討論內(nèi)容或希望完成的事項。這種審核流程有多種形式。

聊天記錄有可能是匿名的，因此審閱者看不到用戶的姓名。有些審閱者只能看到匯總的數(shù)據(jù)。例如，他們有可能發(fā)現(xiàn)，有些機(jī)器人經(jīng)常在對話中把天聊死，從而他們可以知道需要調(diào)整語句。微軟和Google以及其他公司的設(shè)計師也會收到有關(guān)最受歡迎的用戶查詢的詳細(xì)報告，所以他們知道需要添加哪些內(nèi)容。

但是，在這種審核的過程中，也可能接觸到非常私密的信息。在我訪問過的一家會話計算公司的辦公室里，員工向我展示了他們每天收到的郵件里都會列出用戶與某家公司聊天應(yīng)用之間的最新交換信息。

他們的員工打開了一封這樣的電子郵件，并點擊了播放的圖標(biāo)。我通過清晰的數(shù)字音頻，聽到了一個孩子的自言自語：“我只是一個男孩，我有一件綠色的恐龍襯衫......而且，巨大的腳......我家里有很多玩具和一把椅子......母親只是一個女孩，我認(rèn)識我的媽媽，她可以做任何她想做的事情。每天早上我起來的時候她已經(jīng)去上班了，但晚上她會回家?！?/p>

這段錄音并沒有任何不妥之處。但是當(dāng)我聽到這段錄音時，心里隱隱感到一陣不安，仿佛看見有個小男孩的房間里徘徊。這次經(jīng)歷讓我意識到當(dāng)我們通過電話或智能家居設(shè)備與虛擬助手交談時，我們假設(shè)自己完全是匿名，另一端只有一臺電腦，是嗎？并不一定哦，很可能有人在監(jiān)聽、做筆記、學(xué)習(xí)。

有時監(jiān)聽也會在不經(jīng)意期間發(fā)生。2017年10月4日，Google邀請記者參加舊金山SFJazz中心一款產(chǎn)品的發(fā)布會。由設(shè)計師Isabelle Olsson負(fù)責(zé)宣布全新推出的Google Home Mini，這是一款只有百吉餅大小的設(shè)備，是Google為了回應(yīng)亞馬遜的Echo Dot而推出的產(chǎn)品。Olsson說：“家庭是一個特別私密的地方，人們對他們選擇的東西都非常挑剔?！闭故窘Y(jié)束后，Google把Mini贈送給了與會者。其中一位名叫Artem Russakovskii的作家將這款贈品帶回了家，但隨后他對自己的此舉感到十分懊悔。

在使用了幾天Mini后，Russakovskii上網(wǎng)查看了他的語音搜索記錄。結(jié)果卻震驚地發(fā)現(xiàn)，這款設(shè)備已經(jīng)錄制了幾千段小音頻——該設(shè)備本不應(yīng)該錄制這些音頻。后來，他在Android Police網(wǎng)站寫道：“由于硬件的缺陷，不知不覺中我受到了來自Google Home Mini一天24小時不間斷的監(jiān)視。”他向Google投訴，Google在5小時內(nèi)派來了一名代表，換掉了他的故障設(shè)備中的兩個部件。

與其他類似的設(shè)備一樣，你可以通過“OK，Google”或按下設(shè)備頂部的按鈕激活Mini。Russakovskii寫道，但問題在于該設(shè)備有“臆想癥”：它會幻想有人按了激活按鈕。后來，Google表示，這個問題僅影響了促銷活動中發(fā)放出去的少數(shù)幾臺設(shè)備。再后來，Google通過軟件更新修復(fù)了這個問題。為了進(jìn)一步消除用戶的恐懼，Google宣布永久禁用所有Mini的觸控功能。

然而，這種回應(yīng)措施并不足以滿足電子隱私信息中心的要求。2017年10月13日，該倡導(dǎo)組織在一封信中強(qiáng)烈要求消費者產(chǎn)品安全委員會召回Mini，理由是它“允許Google在未經(jīng)消費者知情或同意的情況下，攔截和記錄用戶在家中的私人談話”。

沒有任何信息表明Google在故意竊聽。盡管如此，如果連Google這樣的公司都會犯這樣的錯誤，那么隨著語音設(shè)備的劇增，其他公司更容易犯同樣的錯誤。

你是否真的被監(jiān)聽了？

如果你想知道政府機(jī)構(gòu)或黑客是否能夠聽到你與語音設(shè)備之間的談話，那么請考慮一下你對著這些設(shè)備說完話后，接下來會發(fā)生什么。有隱私保護(hù)意識的蘋果會保留你的語音，但會去掉你的姓名或用戶ID。然后，給每個用戶分配隨機(jī)的數(shù)字字符串，在6個月后還會斷開對話與數(shù)字字符串之間的關(guān)聯(lián)。

與此同時，Google和亞馬遜會全權(quán)保留講話者與其對話之間的聯(lián)系。任何用戶都可以登錄他們的Google或亞馬遜賬號，查看所有查詢的列表。我曾試過Google，我可以聽到其上的所有錄音。例如，點擊2017年8月29日上午9點34分的播放圖標(biāo)，我聽到自己問：“鉛筆刀用德語怎么說？”雖然這些語音記錄都可以刪除，但是必須由用戶動手。Google用戶政策聲明中說：“Google Home和Google助手的對話歷史記錄會一直被保存下來，直到你動手刪除為止?！?/p>

這是隱私方面的新問題嗎？然也。Google和其他搜索引擎同樣會保留你輸入的所有Web查詢，除非你動手刪除。所以你可能認(rèn)為，語音存檔只不過是同樣的現(xiàn)象而已。但是對某些人來說，語音記錄感覺更具侵略性。另外，還有一個問題。錄音常常會把背景中其他人的聲音也記錄下來，比如你的伴侶、朋友和孩子等。

對于執(zhí)法機(jī)構(gòu)來說，如果想獲取本地存儲的錄音或數(shù)據(jù)（保存在你的手機(jī)、計算機(jī)或智能家居設(shè)備上的數(shù)據(jù)），則需要拿到搜查令。但是，在語音傳輸?shù)皆浦?，隱私保護(hù)就被大幅削弱了。紐約福德姆法學(xué)院法律和信息政策中心主任Joel Reidenberg表示，“有關(guān)隱私的合理預(yù)期法律標(biāo)準(zhǔn)已經(jīng)失效了。根據(jù)第四項修正方案，如果你安裝語音設(shè)備，而且會向第三方傳輸數(shù)據(jù)，那么就相當(dāng)于你放棄了隱私權(quán)?！备鶕?jù)Google透明度報告，2017年美國政府機(jī)構(gòu)曾要求其提供17萬多用戶賬號的數(shù)據(jù)。（該報告沒有說明這些請求中有多少是語音數(shù)據(jù)，有多少是網(wǎng)絡(luò)查詢或其他信息的日志。）

如果你沒有在家中從事任何違法行為，也不用擔(dān)心被誣告，那么也許你不需要擔(dān)心政府可能會要求提供你的語音數(shù)據(jù)。但是，如果有些公司持有你的錄音數(shù)據(jù)，那么仍然有一種普遍存在的風(fēng)險。黑客可以利用你的賬號和密碼，竊聽你在家中私下發(fā)出的請求。

各大科技公司聲稱他們沒有惡意竊聽，但黑客并不會以竊聽為恥。雖然各個公司通過密碼保護(hù)和數(shù)據(jù)加密來打擊竊聽活動，但安全研究人員的測試以及黑客的破壞表明，這些保護(hù)措施遠(yuǎn)非萬無一失。

有一種在線的毛絨動物玩具CloudPets，其中有小貓咪、大象、獨角獸，還有泰迪熊。孩子們可以對著這些毛絨玩具錄制簡短的語音信息，這些信息可以通過藍(lán)牙傳送到附近的智能手機(jī)上。然后，再發(fā)送到遠(yuǎn)方的父母或其他親戚手中，無論他們在市里上班，還是在世界的另一個角落戰(zhàn)斗。反過來，父母也可以在手機(jī)上錄制一條消息，并發(fā)送到毛絨玩具上進(jìn)行播放。

看似這是一個溫馨甜蜜的場景。然而，問題在于CloudPet將80多萬名用戶的認(rèn)證信息，以及兒童和成人之間記錄的200萬條消息保存在了在線數(shù)據(jù)庫中。2017年，黑客獲取了很大一部分?jǐn)?shù)據(jù)，甚至向該公司提出了勒索贖金。

安全研究員Paul Stone發(fā)現(xiàn)了另一個問題：CloudPets毛絨玩具與配套的智能手機(jī)應(yīng)用之間的藍(lán)牙配對中沒有使用加密，也不需要身份驗證。他購買了一只獨角獸的毛絨玩具進(jìn)行測試，發(fā)現(xiàn)很輕易就可以入侵該設(shè)備。

在Stone在網(wǎng)上發(fā)布了一段示范視頻中，他的獨角獸玩具大喊：“殺呀！殺呀！”同時他開啟了麥克風(fēng)錄制，該毛絨玩具瞬間變成了監(jiān)聽器。Stone在他的博客上寫道：“藍(lán)牙LE通常的范圍在10-30米。所以別人站在你家門外就可以輕松地連接到玩具上，上傳錄音，并通過麥克風(fēng)接收音頻?！?/p>

毛絨玩具可能不過是黑客的玩具目標(biāo)，但其中展示的脆弱性同樣會出現(xiàn)在為成年人設(shè)計的互聯(lián)網(wǎng)語音設(shè)備上。安全研究員Troy Hunt記錄了CloudPets的違規(guī)行為，他表示，“雖然這種風(fēng)險與我們每天所面對的風(fēng)險——大量數(shù)據(jù)的產(chǎn)生和上傳到網(wǎng)上的風(fēng)險——并沒有不同，但這種風(fēng)險牽扯到了孩子，我們就不能容忍?！?/p>

其他研究人員也發(fā)現(xiàn)了很多侵犯隱私的技術(shù)方式。想象一下，有人可以通過交談控制你的手機(jī)或其他語音AI設(shè)備，如果被你聽到了，那么這種計劃就會失敗。但是如果這種攻擊你聽不到呢？中國浙江大學(xué)的一個研究小組在2017年發(fā)表的一篇論文就針對這種情況展開了調(diào)查。這些研究人員設(shè)計了一種名叫海豚攻擊的場景，黑客可以通過安裝在受害者辦公室或家中的揚聲器發(fā)出未經(jīng)授權(quán)的命令。黑客還可以在將在受害者經(jīng)過時，將一種便攜式的揚聲器放到受害者身上。關(guān)鍵在于，這些命令可以發(fā)出20千赫以上的超聲波信號，雖然人耳聽不到這些信號，但是研究人員可以輕易地通過操縱音頻，讓數(shù)字設(shè)備接受這些指令。

在實驗室的測試中，這些科學(xué)家成功地攻擊了亞馬遜、蘋果、Google、微軟和三星的語音設(shè)備。他們欺騙這些語音AI訪問了惡意網(wǎng)站、發(fā)送短信和電子郵件、調(diào)暗屏幕，并降低音量幫助隱藏攻擊。研究人員通過這些設(shè)備非法地監(jiān)聽了電話以及視頻通話，這意味著黑客也可以竊聽，甚至可以看到受害者周圍的情況。他們甚至還入侵了奧迪SUV的導(dǎo)航系統(tǒng)。

科技是把雙刃劍

大多數(shù)人不希望黑客、警察或公司監(jiān)聽他們。但是最后一種情況可能會讓大家從另一個角度考慮監(jiān)聽的問題。如上所述，為了提高語音設(shè)備，會話設(shè)計師會查看聊天日志，有時他們感覺在聽到某些內(nèi)容時有必要采取一定的行動。

以美泰公司的芭比娃娃為例。在設(shè)計的過程中，他們遇到了一系列困惑的假設(shè)情況。例如，如果一個孩子告訴芭比娃娃“我爸爸打我媽媽”，該怎么辦？芭比娃娃的設(shè)計者認(rèn)為無視這類的音頻在道德上是不正確的。但是，如果他們將聽到的內(nèi)容報告給警方，那么他們實際上就成了獨裁者。在艱難的討論之后，他們認(rèn)為芭比娃娃應(yīng)該做出反應(yīng)說：“你應(yīng)該把這些話告訴你信任的某個大人?！?/p>

然而，美泰公司似乎希望做得更好。在關(guān)于Hello Barbie的常見問題解答中，他們寫道：“我們不會實時監(jiān)控兒童和玩具之間的對話。但是事后，我們可能會審查某些對話，以便幫助我們測試和改進(jìn)產(chǎn)品。如果我們在這類審查中發(fā)現(xiàn)任何有關(guān)孩子或其他人安全的問題，我們也會按照要求，根據(jù)具體情況與執(zhí)法機(jī)構(gòu)和法律程序合作。”

大型科技公司也面臨同樣的難題。由于他們的虛擬助理每周需要處理數(shù)百萬個語音查詢，因此他們無法讓員工監(jiān)控每個用戶的對話。但這些公司確實對系統(tǒng)進(jìn)行了訓(xùn)練，以收錄用戶可能提到的某些高度敏感事宜，例如，我在測試Siri的時候說：“我想自殺。”她回答說：“如果你想自殺，那么你可以跟全美預(yù)防自殺生命線的某個人談?wù)劇！倍襍iri還提供了電話號碼，并撥打了電話。

在此向Siri表示感謝。但是問題在于，讓這些虛擬助手照顧我們就意味著這些角色所承擔(dān)的責(zé)任不清不楚，還有一定的局限性。如果你告訴Siri你喝醉了，有時她會打電話幫你叫出租車。但是，如果她沒有，而且你出了車禍，那么蘋果公司是否應(yīng)該因為Siri沒有說這些話而負(fù)責(zé)？

什么時候語音設(shè)備應(yīng)該采取行動？如果Alexa無意中聽到某人尖叫著：“救命，救命啊，有人要殺我！”，那么她應(yīng)該自動報警嗎？

通信行業(yè)顧問分析師Robert Harris認(rèn)為上述場景并不牽強(qiáng)，他認(rèn)為語音設(shè)備引發(fā)了新的道德和法律問題。他表示：“個人助理會對他們的知識負(fù)責(zé)嗎？這樣的功能將來有可能會成為一種負(fù)擔(dān)?！?/p>

人工智能監(jiān)控的使用清楚地表明，你應(yīng)該謹(jǐn)慎地使用深入生活的每種技術(shù)。了解語音設(shè)備的激活方式和時間。如果有必要，你應(yīng)該找到保存的語音數(shù)據(jù)并刪除。如果你對這些設(shè)備持有疑問，尤其是那些隱私政策不清不楚的公司的產(chǎn)品，那么請拔掉插座。