智能虛擬助理知得信任嗎？

從惡意的黑客到意外的語音記錄，通過虛擬助理處理的數(shù)據(jù)可能會(huì)讓你面臨安全和隱私風(fēng)險(xiǎn)

你曾與Siri、Alexa或Cortana打過交道嗎？這些都開始于面向消費(fèi)者的虛擬個(gè)人助理（VPA），用于大多數(shù)智能手機(jī)和像聲控電視遙控器這樣的產(chǎn)品。但是，到最近為止，VPAs正在演變?yōu)橹悄芴摂M助理（IVA），用于商業(yè)應(yīng)用。一些通信供應(yīng)商現(xiàn)在使用IVAs來支持業(yè)務(wù)功能，比如安排會(huì)議和電話會(huì)議。

你知道嗎，有了這樣的數(shù)字助手，你的語音數(shù)據(jù)就會(huì)被發(fā)送到云或另一個(gè)遠(yuǎn)程位置進(jìn)行處理？在你的電視遙控器前講話安全嗎？要求Alexa開始你的會(huì)議，你是否正在把你的商業(yè)數(shù)據(jù)置于危險(xiǎn)之中？

智能虛擬助理

IVA是一個(gè)使用人工智能（AI）的系統(tǒng)，它模擬人的交互來完成任務(wù)。由于神經(jīng)網(wǎng)絡(luò)、機(jī)器學(xué)習(xí)以及人工智能等技術(shù)的進(jìn)步，IVAs正在快速發(fā)展。智能技術(shù)允許IVAs學(xué)習(xí)、推理和理解，執(zhí)行像客戶服務(wù)座席這樣的任務(wù)來解決客戶的問題。

實(shí)際上，在多個(gè)垂直市場(chǎng)中，IVAs被用于各種應(yīng)用程序。他們通過為聯(lián)網(wǎng)的家庭和車輛提供一個(gè)直觀的界面來幫助消費(fèi)者完成任務(wù)。

生態(tài)系統(tǒng)

IVA生態(tài)系統(tǒng)由三個(gè)主要部分組成。在遠(yuǎn)程云位置，調(diào)用處理中心對(duì)文本和/或語音命令進(jìn)行分析和響應(yīng)，并執(zhí)行請(qǐng)求的操作。在用戶端，有一個(gè)終端設(shè)備，如AmazonEcho或帶有Cortana的PC。這些設(shè)備安裝了與IVA通信的嵌入式應(yīng)用程序。

用戶的請(qǐng)求以文本或聲音的形式提交給IVA，或者以聊天格式提交，并存儲(chǔ)在云中。IVA對(duì)話可以通過應(yīng)用程序和用戶的設(shè)備訪問。這就產(chǎn)生了一種隱私風(fēng)險(xiǎn)，因?yàn)檎Z音記錄可能提供個(gè)人身份識(shí)別信息，或者未經(jīng)授權(quán)的實(shí)體可以使用這些數(shù)據(jù)來識(shí)別用戶。

IVA軟件可以集成到物聯(lián)網(wǎng)設(shè)備中。許多IVAs允許第三方供應(yīng)商鏈接他們的設(shè)備和服務(wù)，擴(kuò)展IVA的特性和技能。例如，Alexa技能商店包含超過10，000個(gè)語音激活應(yīng)用程序。

安全與IVAs

我確信會(huì)有創(chuàng)造性的黑客開發(fā)惡意軟件，為IVAs的隱私和安全攻擊提供機(jī)會(huì)。最近發(fā)生的一些事件突顯了與IVAs相關(guān)的重大安全和隱私風(fēng)險(xiǎn)。由于IVAs還在不斷成熟，預(yù)計(jì)會(huì)有更多的這些風(fēng)險(xiǎn)浮出水面，并且隨著時(shí)間的推移會(huì)發(fā)生更富有想象力的攻擊。

一篇題為“Alexa我可以信任你嗎？”的NIST文章，指出了四個(gè)可能的安全/隱私漏洞場(chǎng)景，如下圖所示。

圖片來自NIST的文章“Alexa，我能信任你嗎？”

竊聽

Packet sniffing是網(wǎng)絡(luò)診斷系統(tǒng)的一部分。它可以應(yīng)用于捕獲來自IVA的通信?？梢苑治稣?qǐng)求和響應(yīng)，以確定使用了哪些APIs。

正如文章指出的那樣，并不是所有的網(wǎng)絡(luò)通信都是通過安全連接傳輸?shù)摹Ｓ行┤耸褂梦醇用艿倪B接來檢查網(wǎng)絡(luò)的傳輸率，這使得檢測(cè)IVA設(shè)備成為可能。盡管IVA通信可能是加密的，但是有機(jī)器學(xué)習(xí)技術(shù)可以對(duì)流量進(jìn)行分類，并報(bào)告有效載荷大小、數(shù)據(jù)率和其他模式。加密的流量可以用來識(shí)別設(shè)備的狀態(tài)。

妥協(xié)于終端設(shè)備（物聯(lián)網(wǎng)）

我曾經(jīng)發(fā)表過關(guān)于物聯(lián)網(wǎng)（IoT）安全的博客--“爭(zhēng)取安全的物聯(lián)網(wǎng)”和“剝離物聯(lián)網(wǎng)互操作層”。

需要注意的是，IVA設(shè)備可以像任何其他端點(diǎn)一樣被破壞。你甚至可以體驗(yàn)到拒絕服務(wù)的攻擊。網(wǎng)絡(luò)攝像頭和DVRs可以被惡意軟件感染。終端設(shè)備可以被命令設(shè)置成為一直在聽的狀態(tài)，這就像已經(jīng)在許多聯(lián)網(wǎng)的嬰兒監(jiān)視器上所做的那樣。你的協(xié)作系統(tǒng)怎么樣？他們正處于危險(xiǎn)之中嗎？

惡意的語音命令

由于IVAs處理語音命令，攻擊者可以模擬用戶并發(fā)出惡意的語音命令。它可以打開一扇智能門，啟動(dòng)一輛汽車，甚至可以在沒有用戶信息的情況下在線訂購(gòu)商品。一些IVAs提供了一個(gè)語音訓(xùn)練功能，以防止這種模擬。如果模仿是高質(zhì)量的，那么IVA可能無法區(qū)分真假。

意想不到的錄音

在IVA裝置范圍內(nèi)說話的人可能被錄音。這可能是偶然的，但是這個(gè)人說的話仍然會(huì)被傳送到云上，這使其他各方（包括合法訪問存儲(chǔ)數(shù)據(jù)的人以及黑客）入侵?jǐn)?shù)據(jù)庫。他們可以偷聽私人談話。非預(yù)期錄音的潛在影響是意味著你不能完全控制你的語音數(shù)據(jù)。我們的協(xié)作網(wǎng)絡(luò)會(huì)被破壞嗎？

我們已經(jīng)了解到，當(dāng)我們?cè)贗P網(wǎng)絡(luò)中引入新設(shè)備時(shí)，他們通常沒有把安全性作為他們的主要設(shè)計(jì)目標(biāo)。Internet從來沒有被設(shè)計(jì)成一個(gè)真正安全的網(wǎng)絡(luò)環(huán)境，所以安全是留給端點(diǎn)的。安全性通常是一個(gè)附加組件，在發(fā)生了一些突出安全性問題的事件之后才采用的。似乎那些構(gòu)建端點(diǎn)和生產(chǎn)軟件的人需要在他們的設(shè)計(jì)和開發(fā)中提升安全性保護(hù)措施。