第二屆大會(huì)回顧第8期 | 智能終端OS的個(gè)人數(shù)據(jù)處理與保護(hù)

演講嘉賓 | 夏虞斌

回顧整理 | 廖 濤

排版校對(duì) | 李萍萍

嘉賓介紹

OS安全分論壇

夏虞斌，上海交通大學(xué)教授/博導(dǎo)、上海交通大學(xué)OpenHarmony技術(shù)俱樂部主任、中國(guó)計(jì)算機(jī)學(xué)會(huì)CCF杰出會(huì)員。主要研究領(lǐng)域是操作系統(tǒng)與系統(tǒng)結(jié)構(gòu)，研究興趣為通過軟硬協(xié)同設(shè)計(jì)增強(qiáng)計(jì)算機(jī)系統(tǒng)的安全性、隔離性與性能。與團(tuán)隊(duì)開發(fā)的系統(tǒng)包括：RISC-V平臺(tái)的可信執(zhí)行環(huán)境系統(tǒng)“蓬萊”，直通式進(jìn)程間調(diào)用硬件擴(kuò)展XPC，啟動(dòng)時(shí)間小于1ms的Serverless系統(tǒng)Catalyzer，開源的Serverless性能測(cè)試集ServerlessBench，去中心化可信搜索系統(tǒng)DeSearch等。

視頻回顧

打開嗶哩嗶哩APP，觀看更清晰視頻+詳細(xì)報(bào)告內(nèi)容

正文內(nèi)容

在當(dāng)今萬物互聯(lián)的時(shí)代發(fā)展背景之下，智能化和物聯(lián)網(wǎng)等技術(shù)快速發(fā)展，為智能終端產(chǎn)業(yè)帶來了更加廣闊的市場(chǎng)空間。人們?nèi)粘Ｉ钪薪佑|到的智能終端產(chǎn)品類型越來越多，功能越來越豐富，個(gè)人數(shù)據(jù)的泄露風(fēng)險(xiǎn)也隨之上升。如何從操作系統(tǒng)層面保障智能終端的用戶個(gè)人數(shù)據(jù)安全？上海交通大學(xué)教授、OpenHarmony技術(shù)俱樂部主任，教育部青年長(zhǎng)江學(xué)者夏虞斌在第二屆OpenHarmony技術(shù)大會(huì)上進(jìn)行了精彩分享，提出了端側(cè)大模型+端側(cè)機(jī)密計(jì)算的技術(shù)方案。

智能終端上產(chǎn)生的個(gè)人數(shù)據(jù)涵蓋了多個(gè)維度，包括聊天、通話、購(gòu)物、瀏覽等虛擬世界的數(shù)據(jù)，以及位置、出行、運(yùn)動(dòng)、體溫等現(xiàn)實(shí)世界的數(shù)據(jù)等。手機(jī)作為用戶日常使用最頻繁的智能終端設(shè)備之一，是個(gè)人連接數(shù)字世界最重要的入口。在手機(jī)上，每日需要存儲(chǔ)、處理和流轉(zhuǎn)海量的個(gè)人數(shù)據(jù)。

目前，終端個(gè)人數(shù)據(jù)處理主要存在以下三個(gè)挑戰(zhàn)：

一、數(shù)據(jù)異質(zhì)性：包括應(yīng)用數(shù)據(jù)類型的異質(zhì)性和訪問數(shù)據(jù)接口的異質(zhì)性，如何實(shí)現(xiàn)跨應(yīng)用、跨OS、跨設(shè)備的統(tǒng)一數(shù)據(jù)表達(dá)？

二、需求多樣性：包括用戶需求內(nèi)容的多樣性和用戶需求表述的多樣性，如何實(shí)現(xiàn)用同一段代碼滿足用戶的多樣需求？

三、隱私敏感性：包括數(shù)據(jù)存儲(chǔ)的隱私敏感性和數(shù)據(jù)處理的隱私敏感性，如何在終端側(cè)保護(hù)個(gè)人數(shù)據(jù)存儲(chǔ)和處理的隱私性？

針對(duì)數(shù)據(jù)異質(zhì)性挑戰(zhàn)，采用直接在系統(tǒng)底層截獲并存留用戶可見的終態(tài)數(shù)據(jù)的新方式是一個(gè)可行途徑。傳統(tǒng)的數(shù)據(jù)處理方式主要基于初態(tài)數(shù)據(jù)，如數(shù)據(jù)庫(kù)、文件等。這些初態(tài)數(shù)據(jù)的數(shù)據(jù)量小，內(nèi)容準(zhǔn)確，但格式種類繁多，部分?jǐn)?shù)據(jù)還可能加密。終態(tài)數(shù)據(jù)即用戶直接感知的數(shù)據(jù)形式，如圖片、聲音等。相比于初態(tài)數(shù)據(jù)，終態(tài)數(shù)據(jù)具有數(shù)據(jù)形式單一的優(yōu)點(diǎn)，更有利于實(shí)現(xiàn)跨應(yīng)用、跨OS、跨設(shè)備的統(tǒng)一數(shù)據(jù)表達(dá)。

針對(duì)需求多樣性挑戰(zhàn)，可基于大語言模型滿足用戶的多樣性需求。理想情況下，可基于第一性原理，讓模型直接感知用戶所感知的數(shù)據(jù)，并由模型直接對(duì)終態(tài)數(shù)據(jù)進(jìn)行處理，進(jìn)而理解內(nèi)容最終實(shí)現(xiàn)與用戶交互，類似GPT-4V。目前，該方案還存在以下幾方面限制：（1）能力限制：對(duì)于圖像數(shù)據(jù)的處理能力依然弱于對(duì)文本的處理；（2）成本限制：終態(tài)數(shù)據(jù)量過大導(dǎo)致調(diào)用次數(shù)急劇上升，成本無法接受；（3）性能限制：?jiǎn)螏瑪?shù)據(jù)的處理時(shí)間以秒計(jì)算（如GPT4），時(shí)延無法接受；（4）安全限制：手機(jī)保存了用戶最為隱私的數(shù)據(jù)，安全性不容絲毫閃失。此外，大語言模型的安全問題也應(yīng)該得到重視。

針對(duì)隱私敏感性挑戰(zhàn)，可基于機(jī)密計(jì)算技術(shù)在終端側(cè)保護(hù)個(gè)人數(shù)據(jù)存儲(chǔ)和處理的隱私性。機(jī)密計(jì)算是一種在計(jì)算機(jī)處理器的保護(hù)區(qū)內(nèi)處理數(shù)據(jù)的方式。早期，機(jī)密計(jì)算在云側(cè)應(yīng)用較多，如Microsoft Azure、Amazon和Google Cloud等云廠商均推出了基于機(jī)密計(jì)算的產(chǎn)品或解決方案。目前，在端側(cè)部署機(jī)密計(jì)算方案也逐漸受到業(yè)內(nèi)關(guān)注，如2021年推出了面向ARM平臺(tái)的機(jī)密計(jì)算體系結(jié)構(gòu)（CCA），支持內(nèi)存加密和機(jī)密虛擬機(jī)抽象；2021年推出了面向RISC-V平臺(tái)的可信執(zhí)行環(huán)境“蓬萊”，同樣支持內(nèi)存加密和機(jī)密虛擬機(jī)抽象。目前，機(jī)密計(jì)算已經(jīng)成為云計(jì)算的重要發(fā)展方向，而端側(cè)機(jī)密計(jì)算會(huì)快速發(fā)展。為了解決當(dāng)前算力不足問題，可以采用基于OpenHarmony分布式機(jī)密軟總線的端+云的協(xié)同機(jī)密計(jì)算方案。

為了解決在端/云側(cè)部署機(jī)密計(jì)算或可信執(zhí)行環(huán)境（TEE）的相關(guān)難題，上海交通大學(xué)團(tuán)隊(duì)提出了ARM的機(jī)密虛擬機(jī)平臺(tái)TwinVisor；微內(nèi)核安全操作系統(tǒng)ChCore；可信執(zhí)行環(huán)境軟硬件平臺(tái)"蓬萊"；分布式可信執(zhí)行環(huán)境端+云的機(jī)密計(jì)算方案等學(xué)術(shù)成果，進(jìn)一步保障了用戶個(gè)人數(shù)據(jù)在智能終端設(shè)備上存儲(chǔ)和處理的隱私性和安全性。

未來，基于大語言模型構(gòu)建個(gè)人數(shù)字助理將極大提高生產(chǎn)率。個(gè)人數(shù)字助理能夠讓個(gè)人擁有字面意義上的“過目不忘”能力，在用戶需要的時(shí)候進(jìn)行查詢和反饋；除查詢功能外，數(shù)字助理還可替用戶主動(dòng)完成相關(guān)操作。此外，面向未來的個(gè)人數(shù)據(jù)底層基礎(chǔ)設(shè)施也會(huì)逐步完善，如支持多種大語言模型的插件式架構(gòu)、端云協(xié)同構(gòu)建系統(tǒng)安全能力以及端側(cè)硬件算力提升以支持端側(cè)大模型等。

通過端側(cè)操作系統(tǒng)架構(gòu)設(shè)計(jì)和軟硬件協(xié)同，并結(jié)合大語言模型的強(qiáng)大能力，能夠在保障用戶隱私和數(shù)據(jù)安全的前提下，進(jìn)一步提升智能終端設(shè)備對(duì)用戶個(gè)人數(shù)據(jù)的處理效率。

「嘉賓材料暫不分享」

E N D

關(guān)注我們，獲取更多精彩。

審核編輯 黃宇