數(shù)據(jù)安全探索者任奎：數(shù)據(jù)是新時代的生產(chǎn)要素;保護(hù)數(shù)據(jù)原生價值，實(shí)現(xiàn)數(shù)據(jù)的所有權(quán)保護(hù)、交換與管理;完善數(shù)據(jù)在收集、使用、存儲等階段的全生命周期安全;研究分析復(fù)雜物理數(shù)據(jù)交互場景中的數(shù)據(jù)安全攻防機(jī)理;在保護(hù)數(shù)據(jù)所有權(quán)的前提下實(shí)現(xiàn)高價值數(shù)據(jù)的安全交易;安全技術(shù)標(biāo)準(zhǔn)的推廣與法律法規(guī)的完善。

01 數(shù)據(jù)安全防護(hù)是重大戰(zhàn)略需求

當(dāng)前的行業(yè)共識認(rèn)為數(shù)據(jù)是驅(qū)動數(shù)字經(jīng)濟(jì)發(fā)展的核心動力。以數(shù)據(jù)為基礎(chǔ)的云計算、物聯(lián)網(wǎng)、區(qū)塊鏈、人工智能等經(jīng)濟(jì)生態(tài)及相關(guān)產(chǎn)業(yè)鏈在智慧城市升級、國家重大基建產(chǎn)業(yè)發(fā)展等方面發(fā)揮著積極的作用?！吨袊鴶?shù)字經(jīng)濟(jì)發(fā)展白皮書》顯示，2020年我國數(shù)字經(jīng)濟(jì)規(guī)模已達(dá)39.2萬億元，較上年增加3.3萬億元，占GDP比重為38.6%。

顯而易見，數(shù)據(jù)正在加速驅(qū)動眾多國民經(jīng)濟(jì)產(chǎn)業(yè)強(qiáng)勢騰飛。考慮到數(shù)據(jù)作為核心生產(chǎn)要素的重要地位，數(shù)據(jù)的安全和隱私保護(hù)不容忽視。隨著數(shù)據(jù)科學(xué)與工業(yè)生產(chǎn)的深度融合，數(shù)據(jù)安全的影響正在逐步蔓延到軍事、金融、醫(yī)療、教育等各個領(lǐng)域，并關(guān)乎國家安全。

事實(shí)上，學(xué)界和工業(yè)界都已經(jīng)開始大力推動大數(shù)據(jù)安全戰(zhàn)略布局，各國政府也都相繼出臺各項(xiàng)法律法規(guī)以規(guī)范保障數(shù)據(jù)的安全使用和生產(chǎn)，如我國的《網(wǎng)絡(luò)安全法》、《密碼法》等。數(shù)據(jù)驅(qū)動的應(yīng)用場景正在不斷地推陳出新，因此對數(shù)據(jù)安全防護(hù)的要求也在不斷提高。從一個數(shù)據(jù)安全技術(shù)研究與探索者的角度，我認(rèn)為只有從真實(shí)場景的實(shí)際安全需求出發(fā)，才能尋找到最具價值的前沿研究領(lǐng)域。

鑒于此，我們團(tuán)隊也一直在為揭示數(shù)據(jù)安全防護(hù)面臨的安全與性能間的沖突與挑戰(zhàn)進(jìn)行多方面的探索。力求達(dá)到能夠抵御來自多方面潛在攻擊威脅的數(shù)據(jù)縱深安防保護(hù)，尊重并保障數(shù)據(jù)所有者的權(quán)限和利益，并同時盡最大可能的保留數(shù)據(jù)作為生產(chǎn)要素的原生價值。這也是當(dāng)今整個數(shù)據(jù)安全行業(yè)正在追逐的共同目標(biāo)。

02 全生命周期安全防護(hù)志在必行

以剛剛過去的2020年為例，據(jù)IBM安全機(jī)構(gòu)發(fā)布，僅在這一年里，全球由于數(shù)據(jù)泄漏事件造成的平均經(jīng)濟(jì)損失高達(dá)386萬美元，遍及醫(yī)療、金融、交通運(yùn)輸?shù)雀鱾€行業(yè)。

眾多實(shí)例表明，數(shù)據(jù)隱私泄露可能發(fā)生在存儲、傳輸、運(yùn)行、處理等任何一個環(huán)節(jié)。因此，為了最大程度防止數(shù)據(jù)隱私泄漏，保障數(shù)據(jù)在整個生命周期內(nèi)的安全性成為迫切需要解決的問題。在過去的數(shù)十年里，國內(nèi)外的數(shù)據(jù)安全研究者與從業(yè)人員們已經(jīng)建立起了諸多技術(shù)安全標(biāo)準(zhǔn)與規(guī)范，諸如AES、國密及TLS等，在數(shù)據(jù)存儲和傳輸層面的安防保障提供了強(qiáng)有力的支撐。

但是在數(shù)據(jù)運(yùn)行時的安防保護(hù)措施，仍然有相當(dāng)大的局限性。具體而言，不論數(shù)據(jù)存儲和傳輸時的安防措施做得如何，一旦到了數(shù)據(jù)運(yùn)行及處理環(huán)節(jié)，數(shù)據(jù)一般情況下都是以明文形式呈現(xiàn)出來的，這就給攻擊者們(它們既可以來自外部亦或者來自內(nèi)部)帶來可乘之機(jī)。

不同于其他自然界的生產(chǎn)資料，數(shù)據(jù)作為核心生產(chǎn)要素，一旦以明文呈現(xiàn)，是可以被攻擊者輕易拷貝、復(fù)制或竊取的，從而損害數(shù)據(jù)所有者的權(quán)限與利益。因此，如何保護(hù)數(shù)據(jù)運(yùn)行時的安全，力求做到全生命周期的數(shù)據(jù)安全防護(hù)，是當(dāng)下數(shù)據(jù)安全行業(yè)公認(rèn)的一個痛點(diǎn)，也是我們正在著手研究的熱點(diǎn)問題之一。

數(shù)據(jù)運(yùn)行時安全的技術(shù)方向和發(fā)展趨勢日新月異，包括諸如同態(tài)加密、安全多方計算、可搜索加密、可信硬件在內(nèi)的技術(shù)點(diǎn)，雖然側(cè)重點(diǎn)不同，但共同的目的都是要做到數(shù)據(jù)“可用”而“不可見”。即在數(shù)據(jù)全生命周期保護(hù)(尤其是運(yùn)行時保護(hù))的前提下，最大可能地保留數(shù)據(jù)作為生產(chǎn)要素的原生價值，從而為達(dá)到數(shù)據(jù)的縱深安防保護(hù)提供強(qiáng)有力的技術(shù)支撐。這些技術(shù)的難點(diǎn)攻關(guān)和標(biāo)準(zhǔn)規(guī)范推動進(jìn)程，正在學(xué)界和工業(yè)界的共同推進(jìn)下飛速發(fā)展。

[[409169]]

我們研究組也在這些領(lǐng)域深耕多年，有幸見證了業(yè)界對保護(hù)數(shù)據(jù)在整個生命周期內(nèi)的安全性所做出的共同努力。從我職業(yè)生涯伊始，我和我的合作者們便一直致力于云數(shù)據(jù)安全(包括數(shù)據(jù)運(yùn)行時的安全)方面的技術(shù)研究工作。

回顧起初，數(shù)據(jù)上云的趨勢才剛剛興起。云平臺固然帶來了諸多優(yōu)勢，包括按需彈性服務(wù)、可擴(kuò)展性和較低的入門成本等。但隨著數(shù)據(jù)和計算任務(wù)不斷遷移外包到云平臺，這個計算服務(wù)模式的轉(zhuǎn)變，也引發(fā)了許多新的數(shù)據(jù)安全和隱私問題，這些思考激發(fā)了我們的研究興趣。

在諸多我們開展過的研究課題里，一個比較代表性的主要挑戰(zhàn)就是如何維持密文數(shù)據(jù)的可搜索性，在不泄漏查詢或數(shù)據(jù)內(nèi)容的前提下，實(shí)現(xiàn)密文檢索技術(shù)。這項(xiàng)研究的出發(fā)點(diǎn)，來源于實(shí)際生活中，數(shù)據(jù)搜索功能是無處不在的，數(shù)據(jù)搜索可以方便的讓我們在大量的數(shù)據(jù)集中，快速索取到我們感興趣的數(shù)據(jù)。

當(dāng)時，只有少數(shù)密碼原語可以滿足相關(guān)安全性設(shè)計的要求，并且其功能仍然十分有限。鑒于此，我們開始了對加密數(shù)據(jù)的通用搜索的系統(tǒng)研究，并正式確定了許多新的搜索概念和基于密文數(shù)據(jù)的安全搜索設(shè)計，例如安全排序搜索，加密模糊搜索，多關(guān)鍵字搜索，圖形搜索和相似性搜索。

令人欣慰的是，我們的許多早期成果都得到了學(xué)術(shù)界和行內(nèi)從業(yè)者的認(rèn)可，這些認(rèn)可也激勵了我們進(jìn)一步探索更卓越的密文檢索相關(guān)密碼學(xué)原語設(shè)計。

與此同時，我們也關(guān)注到了這些密碼設(shè)計在實(shí)際部署時所遇到的安全與性能方面的挑戰(zhàn)，以及相關(guān)使用場景的局限性。尤其是從功能性角度和實(shí)際部署場景需求出發(fā)，僅僅實(shí)現(xiàn)上述密文數(shù)據(jù)的安全搜索設(shè)計是不夠的。

這也讓我們近期的研究焦點(diǎn)，逐步聚焦在如何構(gòu)建一套功能完備的加密數(shù)據(jù)庫管理系統(tǒng)這一前沿領(lǐng)域。數(shù)據(jù)庫管理系統(tǒng)是當(dāng)今各類應(yīng)用場景的核心計算架構(gòu)支柱之一，為不同規(guī)模與類型的數(shù)據(jù)提供了組織管理、存儲、查詢、分析計算等豐富的功能。加密搜索的安全設(shè)計，只能為復(fù)雜的數(shù)據(jù)庫系統(tǒng)提供某些原始操作，卻難以滿足工業(yè)界日益增長的性能和功能多樣性方面的需求。

幸運(yùn)的是，基于硬件實(shí)現(xiàn)可信執(zhí)行環(huán)境(TEE)技術(shù)的發(fā)展，例如ARM TrustZone和Intel SGX等，給數(shù)據(jù)運(yùn)行時安全的相關(guān)設(shè)計帶來了新的契機(jī)。

相比于傳統(tǒng)復(fù)雜且功能受限的密碼學(xué)方案設(shè)計，TEE內(nèi)部數(shù)據(jù)天然地具有私密性和完整性的保護(hù)，能提供更豐富的功能和更好的性能。如何利用好TEE技術(shù)，并與加密數(shù)據(jù)庫系統(tǒng)的構(gòu)建，進(jìn)行深度融合，仍然有相當(dāng)多的重難點(diǎn)問題有待解決。

[[409170]]

我們同時也要認(rèn)識到，TEE技術(shù)也不是無懈可擊的。首先，TEE本身存在安全性隱患。一方面是因?yàn)橛布峡赡艽嬖诼┒?，另一方面是可信硬件在設(shè)計時沒有考慮側(cè)信道攻擊，比如Intel SGX明確表明不防御側(cè)信道攻擊。雖然這些攻擊需要的條件較為苛刻，但也一定程度的影響了TEE的安全性。

其次，如果運(yùn)行在TEE內(nèi)的代碼本身存在漏洞，則仍可以被攻擊者利用，破壞相關(guān)系統(tǒng)設(shè)計的安全性(比如前述的加密數(shù)據(jù)庫系統(tǒng))。運(yùn)行在TEE內(nèi)的代碼越多，其存在漏洞的可能性越大。

最后，可信硬件的使用不可避免會引入額外的開銷，例如程序進(jìn)出Enclave以及數(shù)據(jù)的頁交換等。目前，我們已經(jīng)在嘗試解決這些問題，雖然有不少挑戰(zhàn)，但我相信我們從該領(lǐng)域過去的項(xiàng)目中積累的經(jīng)驗(yàn)必定會為將來的研究提供諸多幫助。

我們不僅需要使用上述基于安全軟硬件的數(shù)據(jù)保護(hù)方案來保證數(shù)據(jù)運(yùn)行中的安全隱私，在數(shù)據(jù)運(yùn)行后的發(fā)布等階段，隱私泄露的風(fēng)險依然存在。通過結(jié)合用戶在互聯(lián)網(wǎng)上的公開信息(如微博等社交平臺上發(fā)布的個人資料)，攻擊者依然可以通過推斷攻擊(Reference Attack)從經(jīng)過數(shù)據(jù)脫敏的匿名數(shù)據(jù)庫中準(zhǔn)確定位大部分用戶的個人身份。

為解決這一問題，差分隱私(Differential Privacy)這一敏感數(shù)據(jù)保護(hù)技術(shù)被提出。其通過在原始數(shù)據(jù)中引入受控隨機(jī)性，提供了一個嚴(yán)格的數(shù)學(xué)工具來量化潛在的數(shù)據(jù)泄漏，并支持隱私保護(hù)數(shù)據(jù)的收集和發(fā)布。在真實(shí)場景中部署差分隱私機(jī)制的挑戰(zhàn)在于如何在實(shí)現(xiàn)差分隱私量化保護(hù)的同時保障各種實(shí)際場景中數(shù)據(jù)的效用。

現(xiàn)有的解決方案大多依賴于隨機(jī)值擾動，要求每個用戶按照差分隱私架構(gòu)下預(yù)定義的隱私參數(shù)擾動其擁有的數(shù)據(jù)。我們團(tuán)隊近期的一項(xiàng)工作提出了一種新的機(jī)制，引入偽造數(shù)據(jù)并與經(jīng)過擾動后的原始數(shù)據(jù)相結(jié)合，在增強(qiáng)數(shù)據(jù)隱私可量化保護(hù)的同時，避免了數(shù)據(jù)可用性的大幅下降。

在常用業(yè)務(wù)場景的模擬環(huán)境中，實(shí)驗(yàn)結(jié)果顯示這一方法在維持同等隱私保護(hù)強(qiáng)度的條件下，將數(shù)據(jù)效用提高了70%以上。目前，這一技術(shù)已經(jīng)被整合到阿里巴巴集團(tuán)的數(shù)據(jù)安全產(chǎn)品Datatrust等應(yīng)用中，幫助保護(hù)數(shù)百萬用戶的隱私。

03 萬戶智聯(lián)下的數(shù)據(jù)安防新挑戰(zhàn)

在過去的二十年里，我們的社會見證了多種多樣的智能設(shè)備和系統(tǒng)的快速發(fā)展。異構(gòu)硬件與軟件平臺種類的多樣性不可避免地導(dǎo)致系統(tǒng)的可攻擊面變得巨大(包括硬件層、系統(tǒng)層、網(wǎng)絡(luò)層、應(yīng)用層、傳感器層等)。在物聯(lián)網(wǎng)技術(shù)快速發(fā)展并廣泛部署的今天，數(shù)據(jù)安防形勢也更為復(fù)雜，導(dǎo)致數(shù)據(jù)安全和隱私問題面臨更嚴(yán)峻的技術(shù)挑戰(zhàn)。

在復(fù)雜場景如自動駕駛、智能制造、智慧醫(yī)療中，用戶的數(shù)據(jù)安全和隱私保護(hù)面臨著更為嚴(yán)重與復(fù)雜的威脅與挑戰(zhàn)。在數(shù)月前發(fā)生的特斯拉車主維權(quán)事件中，特斯拉在公布了事故發(fā)生的行車數(shù)據(jù)后陷入了公布數(shù)據(jù)是否侵犯車主隱私的爭議之中。

在此前發(fā)生的多起特斯拉行車事故中，車輛運(yùn)行數(shù)據(jù)均是確定事故責(zé)任劃分的重要依據(jù)，而數(shù)據(jù)不透明成為特斯拉被詬病最多的地方。根據(jù)我國法律法規(guī)，用戶有權(quán)查閱自己的行車數(shù)據(jù)，為此特斯拉開發(fā)了線上信息系統(tǒng)平臺，供車主查詢獲取車機(jī)交互數(shù)據(jù)。

然而，這也帶來了數(shù)據(jù)泄露等安全隱患問題：

第一，車主需要將身份認(rèn)證信息傳輸給數(shù)據(jù)共享平臺，此通信過程存在身份信息泄露的安全隱患;

第二，為了讓車主能夠?qū)崟r訪問車機(jī)數(shù)據(jù)，車機(jī)與服務(wù)端的通信量和頻次可能會大幅提升，這在客觀上會增加通信鏈路被竊聽或遭受中間人攻擊的風(fēng)險;

第三，數(shù)據(jù)共享平臺的公開性對行車數(shù)據(jù)的可訪問性提出了要求，這容易混淆車主在境外訪問數(shù)據(jù)與境外勢力竊取數(shù)據(jù)的行為，將會對違規(guī)跨國數(shù)據(jù)傳輸行為的監(jiān)測帶來更大挑戰(zhàn)。

再以隨身智能設(shè)備為例，我們團(tuán)隊發(fā)現(xiàn)了多種新形態(tài)的用戶隱私攻擊技術(shù)，其中一項(xiàng)成果表明：智能手機(jī)上可以不用任何授權(quán)，僅利用加速度計就可以竊聽、還原用戶通話的聲音，且準(zhǔn)確率高達(dá)90%。

我們中的許多人可能收到過與關(guān)鍵詞相關(guān)的未經(jīng)請求的廣告，這些廣告就是由設(shè)備上的麥克風(fēng)或者嵌入式傳感器無意或秘密捕獲的。這顯然是不可接受的隱私侵犯。

無論是利用內(nèi)置傳感器對手機(jī)外部環(huán)境中的震動與聲音進(jìn)行偵聽竊取，亦或是利用社交軟件中附近陌生用戶的搜索功能定位追蹤某個特定用戶，都利用了智能設(shè)備與用戶人機(jī)信息交互界面前所未有的豐富性與多樣性，從而繞過傳統(tǒng)的數(shù)據(jù)安全防護(hù)機(jī)制，獲取用戶隱私信息。

隨著智能傳感設(shè)備的日益普及，通過傳感器的數(shù)據(jù)、深度學(xué)習(xí)的模型等交互應(yīng)用，敵手可以實(shí)現(xiàn)各種各樣的攻擊，擺在我們面前的研究挑戰(zhàn)既有理論上的，也有實(shí)踐上的。我希望能與社會各界一道，為保護(hù)數(shù)據(jù)隱私、維護(hù)數(shù)據(jù)安全而努力。

04 打造保護(hù)所有權(quán)的數(shù)據(jù)交易平臺

在現(xiàn)有的技術(shù)方案下，數(shù)據(jù)的安全性與其可利用性往往存在矛盾，二者不可兼得。例如，機(jī)器學(xué)習(xí)在各種類型的任務(wù)中取得了巨大的成功，并被廣泛應(yīng)用于各行各業(yè)(如高頻交易市場、醫(yī)學(xué)診斷分析等)。然而，模型的訓(xùn)練依賴于大量高質(zhì)量的訓(xùn)練數(shù)據(jù)。這表明數(shù)據(jù)作為基礎(chǔ)性戰(zhàn)略資源的地位日益凸顯，數(shù)據(jù)安全與數(shù)據(jù)變現(xiàn)的問題亟待解決。

如何在安全和效用這兩者間尋找一個平衡，既能保障數(shù)據(jù)生產(chǎn)者的權(quán)益，同時盡可能挖掘數(shù)據(jù)蘊(yùn)含著的巨大的價值，需要我們提出一種全新的處理和對待數(shù)據(jù)的方法。

我們認(rèn)為，建立一個有效且可信的數(shù)據(jù)市場是解決數(shù)據(jù)安全和隱私問題的可行方案之一。這一方案可以充分激發(fā)數(shù)據(jù)價值并滿足市場多元化需求，促進(jìn)建立模型數(shù)據(jù)市場，為機(jī)器學(xué)習(xí)模型交易提供渠道。我們研究團(tuán)隊近期的一項(xiàng)工作致力于研究機(jī)器學(xué)習(xí)模型的生產(chǎn)與交易情境下數(shù)據(jù)價值的挖掘。其首次明確了數(shù)據(jù)市場中數(shù)據(jù)所有者、中間商及模型購買者三方各自的期望及能力與他們所受到的限制，開發(fā)了一個全新的名為“中間商”(Dealer)的數(shù)據(jù)市場框架。

在此框架下，數(shù)據(jù)所有者和模型購買者之間的補(bǔ)償問題與中間商的利潤問題都得到了有效解決。在數(shù)據(jù)市場中，合理的補(bǔ)償分配將極大地激發(fā)了數(shù)據(jù)所有者參與市場交易的積極性，這對于進(jìn)一步完善和優(yōu)化數(shù)據(jù)市場治理具有重要意義。

同時，目前的“中間商”框架存在一個限制較強(qiáng)的假設(shè)，即中間商必須是絕對可信的，而這一點(diǎn)在現(xiàn)實(shí)世界中往往很難得到保證。為解決這個問題，我們一直與來自西蒙菲莎大學(xué)的裴健教授緊密合作，并嘗試?yán)枚喾N安全技術(shù)，例如聯(lián)邦學(xué)習(xí)技術(shù)與差分隱私技術(shù)，來構(gòu)建一個安全可信的數(shù)據(jù)市場框架。

05 構(gòu)建數(shù)據(jù)安防技術(shù)標(biāo)準(zhǔn)與完善相關(guān)法律監(jiān)管

在數(shù)據(jù)安全與隱私保護(hù)中，不存在畢其功于一役的技術(shù)與手段。即使有不斷加強(qiáng)的研究和新技術(shù)手段，在技術(shù)層面上也很難根本解決數(shù)據(jù)泄露、侵犯隱私的問題。比如，智能汽車數(shù)據(jù)規(guī)范使用單純從技術(shù)上很難解決，需要國家從標(biāo)準(zhǔn)和相關(guān)法律法規(guī)的制定方面定義責(zé)任邊界，相關(guān)審計部門對事故各個環(huán)節(jié)進(jìn)行責(zé)任認(rèn)定。

[[409171]]

在這方面，浙大網(wǎng)安研究團(tuán)隊領(lǐng)銜推動了ISO/IEC PWI 7748 “基于零知識證明的隱私保護(hù)指導(dǎo)與實(shí)踐” 國際標(biāo)準(zhǔn)的制定，并參與了國內(nèi)首個SDK國家標(biāo)準(zhǔn)《移動互聯(lián)網(wǎng)應(yīng)用程序(APP)SDK安全指南》、IEEE標(biāo)準(zhǔn)P2866.1《Standard for Device Trusted Extension: Software Architecture》、國內(nèi)首個數(shù)字消費(fèi)券團(tuán)體標(biāo)準(zhǔn)《數(shù)字消費(fèi)券服務(wù)規(guī)范》等國際國內(nèi)相關(guān)安全標(biāo)準(zhǔn)的制定。通過構(gòu)建數(shù)據(jù)安全和隱私保護(hù)的評估體系，制定安全技術(shù)標(biāo)準(zhǔn)和測評標(biāo)準(zhǔn)，建立數(shù)據(jù)平臺及服務(wù)安全評估體系，將成為保障數(shù)據(jù)安全和隱私的有效舉措，切實(shí)促進(jìn)數(shù)據(jù)安全和隱私保護(hù)保障能力的全面提升。

更重要的是，通過行之有效的監(jiān)管手段，為互聯(lián)網(wǎng)企業(yè)在追逐經(jīng)濟(jì)效益的訴求時套上法律與監(jiān)管的韁繩，在尋求經(jīng)濟(jì)效益與社會效益間、在為公眾提供便利與保護(hù)公眾隱私間找到微妙的平衡。

目前，我國《數(shù)據(jù)安全法》《個人信息保護(hù)法》正在加緊制定出臺，從而在法律層面為數(shù)據(jù)安全和個人隱私保護(hù)提供法律保障。”通過加緊構(gòu)建數(shù)據(jù)安防技術(shù)標(biāo)準(zhǔn)與相關(guān)法律法規(guī)的綜合治理體系，建立數(shù)據(jù)資源的確權(quán)、開放、流通以及交易的相關(guān)制度，從而在運(yùn)行機(jī)制上進(jìn)一步完善數(shù)據(jù)產(chǎn)權(quán)保護(hù)制度，為數(shù)據(jù)安全和個人隱私、個人信息保護(hù)提供制度保障。