《數(shù)據(jù)安全法》實(shí)施對隱私計算的影響分析

（CWW）近年來，數(shù)字經(jīng)濟(jì)發(fā)展速度之快、輻射范圍之廣、影響程度之深前所未有，隱私計算（Privacy-preserving computation）等新技術(shù)正在成為整合數(shù)據(jù)生產(chǎn)要素、促進(jìn)數(shù)字經(jīng)濟(jì)發(fā)展、重塑全球經(jīng)濟(jì)結(jié)構(gòu)的關(guān)鍵力量。

與此同時，新技術(shù)、新業(yè)態(tài)帶來的數(shù)據(jù)安全隱患也為國家安全、產(chǎn)業(yè)發(fā)展和個人隱私帶來諸多挑戰(zhàn)。已于2021年9月1日起正式施行的《中華人民共和國數(shù)據(jù)安全法》（以下簡稱《數(shù)據(jù)安全法》），對新技術(shù)的發(fā)展提出了新要求，也指明了大數(shù)據(jù)產(chǎn)業(yè)健康發(fā)展的方向。

《數(shù)據(jù)安全法》對數(shù)據(jù)流通提出新要求

《數(shù)據(jù)安全法》提出要在保障數(shù)據(jù)安全的基礎(chǔ)上促進(jìn)數(shù)據(jù)的開發(fā)利用，一方面建立了數(shù)據(jù)安全保障制度的基本框架和數(shù)據(jù)處理者的基本義務(wù)，另一方面完善了數(shù)據(jù)產(chǎn)業(yè)發(fā)展、政務(wù)數(shù)據(jù)開放的促進(jìn)機(jī)制。在保安全和促發(fā)展的大背景下，隱私計算技術(shù)有可能成為促進(jìn)數(shù)據(jù)價值安全釋放的關(guān)鍵技術(shù)手段。

隱私計算是指在保證數(shù)據(jù)提供方不泄露原始數(shù)據(jù)的前提下，對數(shù)據(jù)進(jìn)行分析計算的一系列信息技術(shù)，保障數(shù)據(jù)在流通與融合過程中的“可用不可見”。隱私計算是眾多技術(shù)交叉融合的產(chǎn)物，目前主流的隱私計算技術(shù)主要分為三大技術(shù)路線：第一條路線是以多方安全計算為代表的基于密碼學(xué)的隱私計算技術(shù)；第二條路線是以聯(lián)邦學(xué)習(xí)為代表的人工智能與密碼學(xué)融合衍生的隱私計算技術(shù)；第三條路線是以可信執(zhí)行環(huán)境為代表的基于可信環(huán)境的隱私保護(hù)技術(shù)。不同技術(shù)往往組合使用，在保證原始數(shù)據(jù)安全和隱私性的同時，完成對數(shù)據(jù)的計算和分析任務(wù)。

圖1 隱私計算技術(shù)體系

隱私計算技術(shù)為數(shù)據(jù)的隱私保護(hù)與計算提供豐富的解決方案，可從底層硬件、基礎(chǔ)層和算法應(yīng)用等不同角度加以區(qū)分。隱私計算技術(shù)體系如圖1所示。

在底層硬件層面，多方安全計算與聯(lián)邦學(xué)習(xí)通常從軟件層面設(shè)計安全框架，可信執(zhí)行環(huán)境則是以可信硬件為底層技術(shù)而實(shí)現(xiàn)的隱私計算方案。

在算法構(gòu)成層面，多方安全計算技術(shù)基于各類基礎(chǔ)密碼學(xué)工具設(shè)計不同的安全協(xié)議；聯(lián)邦學(xué)習(xí)除可將多方安全計算協(xié)議作為其隱私保護(hù)的技術(shù)支撐外，基于噪聲擾動的差分隱私技術(shù)也廣泛應(yīng)用于現(xiàn)在聯(lián)邦學(xué)習(xí)框架中；可信執(zhí)行環(huán)境通常與一些密碼學(xué)算法、安全協(xié)議相結(jié)合，為多方數(shù)據(jù)提供保護(hù)隱私的安全計算。

以上述技術(shù)為基礎(chǔ)，隱私計算逐漸演化出豐富的算法應(yīng)用以滿足不同場景需求。多方安全計算通常用于聯(lián)合統(tǒng)計和查詢場景；聯(lián)邦學(xué)習(xí)則更側(cè)重應(yīng)用于聯(lián)合建模及預(yù)測場景中；可信執(zhí)行環(huán)境作為一種更加通用的技術(shù)方案，可設(shè)計用于聯(lián)合統(tǒng)計、聯(lián)合查詢、聯(lián)合建模及聯(lián)合預(yù)測等諸多場景。

因此，隱私計算技術(shù)因其保障數(shù)據(jù)安全、挖掘數(shù)據(jù)價值的巨大潛力，有助于實(shí)現(xiàn)《數(shù)據(jù)安全法》在數(shù)據(jù)安全保障基礎(chǔ)上促進(jìn)數(shù)字經(jīng)濟(jì)發(fā)展的立法目的，促進(jìn)數(shù)字技術(shù)與實(shí)體經(jīng)濟(jì)深度融合，保障國家安全以及個人、組織的合法權(quán)益。

隱私計算與《數(shù)據(jù)安全法》的適配分析

隱私計算通過在保護(hù)數(shù)據(jù)安全的同時實(shí)現(xiàn)多源數(shù)據(jù)跨域合作，有助于應(yīng)對數(shù)據(jù)保護(hù)與融合應(yīng)用的難題，有望成為平衡數(shù)據(jù)安全與應(yīng)用發(fā)展的關(guān)鍵技術(shù)支點(diǎn)。

有助于履行安全保護(hù)義務(wù)

《數(shù)據(jù)安全法》第八條和第二十七條要求，開展數(shù)據(jù)處理活動應(yīng)履行數(shù)據(jù)安全保護(hù)義務(wù)，采取相應(yīng)的技術(shù)措施和其他必要措施，保障數(shù)據(jù)安全。隱私計算技術(shù)的整體特征是可以在不泄露原始數(shù)據(jù)的基礎(chǔ)上，實(shí)現(xiàn)跨機(jī)構(gòu)間數(shù)據(jù)的安全分析、安全計算、安全建模、安全預(yù)測、安全查詢等，可在保護(hù)數(shù)據(jù)隱私的前提下為數(shù)據(jù)價值的挖掘提供安全保障。

以可信執(zhí)行環(huán)境（Trusted Execution Environment，TEE）為例，TEE通過軟硬件方法在中央處理器中構(gòu)建一個安全的區(qū)域，保證其內(nèi)部加載的程序和數(shù)據(jù)在機(jī)密性和完整性上得到保護(hù)。作為一個隔離的執(zhí)行環(huán)境，TEE為在設(shè)備上運(yùn)行的受信任應(yīng)用程序提供了比普通操作系統(tǒng)更高級別的安全性以及比安全元件更多的功能。為了保證傳輸至可信環(huán)境中的數(shù)據(jù)的安全性，TEE也可以與其他密碼學(xué)算法結(jié)合，有針對性地設(shè)計隱私計算方案。

因此，使用隱私計算技術(shù)助力數(shù)據(jù)流通本身即屬于履行《數(shù)據(jù)安全法》要求的數(shù)據(jù)安全保護(hù)義務(wù)的一種形式。在實(shí)操中，當(dāng)個人信息處理者需要自證合規(guī)時，隱私計算等技術(shù)有望作為履行信息安全保護(hù)義務(wù)的證據(jù)幫助企業(yè)減免違規(guī)風(fēng)險。

有助于保障各主體數(shù)據(jù)權(quán)益

《數(shù)據(jù)安全法》第八條要求，開展數(shù)據(jù)處理活動，不得危害國家安全、公共利益，不得損害個人、組織的合法權(quán)益。以多方安全計算為例，在多個參與方共同計算一個目標(biāo)函數(shù)時，該技術(shù)可以保證每一方僅獲取自己的計算結(jié)果，無法通過計算過程中的交互數(shù)據(jù)推測出其他任意一方的輸入和輸出數(shù)據(jù)。由此，多個非互信主體得以在數(shù)據(jù)相互保密的前提下進(jìn)行數(shù)據(jù)融合計算，實(shí)現(xiàn)對數(shù)據(jù)用途和用量的控制，有助于避免涉及國家安全、商業(yè)秘密、個人隱私的數(shù)據(jù)在融合過程中被其他方獲知，因而隱私計算也是履行《數(shù)據(jù)安全法》權(quán)益保障義務(wù)的一種重要技術(shù)手段。

有助于促進(jìn)數(shù)字經(jīng)濟(jì)產(chǎn)業(yè)生態(tài)建設(shè)

《數(shù)據(jù)安全法》第一章第十六條規(guī)定：“國家支持?jǐn)?shù)據(jù)開發(fā)利用和數(shù)據(jù)安全技術(shù)研究，鼓勵數(shù)據(jù)開發(fā)利用和數(shù)據(jù)安全等領(lǐng)域的技術(shù)推廣和商業(yè)創(chuàng)新，培育、發(fā)展數(shù)據(jù)開發(fā)利用和數(shù)據(jù)安全產(chǎn)品、產(chǎn)業(yè)體系?！?在《數(shù)據(jù)安全法》為數(shù)字經(jīng)濟(jì)的監(jiān)管定好基調(diào)和大方向的前提下，隱私計算作為合規(guī)數(shù)據(jù)互聯(lián)互通的一種重要技術(shù)，將為數(shù)據(jù)交易、數(shù)據(jù)共享和政務(wù)數(shù)據(jù)開放等帶來更大的發(fā)展空間和更廣闊的應(yīng)用前景。

對數(shù)據(jù)提供方而言，與傳統(tǒng)直接通過數(shù)據(jù)集、數(shù)據(jù)接口等方式提供原始數(shù)據(jù)明文的方式相比，隱私計算以僅提供數(shù)據(jù)切片、模型梯度等衍生數(shù)據(jù)的方式，為數(shù)據(jù)流通提供了更安全、更合規(guī)的技術(shù)路徑，豐富了數(shù)據(jù)流通的供給端；對數(shù)據(jù)需求方而言，不直接接觸數(shù)據(jù)提供方的原始數(shù)據(jù)，只依照協(xié)議約定獲取技術(shù)處理后的模型和輸出結(jié)果，有助于明確數(shù)據(jù)需求方在數(shù)據(jù)流通過程中的角色，切分參與方之間的義務(wù)和責(zé)任，提高了數(shù)據(jù)利用效率和安全性；對隱私計算技術(shù)提供方而言，供需雙方對安全和合規(guī)的迫切需求催生出巨大的市場空間，也為技術(shù)的跨躍式進(jìn)步提供了更多可能。

隱私計算仍面臨的問題

在隱私計算具備打破數(shù)據(jù)“孤島”、加強(qiáng)隱私保護(hù)、強(qiáng)化數(shù)據(jù)安全合規(guī)性的潛力的同時，《數(shù)據(jù)安全法》等新法也對數(shù)據(jù)流通技術(shù)和產(chǎn)業(yè)提出了需要解決的新合規(guī)問題。

隱私計算無法避免數(shù)據(jù)源的違規(guī)隱患

作為對輸入數(shù)據(jù)進(jìn)行后續(xù)處理的一種技術(shù)，隱私計算技術(shù)本身不能解決數(shù)據(jù)來源的合規(guī)性問題。隱私計算是多元數(shù)據(jù)融合的過程，各參與方均可將自己收集到的數(shù)據(jù)投入聯(lián)合機(jī)器學(xué)習(xí)及聯(lián)合分析中，因此也導(dǎo)致了隱私計算的數(shù)據(jù)來源具有復(fù)雜性。數(shù)據(jù)源合規(guī)由此成為“牽一發(fā)而動全身”的問題，任何一個數(shù)據(jù)源受到污染均可能影響輸出結(jié)果的質(zhì)量。因此在將數(shù)據(jù)輸入模型之前，隱私計算方案必須附加對數(shù)據(jù)來源合規(guī)性進(jìn)行確認(rèn)的流程和技術(shù)方案，避免影響隱私計算整體的安全與合規(guī)。

隱私計算需要保證過程數(shù)據(jù)和產(chǎn)出結(jié)果的合規(guī)

隱私計算輸出的過程數(shù)據(jù)和最終計算結(jié)果也有涉及隱私的風(fēng)險。例如在金融機(jī)構(gòu)和征信機(jī)構(gòu)合作預(yù)測某個借款人信用的場景，如果在特征對齊或輸出預(yù)測結(jié)果時泄露了借款人的ID，則有可能泄露借款人本身有借款需求的信息。因此金融機(jī)構(gòu)可能需要通過隱私集合求交集或隱私信息檢索等方式，在預(yù)測借款人信用的同時不泄露借款人的ID，從而實(shí)現(xiàn)輸出結(jié)果階段的隱私保護(hù)。

隱私計算需要規(guī)避自動化決策的風(fēng)險

當(dāng)隱私計算模型的使用目的是實(shí)現(xiàn)信息推送、商業(yè)營銷時，參與方也需要關(guān)注自動化決策的合規(guī)風(fēng)險。例如當(dāng)聯(lián)邦學(xué)習(xí)被用于精準(zhǔn)推薦的聯(lián)合營銷建模的場景時，根據(jù)現(xiàn)行法律的規(guī)定，隱私計算的參與方須保證決策的透明度和結(jié)果的公平公正，不得對個人在交易條件上實(shí)行不合理的差別待遇。換言之，隱私計算需要首先確保模型本身的設(shè)計符合算法正義的要求，算法具有一定的透明性和可解釋性，由模型得出的結(jié)果不會對個人的權(quán)益造成不合理的影響。這對于具有一定黑盒屬性的隱私計算而言，可謂是一個不小的挑戰(zhàn)。

隱私計算參與方的定性存在模糊性

隱私計算的參與者眾多，至少包括數(shù)據(jù)提供方、結(jié)果使用方、技術(shù)提供方3類角色。在實(shí)踐中，參與方的職責(zé)和權(quán)利往往交叉融合，在隱私計算發(fā)展的早期，具體業(yè)務(wù)實(shí)踐也往往因為缺乏共識而使得法律關(guān)系較為復(fù)雜。以使用隱私計算處理政務(wù)數(shù)據(jù)為例，作為技術(shù)提供方的隱私計算平臺究竟如何在法律上定性，仍有多種可能性。技術(shù)提供方可能由于其對梯度數(shù)據(jù)等過程數(shù)據(jù)的處理而成為數(shù)據(jù)處理者，可能因為受數(shù)據(jù)供需方的委托處理數(shù)據(jù)而成為受托方，也可能因為促成了數(shù)據(jù)供需方的數(shù)據(jù)交換而構(gòu)成《數(shù)據(jù)安全法》下的數(shù)據(jù)交易中介服務(wù)機(jī)構(gòu)。

不同法律定性將影響隱私計算技術(shù)提供方需要承擔(dān)的義務(wù)和責(zé)任。作為數(shù)據(jù)處理者，《數(shù)據(jù)安全法》要求其承擔(dān)建立健全數(shù)據(jù)安全管理制度，加強(qiáng)風(fēng)險監(jiān)測及補(bǔ)救，采取技術(shù)措施保障數(shù)據(jù)安全和組織開展數(shù)據(jù)安全教育培訓(xùn)，采取相應(yīng)的技術(shù)措施保障數(shù)據(jù)安全等義務(wù)；作為政務(wù)數(shù)據(jù)的受托方，《數(shù)據(jù)安全法》要求其依法依約履行數(shù)據(jù)安全保護(hù)義務(wù)，不得擅自留存、使用、泄露或者向他人提供政務(wù)數(shù)據(jù)；作為數(shù)據(jù)中介機(jī)構(gòu)，技術(shù)提供方需要承擔(dān)要求數(shù)據(jù)提供方說明數(shù)據(jù)來源、審核交易雙方的身份、留存審核交易記錄等義務(wù)。

隱私計算是一門多學(xué)科跨領(lǐng)域的綜合技術(shù)體系，因此產(chǎn)業(yè)的發(fā)展需要監(jiān)管機(jī)構(gòu)、產(chǎn)業(yè)界和學(xué)術(shù)界的共同參與。通過建立各方之間的對話機(jī)制、充分發(fā)揮行業(yè)自律組織和標(biāo)準(zhǔn)化組織的作用，隱私計算產(chǎn)業(yè)將加速行業(yè)共識的形成和優(yōu)秀實(shí)踐的沉淀，從而更敏捷地響應(yīng)行業(yè)需求和監(jiān)管的動向，為釋放數(shù)據(jù)要素價值提供更有力的技術(shù)支撐。

關(guān)鍵詞： 資訊 通信世界網(wǎng) 數(shù)據(jù)安全法 隱私計算 大數(shù)據(jù)產(chǎn)業(yè) 數(shù)據(jù)安