信通院專家：規(guī)范算法推薦，縱深推進數(shù)字時代網(wǎng)絡(luò)平臺治理 ——《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》解讀

當前，新一輪科技革命和產(chǎn)業(yè)變革蓬勃發(fā)展，數(shù)字化、網(wǎng)絡(luò)化、智能化加速推進，算法正成為網(wǎng)絡(luò)平臺的底層架構(gòu)。在繁榮數(shù)字經(jīng)濟、推動社會發(fā)展的同時，算法操縱、算法歧視、算法黑箱等一系列問題凸顯，對算法治理越來越必要，也越來越重要。2022年1月4日，國家網(wǎng)信辦會同工信部、公安部、市場監(jiān)管總局出臺《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（以下簡稱“《管理規(guī)定》”），對算法推薦服務(wù)做出全面規(guī)范，科學(xué)構(gòu)建網(wǎng)絡(luò)平臺問責(zé)體系，成為我國乃至全球第一部對算法進行全面、系統(tǒng)規(guī)范的立法。

總體來看，《管理規(guī)定》是在數(shù)字化變革時代對算法治理的有效回應(yīng)，在立法目的上，旨在實現(xiàn)算法技術(shù)創(chuàng)新與用戶權(quán)益保障之間的良性動態(tài)平衡。在監(jiān)管機制上，逐步由行業(yè)分散監(jiān)管轉(zhuǎn)向整體統(tǒng)籌協(xié)調(diào)。在治理理念上，體現(xiàn)了綜合治理和精細治理并進的思路。

一、順應(yīng)國際算法治理趨勢，提出中國本土化方案

從全球范圍來看，算法治理已經(jīng)成為國際社會廣泛關(guān)注的重要議題。在國際組織層面，OECD、G20、IEEE等相繼發(fā)布人工智能、算法等倫理指南，推動算法實現(xiàn)透明可釋、公平公正、安全可控等。在區(qū)域和國家層面，歐盟提出技術(shù)主權(quán)話語體系，重點關(guān)注算法帶來的人類自主性、人性尊嚴威脅，以及日益突出的極端言論、政治生態(tài)等問題，通過《通用數(shù)據(jù)保護條例》《數(shù)字服務(wù)法（提案）》《數(shù)字市場法（提案）》《人工智能法（提案）》等制度構(gòu)建，持續(xù)遏制美國巨頭平臺攫取歐洲數(shù)據(jù)資源，保障歐洲公民基本權(quán)利?；诙喾N族多文化、對公權(quán)力信任缺失等社會背景，美國在公共治理、招聘、司法等場景下，頻繁出現(xiàn)算法種族歧視、操縱政治選舉等問題，直接促使《紐約算法問責(zé)法》《機器人披露和責(zé)任法》等相關(guān)法律問世。

近年來，我國《電子商務(wù)法》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》《個人信息保護法》《反壟斷法（修正草案）》等相關(guān)立法對算法問題已作出相關(guān)規(guī)定。從規(guī)制范圍來看，《管理規(guī)定》覆蓋對象頗為廣泛。不僅包括用于社交媒體、電商場景、搜索平臺的個性化推送算法、排序精選算法、檢索過濾算法，也包括適用于網(wǎng)約車、外賣場景下的調(diào)度決策類算法，還包括用于游戲和虛擬環(huán)境中生成內(nèi)容的生成合成類算法。同時，不僅限于當前討論熱烈的具有典型算法黑箱性、數(shù)據(jù)依賴性和通用目的性的人工智能算法，同時也包含了當前應(yīng)用廣泛，僅基于數(shù)學(xué)、邏輯學(xué)，用以實現(xiàn)輔助人類功能的非人工智能算法。

一方面，《管理規(guī)定》的出臺順應(yīng)國際算法治理趨勢，體現(xiàn)算法公平正義、安全可信等共同價值，有助于我國參與國際算法治理合作，在全球范圍內(nèi)發(fā)揮算法治理引領(lǐng)作用。另一方面，《管理規(guī)定》聚焦我國本土實踐，回應(yīng)較為突出的信息繭房、干預(yù)信息呈現(xiàn)、網(wǎng)絡(luò)沉迷、大數(shù)據(jù)殺熟、勞動保障等熱點問題，重點關(guān)注商業(yè)領(lǐng)域算法應(yīng)用場景，高度體現(xiàn)我國本土需求。

二、強化算法透明度要求，同時注意精細化區(qū)分

算法透明度是一種針對算法運行的規(guī)制原則，要求算法的設(shè)計方或者使用方披露算法邏輯、輸入數(shù)據(jù)等算法要素，有效解決算法操縱用戶思想行為、問責(zé)缺失等問題。對于深度學(xué)習(xí)算法，還面臨更為復(fù)雜的不可解釋問題。當前，揭開算法面紗、強化算法透明度已成為公眾熟知且被普遍認可的算法倫理準則，在部分國家和地區(qū)也已經(jīng)寫入立法。

《管理規(guī)定》將算法公開透明列為基本原則，并從三個維度進行精細化設(shè)計，注重算法透明度目的和制度的統(tǒng)一，有效平衡算法透明和企業(yè)利益。首先，強調(diào)對用戶透明，明確告知機制。《管理規(guī)定》第16條規(guī)定平臺應(yīng)當以顯著方式告知用戶其提供算法推薦服務(wù)的情況，并以適當方式公示算法推薦服務(wù)的基本原理、目的意圖和主要運行機制等。該條款并不要求披露源代碼，僅要求說明算法的運行邏輯、運行目的，同時強調(diào)以簡明有效的方式實現(xiàn)有意義的透明度，便于用戶實現(xiàn)知情權(quán)和選擇權(quán)。其次，對監(jiān)管部門透明，確立算法備案制度。《管理規(guī)定》第24條要求通過算法備案系統(tǒng)填報服務(wù)提供者的名稱、服務(wù)形式、應(yīng)用領(lǐng)域、算法類型、算法自評估報告、擬公示內(nèi)容等信息。一方面，算法備案有助于監(jiān)管部門掌握算法運行狀況，評估算法風(fēng)險。另一方面，可作為固定證據(jù)的手段，在損害發(fā)生時，平臺應(yīng)就算法損害結(jié)果、輸入數(shù)據(jù)、運行目的等是否符合備案信息進行說明解釋，并承擔不利后果。最后，對社會透明，推動廣泛監(jiān)督。《管理規(guī)定》要求，遵循公開透明原則，鼓勵行業(yè)組織加強行業(yè)自律，督促指導(dǎo)平臺制定完善服務(wù)規(guī)范并接受社會監(jiān)督，制定并公開算法推薦服務(wù)相關(guān)規(guī)則。由于大型平臺公共屬性增強，算法公開成為平臺履行社會責(zé)任的重要內(nèi)容。

此外，算法透明度要求也進一步推動平臺積極探索人工智能算法的透明度方案。如引入知識圖譜、因果推斷等可解釋的技術(shù)；在深度學(xué)習(xí)算法中引入可理解的人工規(guī)則，不完全由深度學(xué)習(xí)算法模型完成自動化決策；對于算法模型進行可視化分析，輔助人們理解算法模型的決策邏輯，提升透明度等。

三、維護用戶自主選擇權(quán)利，亟需軟法配合落地

算法人工干預(yù)和自主選擇是重塑人類在算法應(yīng)用中的自主性，避免算法操控的重要手段。歐盟《通用數(shù)據(jù)保護條例》第22條確立免于自動化決策權(quán)，其初衷即是避免人類受到未經(jīng)人工干預(yù)的算法控制，以免造成人類自主性喪失、人類責(zé)任缺失等有損人類尊嚴的問題。隨著算法應(yīng)用的普及，自主選擇權(quán)的實現(xiàn)需求更為迫切。在工信部開展的侵害用戶權(quán)益專項整治行動中，“剛剛聊到某個話題，很快就能在某個APP中收到相關(guān)廣告”“APP沒有關(guān)閉推薦算法的選項，有關(guān)閉選項的也隱藏在很難找到的地方”“用蘋果手機叫車，打車費用更高”等侵害用戶權(quán)益問題突出。

《管理規(guī)定》落實《個人信息保護法》《電子商務(wù)法》有關(guān)退出算法推薦的權(quán)利內(nèi)容，要求平臺應(yīng)當向用戶提供不針對其個人特征的選項，或者向用戶提供便捷的關(guān)閉算法推薦服務(wù)的選項。美國2021年6月《過濾氣泡透明度法（提案）》、俄羅斯立法等均提出應(yīng)向用戶提供非基于算法生成的信息選項。同時，《管理規(guī)定》首次提出對用戶標簽進行選擇管理的權(quán)利，確保對輸入數(shù)據(jù)的干預(yù)。用戶標簽作為一種輸入數(shù)據(jù)，直接影響算法模型訓(xùn)練和結(jié)果的生成。賦予用戶對針對個人特征用戶標簽的選擇、刪除權(quán)利，有助于用戶在一定程度主導(dǎo)個人興趣、避免歧視等。

在具體落地層面，單純退出算法推薦是否能滿足用戶最佳需求，如何在界面設(shè)計中滿足用戶對大量標簽的選擇刪除權(quán)利，針對隱性標簽如何實現(xiàn)標簽管理等，需要發(fā)揮行業(yè)標準、倫理規(guī)則、企業(yè)實踐等軟法作用，積極探索用戶賦權(quán)方式。如有平臺對用戶退出界面進行精細化設(shè)計，用戶既可以選擇關(guān)閉全部個性化推薦，也可僅關(guān)閉基于所在位置、基于搜索記錄、基于關(guān)注列表的個性化推薦，為更好平衡用戶體驗、個人自主及風(fēng)險控制，提供了優(yōu)質(zhì)企業(yè)實踐方案。

四、全面確立平臺主體責(zé)任，同時注重場景回應(yīng)治理

數(shù)字經(jīng)濟背景下，平臺借助算法技術(shù)，成為數(shù)據(jù)生產(chǎn)要素的提煉加工者和資源配置方，同時扮演市場參與者和組織者雙重身份，具備了一定的社會權(quán)力。近年，國外網(wǎng)絡(luò)平臺責(zé)任改革趨勢顯著。2020年9月，美國司法部提出改革《通信規(guī)范法》230條款的法律提案指出，因使用算法推薦內(nèi)容，平臺具備了審查言論，并將特定觀點施加于用戶的能力。2021年10月，美國眾議院提出《對抗惡意算法的正義法案》 ，指出為獲取利潤，平臺主動設(shè)計個性化算法宣揚極端主義、傳播虛假信息和有害內(nèi)容，應(yīng)當改革美國《通信規(guī)范法》第230條對平臺責(zé)任的豁免規(guī)則。2020年底，歐盟也發(fā)布《數(shù)字服務(wù)法（提案）》，擬對《電子商務(wù)指令》中的平臺責(zé)任進行改革。法案對超大型平臺使用算法推薦系統(tǒng)作出規(guī)范，要求向用戶說明推薦系統(tǒng)的運行規(guī)則、采用參數(shù)，并賦予用戶調(diào)整參數(shù)的權(quán)利。同時要求平臺定期向數(shù)據(jù)服務(wù)協(xié)調(diào)員和歐盟委員會提交審計報告，其內(nèi)容包括風(fēng)險評估、采取的風(fēng)險控制措施等。

在我國平臺責(zé)任設(shè)置上，《管理規(guī)定》注重遵循主客觀相一致、權(quán)責(zé)一致的原則，并遵循《數(shù)據(jù)安全法》《個人信息保護法》等立法精神，進行分級分類和場景化治理。一方面，《管理規(guī)定》劃清算法推薦服務(wù)的紅線，規(guī)定了不得設(shè)置誘導(dǎo)用戶沉迷或過度消費、不得利用算法虛假注冊賬號等十項“不得”要求。另一方面，《管理規(guī)定》提出應(yīng)當定期進行算法審核、評估，完善網(wǎng)絡(luò)日志留存，配合安全評估和監(jiān)督檢查等十六項“應(yīng)當”要求。在分級分類管理方面，確立了輿論屬性或者社會動員能力、內(nèi)容類別、用戶規(guī)模、算法推薦技術(shù)處理的數(shù)據(jù)重要程度、對用戶行為的干預(yù)程度等判定標準，為平臺監(jiān)管和企業(yè)合規(guī)提供指引。

同時，《管理規(guī)定》對部分重點場景進行集中回應(yīng)。如對于未成年人網(wǎng)絡(luò)沉迷問題，落實《未成年人保護法》網(wǎng)絡(luò)保護專章內(nèi)容，規(guī)定應(yīng)當開發(fā)適合未成年人使用的模式、提供適合未成年人特點的服務(wù)，提出不得利用算法推薦服務(wù)誘導(dǎo)未成年人沉迷網(wǎng)絡(luò)等要求。在老年人權(quán)益保障方面，提出應(yīng)按照國家有關(guān)規(guī)定提供智能化適老服務(wù)，依法開展涉電信網(wǎng)絡(luò)詐騙信息的監(jiān)測、識別和處置，便利老年人安全使用算法推薦服務(wù)。在勞動者權(quán)益保障方面，要求平臺建立完善訂單派送、報酬構(gòu)成及支付、工作時間和獎懲等相關(guān)算法，維護新就業(yè)形態(tài)勞動者的勞動權(quán)益。針對大數(shù)據(jù)殺熟問題，要求不得根據(jù)消費者的偏好、交易習(xí)慣等特征，利用算法在交易價格等交易條件上實施不合理的差別待遇等違法行為。

總體來看，數(shù)字經(jīng)濟發(fā)展不斷提速，算法作為數(shù)字社會新型生產(chǎn)力的地位和作用日趨明顯，《管理規(guī)定》的出臺是上層建筑構(gòu)建的重要步驟。下一步，以《管理規(guī)定》為重要法律依據(jù)，必將促進形成治理機制健全、監(jiān)管體系完善、算法生態(tài)規(guī)范的算法安全綜合治理格局，推動數(shù)字經(jīng)濟發(fā)展行穩(wěn)致遠。

關(guān)鍵詞： 資訊 通信世界網(wǎng) 算法治理 互聯(lián)網(wǎng) 人工智能 個人信息保護