專家解讀｜構(gòu)建算法治理落地支撐體系

隨著網(wǎng)絡信息技術(shù)的高速發(fā)展，大數(shù)據(jù)、云計算、算法與人工智能等技術(shù)廣泛應用于社交、購物、旅游、醫(yī)療、求職及視頻等各類平臺和應用場景?；ヂ?lián)網(wǎng)新興業(yè)態(tài)為人們帶來極大便利，塑造了人們新的生活方式。同時，由于信息技術(shù)更新迭代速度快、發(fā)展形式多樣、新興業(yè)態(tài)越來越復雜，大數(shù)據(jù)挖掘與算法通過用戶行為分析，以及歷史的數(shù)據(jù)進行挖掘，給用戶的個性化服務帶來了便利，也為經(jīng)濟社會發(fā)展注入新動能。然而，算法歧視、“大數(shù)據(jù)殺熟”、誘導沉迷、違法和不良信息推薦等算法不合理應用也觸及了用戶信息安全與權(quán)益保護等問題，并深刻地影響了正常的傳播秩序、市場秩序和社會秩序，給我國現(xiàn)有法律法規(guī)與監(jiān)管治理體系帶來新的挑戰(zhàn)。

為了規(guī)范互聯(lián)網(wǎng)信息服務算法推薦活動，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權(quán)益，促進互聯(lián)網(wǎng)信息服務健康發(fā)展，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家市場監(jiān)督管理總局聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》（以下簡稱《規(guī)定》），自2022年3月1日起施行?！兑?guī)定》的出臺和施行將有效加強國家對互聯(lián)網(wǎng)信息服務提供者算法推薦的規(guī)范化監(jiān)管，有利于營造積極健康、向上向善的互聯(lián)網(wǎng)信息服務環(huán)境，形成良好的信息傳播秩序，進一步提升我國社會治理能力。

一、以社會主流價值為導向，強調(diào)輿情管理與引導

《規(guī)定》強調(diào)算法推薦服務提供者應當堅持主流價值導向，優(yōu)化算法推薦服務機制，積極傳播正能量，促進算法應用向上向善。《規(guī)定》著眼互聯(lián)網(wǎng)信息服務中潛在的算法影響網(wǎng)絡輿論、算法誘導用戶沉迷或過度消費、算法共謀和不正當競爭等算法應用風險，由此引出治理對象，通過算法規(guī)制規(guī)范互聯(lián)網(wǎng)信息服務算法推薦活動，維護國家安全和社會公共利益?！兑?guī)定》指出具有輿論屬性或者社會動員能力的算法推薦服務提供者應當在提供服務之日起十個工作日內(nèi)通過互聯(lián)網(wǎng)信息服務算法備案系統(tǒng)填報服務提供者的名稱、服務形式、應用領域、算法類型、算法自評估報告、擬公示內(nèi)容等信息，履行備案手續(xù)。

二、重點強調(diào)用戶權(quán)益保護，維護未成年人和老年人等群體合法權(quán)益

《規(guī)定》強調(diào)算法推薦服務提供者應當向用戶提供不針對其個人特征的選項，或者向用戶提供便捷的關閉算法推薦服務的選項。用戶選擇關閉算法推薦服務的，算法推薦服務提供者應當立即停止提供相關服務。算法推薦服務提供者向未成年人提供服務的，應當依法履行未成年人網(wǎng)絡保護義務，并通過開發(fā)適合未成年人使用的模式、提供適合未成年人特點的服務等方式，便利未成年人獲取有益身心健康的信息。《規(guī)定》指出，算法推薦服務提供者不得向未成年人推送可能引發(fā)未成年人模仿不安全行為和違反社會公德行為、誘導未成年人不良嗜好等可能影響未成年人身心健康的信息，不得利用算法推薦服務誘導未成年人沉迷網(wǎng)絡?！兑?guī)定》指出，算法推薦服務提供者向老年人提供服務的，應當保障老年人依法享有的權(quán)益，充分考慮老年人出行、就醫(yī)、消費、辦事等需求，按照國家有關規(guī)定提供智能化適老服務，依法開展涉電信網(wǎng)絡詐騙信息的監(jiān)測、識別和處置，便利老年人安全使用算法推薦服務。

三、建立完備可行的監(jiān)管體系，明確服務提供者的法律責任

《規(guī)定》強調(diào)網(wǎng)信部門會同電信、公安、市場監(jiān)管等有關部門建立算法分級分類安全管理制度，根據(jù)算法推薦服務的輿論屬性或者社會動員能力、內(nèi)容類別、用戶規(guī)模、算法推薦技術(shù)處理的數(shù)據(jù)重要程度、對用戶行為的干預程度等對算法推薦服務提供者實施分級分類管理。《規(guī)定》指出算法推薦服務提供者違反本規(guī)定第七條、第八條、第九條第一款、第十條、第十四條、第十六條、第十七條、第二十二條、第二十四條、第二十六條規(guī)定，法律、行政法規(guī)有規(guī)定的，依照其規(guī)定；法律、行政法規(guī)沒有規(guī)定的，由網(wǎng)信部門和電信、公安、市場監(jiān)管等有關部門依據(jù)職責給予警告、通報批評，責令限期改正；拒不改正或者情節(jié)嚴重的，責令暫停信息更新，并處一萬元以上十萬元以下罰款。構(gòu)成違反治安管理行為的，依法給予治安管理處罰；構(gòu)成犯罪的，依法追究刑事責任。

四、構(gòu)建算法治理落地支撐體系，強化企業(yè)的社會責任

《規(guī)定》的出臺，具有較強的探索性和前瞻性，也是算法推薦管理的新起點。然而，算法綜合治理目前仍處于起步階段，缺少算法推薦管理的實踐經(jīng)驗和技術(shù)支撐體系，加快推進算法治理的盡快落地實施，結(jié)合當前的新技術(shù)體系，修正落地實施過程中遇到的新問題，是切實保障算法綜合治理工作有力有序推進的關鍵。另外，在管理落地過程中，相關企業(yè)的自律及社會責任也是影響落地的重要因素。建議加強如下工作：

（一）構(gòu)建算法管理與監(jiān)測的技術(shù)體系，促進網(wǎng)絡治理持續(xù)發(fā)展

圍繞構(gòu)建算法治理與監(jiān)測的技術(shù)體系，鼓勵高校設置并加強算法安全相關專業(yè)學科建設，并注重交叉學科建設和學生培養(yǎng)，引導高校院所建立相關科研機構(gòu)，強化算法治理研究方向，組建相關人才隊伍，建立研究機構(gòu)與相關主體企業(yè)的聯(lián)動機制，運用研究機構(gòu)的科研能力，結(jié)合企業(yè)技術(shù)積累和服務體系，開展治理的示范應用，并培養(yǎng)一支高素質(zhì)算法監(jiān)管人才隊伍。

（二）激發(fā)信息服務企業(yè)的社會責任感，形成行業(yè)自律風氣

除了完善法律法規(guī)，構(gòu)建監(jiān)管機制，企業(yè)的社會責任感至關重要。首先，通過行業(yè)協(xié)會組織簽訂互聯(lián)網(wǎng)平臺算法推薦自律公約，就數(shù)據(jù)搜集與算法使用等做出合理規(guī)定與制約，并按要求公開相關算法和程序，建立用戶監(jiān)督機制。國內(nèi)相關知名和頭部企業(yè)要發(fā)揮示范引領作用，鼓勵其他中小企業(yè)，從而在行業(yè)內(nèi)部形成互相監(jiān)督、自覺守約、合規(guī)經(jīng)營的治理機制。其次，互聯(lián)網(wǎng)平臺企業(yè)要自覺承擔社會責任，學習并遵守國家法律規(guī)范和商業(yè)道德，遵循誠信交易原則，提高公信度，靠品質(zhì)與口碑盈利。最終，依靠企業(yè)自身力量，從源頭上阻斷算法推薦亂象的發(fā)生，為維護用戶合法權(quán)益，共同守護健康向上的互聯(lián)網(wǎng)秩序凝聚力量。（作者：沈浩　中國傳媒大學媒體融合與傳播國家重點實驗室大數(shù)據(jù)中心，首席科學家）

關鍵詞： 支撐體系