專家解讀 | 構(gòu)建算法治理落地支撐體系

發(fā)布時(shí)間:2022-03-04 08:32:51  |  來源:中國網(wǎng)信網(wǎng)  

(CWW)隨著網(wǎng)絡(luò)信息技術(shù)的高速發(fā)展,大數(shù)據(jù)、云計(jì)算、算法與人工智能等技術(shù)廣泛應(yīng)用于社交、購物、旅游、醫(yī)療、求職及視頻等各類平臺(tái)和應(yīng)用場景。互聯(lián)網(wǎng)新興業(yè)態(tài)為人們帶來極大便利,塑造了人們新的生活方式。同時(shí),由于信息技術(shù)更新迭代速度快、發(fā)展形式多樣、新興業(yè)態(tài)越來越復(fù)雜,大數(shù)據(jù)挖掘與算法通過用戶行為分析,以及歷史的數(shù)據(jù)進(jìn)行挖掘,給用戶的個(gè)性化服務(wù)帶來了便利,也為經(jīng)濟(jì)社會(huì)發(fā)展注入新動(dòng)能。然而,算法歧視、“大數(shù)據(jù)殺熟”、誘導(dǎo)沉迷、違法和不良信息推薦等算法不合理應(yīng)用也觸及了用戶信息安全與權(quán)益保護(hù)等問題,并深刻地影響了正常的傳播秩序、市場秩序和社會(huì)秩序,給我國現(xiàn)有法律法規(guī)與監(jiān)管治理體系帶來新的挑戰(zhàn)。

為了規(guī)范互聯(lián)網(wǎng)信息服務(wù)算法推薦活動(dòng),維護(hù)國家安全和社會(huì)公共利益,保護(hù)公民、法人和其他組織的合法權(quán)益,促進(jìn)互聯(lián)網(wǎng)信息服務(wù)健康發(fā)展,國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家市場監(jiān)督管理總局聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》(以下簡稱《規(guī)定》),自2022年3月1日起施行。《規(guī)定》的出臺(tái)和施行將有效加強(qiáng)國家對(duì)互聯(lián)網(wǎng)信息服務(wù)提供者算法推薦的規(guī)范化監(jiān)管,有利于營造積極健康、向上向善的互聯(lián)網(wǎng)信息服務(wù)環(huán)境,形成良好的信息傳播秩序,進(jìn)一步提升我國社會(huì)治理能力。

一、以社會(huì)主流價(jià)值為導(dǎo)向,強(qiáng)調(diào)輿情管理與引導(dǎo)

《規(guī)定》強(qiáng)調(diào)算法推薦服務(wù)提供者應(yīng)當(dāng)堅(jiān)持主流價(jià)值導(dǎo)向,優(yōu)化算法推薦服務(wù)機(jī)制,積極傳播正能量,促進(jìn)算法應(yīng)用向上向善?!兑?guī)定》著眼互聯(lián)網(wǎng)信息服務(wù)中潛在的算法影響網(wǎng)絡(luò)輿論、算法誘導(dǎo)用戶沉迷或過度消費(fèi)、算法共謀和不正當(dāng)競爭等算法應(yīng)用風(fēng)險(xiǎn),由此引出治理對(duì)象,通過算法規(guī)制規(guī)范互聯(lián)網(wǎng)信息服務(wù)算法推薦活動(dòng),維護(hù)國家安全和社會(huì)公共利益。《規(guī)定》指出具有輿論屬性或者社會(huì)動(dòng)員能力的算法推薦服務(wù)提供者應(yīng)當(dāng)在提供服務(wù)之日起十個(gè)工作日內(nèi)通過互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)填報(bào)服務(wù)提供者的名稱、服務(wù)形式、應(yīng)用領(lǐng)域、算法類型、算法自評(píng)估報(bào)告、擬公示內(nèi)容等信息,履行備案手續(xù)。

二、重點(diǎn)強(qiáng)調(diào)用戶權(quán)益保護(hù),維護(hù)未成年人和老年人等群體合法權(quán)益

《規(guī)定》強(qiáng)調(diào)算法推薦服務(wù)提供者應(yīng)當(dāng)向用戶提供不針對(duì)其個(gè)人特征的選項(xiàng),或者向用戶提供便捷的關(guān)閉算法推薦服務(wù)的選項(xiàng)。用戶選擇關(guān)閉算法推薦服務(wù)的,算法推薦服務(wù)提供者應(yīng)當(dāng)立即停止提供相關(guān)服務(wù)。算法推薦服務(wù)提供者向未成年人提供服務(wù)的,應(yīng)當(dāng)依法履行未成年人網(wǎng)絡(luò)保護(hù)義務(wù),并通過開發(fā)適合未成年人使用的模式、提供適合未成年人特點(diǎn)的服務(wù)等方式,便利未成年人獲取有益身心健康的信息?!兑?guī)定》指出,算法推薦服務(wù)提供者不得向未成年人推送可能引發(fā)未成年人模仿不安全行為和違反社會(huì)公德行為、誘導(dǎo)未成年人不良嗜好等可能影響未成年人身心健康的信息,不得利用算法推薦服務(wù)誘導(dǎo)未成年人沉迷網(wǎng)絡(luò)?!兑?guī)定》指出,算法推薦服務(wù)提供者向老年人提供服務(wù)的,應(yīng)當(dāng)保障老年人依法享有的權(quán)益,充分考慮老年人出行、就醫(yī)、消費(fèi)、辦事等需求,按照國家有關(guān)規(guī)定提供智能化適老服務(wù),依法開展涉電信網(wǎng)絡(luò)詐騙信息的監(jiān)測(cè)、識(shí)別和處置,便利老年人安全使用算法推薦服務(wù)。

三、建立完備可行的監(jiān)管體系,明確服務(wù)提供者的法律責(zé)任

《規(guī)定》強(qiáng)調(diào)網(wǎng)信部門會(huì)同電信、公安、市場監(jiān)管等有關(guān)部門建立算法分級(jí)分類安全管理制度,根據(jù)算法推薦服務(wù)的輿論屬性或者社會(huì)動(dòng)員能力、內(nèi)容類別、用戶規(guī)模、算法推薦技術(shù)處理的數(shù)據(jù)重要程度、對(duì)用戶行為的干預(yù)程度等對(duì)算法推薦服務(wù)提供者實(shí)施分級(jí)分類管理。《規(guī)定》指出算法推薦服務(wù)提供者違反本規(guī)定第七條、第八條、第九條第一款、第十條、第十四條、第十六條、第十七條、第二十二條、第二十四條、第二十六條規(guī)定,法律、行政法規(guī)有規(guī)定的,依照其規(guī)定;法律、行政法規(guī)沒有規(guī)定的,由網(wǎng)信部門和電信、公安、市場監(jiān)管等有關(guān)部門依據(jù)職責(zé)給予警告、通報(bào)批評(píng),責(zé)令限期改正;拒不改正或者情節(jié)嚴(yán)重的,責(zé)令暫停信息更新,并處一萬元以上十萬元以下罰款。構(gòu)成違反治安管理行為的,依法給予治安管理處罰;構(gòu)成犯罪的,依法追究刑事責(zé)任。

四、構(gòu)建算法治理落地支撐體系,強(qiáng)化企業(yè)的社會(huì)責(zé)任

《規(guī)定》的出臺(tái),具有較強(qiáng)的探索性和前瞻性,也是算法推薦管理的新起點(diǎn)。然而,算法綜合治理目前仍處于起步階段,缺少算法推薦管理的實(shí)踐經(jīng)驗(yàn)和技術(shù)支撐體系,加快推進(jìn)算法治理的盡快落地實(shí)施,結(jié)合當(dāng)前的新技術(shù)體系,修正落地實(shí)施過程中遇到的新問題,是切實(shí)保障算法綜合治理工作有力有序推進(jìn)的關(guān)鍵。另外,在管理落地過程中,相關(guān)企業(yè)的自律及社會(huì)責(zé)任也是影響落地的重要因素。建議加強(qiáng)如下工作:

(一)構(gòu)建算法管理與監(jiān)測(cè)的技術(shù)體系,促進(jìn)網(wǎng)絡(luò)治理持續(xù)發(fā)展

圍繞構(gòu)建算法治理與監(jiān)測(cè)的技術(shù)體系,鼓勵(lì)高校設(shè)置并加強(qiáng)算法安全相關(guān)專業(yè)學(xué)科建設(shè),并注重交叉學(xué)科建設(shè)和學(xué)生培養(yǎng),引導(dǎo)高校院所建立相關(guān)科研機(jī)構(gòu),強(qiáng)化算法治理研究方向,組建相關(guān)人才隊(duì)伍,建立研究機(jī)構(gòu)與相關(guān)主體企業(yè)的聯(lián)動(dòng)機(jī)制,運(yùn)用研究機(jī)構(gòu)的科研能力,結(jié)合企業(yè)技術(shù)積累和服務(wù)體系,開展治理的示范應(yīng)用,并培養(yǎng)一支高素質(zhì)算法監(jiān)管人才隊(duì)伍。

(二)激發(fā)信息服務(wù)企業(yè)的社會(huì)責(zé)任感,形成行業(yè)自律風(fēng)氣

除了完善法律法規(guī),構(gòu)建監(jiān)管機(jī)制,企業(yè)的社會(huì)責(zé)任感至關(guān)重要。首先,通過行業(yè)協(xié)會(huì)組織簽訂互聯(lián)網(wǎng)平臺(tái)算法推薦自律公約,就數(shù)據(jù)搜集與算法使用等做出合理規(guī)定與制約,并按要求公開相關(guān)算法和程序,建立用戶監(jiān)督機(jī)制。國內(nèi)相關(guān)知名和頭部企業(yè)要發(fā)揮示范引領(lǐng)作用,鼓勵(lì)其他中小企業(yè),從而在行業(yè)內(nèi)部形成互相監(jiān)督、自覺守約、合規(guī)經(jīng)營的治理機(jī)制。其次,互聯(lián)網(wǎng)平臺(tái)企業(yè)要自覺承擔(dān)社會(huì)責(zé)任,學(xué)習(xí)并遵守國家法律規(guī)范和商業(yè)道德,遵循誠信交易原則,提高公信度,靠品質(zhì)與口碑盈利。最終,依靠企業(yè)自身力量,從源頭上阻斷算法推薦亂象的發(fā)生,為維護(hù)用戶合法權(quán)益,共同守護(hù)健康向上的互聯(lián)網(wǎng)秩序凝聚力量。(作者:沈浩 中國傳媒大學(xué)媒體融合與傳播國家重點(diǎn)實(shí)驗(yàn)室大數(shù)據(jù)中心,首席科學(xué)家)


關(guān)鍵詞: 通信世界網(wǎng) 算法管理 信息服務(wù) 算法推薦

 

網(wǎng)站介紹  |  版權(quán)說明  |  聯(lián)系我們  |  網(wǎng)站地圖 

星際派備案號(hào):京ICP備2022016840號(hào)-16 營業(yè)執(zhí)照公示信息版權(quán)所有 郵箱聯(lián)系:920 891 263@qq.com