《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》今天起正式施行

發(fā)布時(shí)間:2022-03-01 10:20:19  |  來(lái)源:中央廣電總臺(tái)央視網(wǎng)  

國(guó)家網(wǎng)信辦等四部門聯(lián)合發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》,3月1日起正式施行。對(duì)于普通用戶而言,算法摸不著也看不懂,卻在廣泛影響著我們通過(guò)各種平臺(tái)獲取互聯(lián)網(wǎng)信息服務(wù)。

算法無(wú)處不在 濫用問(wèn)題不斷

算法推薦技術(shù)通過(guò)抓取用戶日常的使用數(shù)據(jù),分析得出人們的行為、習(xí)慣和喜好,進(jìn)而精準(zhǔn)化地提供信息、娛樂(lè)、消費(fèi)等各類服務(wù)。提供便利的同時(shí),近年來(lái),“大數(shù)據(jù)殺熟”、流量造假、誘導(dǎo)沉迷等不合理應(yīng)用也給我們的生活帶來(lái)煩惱。由北京大學(xué)互聯(lián)網(wǎng)發(fā)展研究中心與互聯(lián)網(wǎng)公司聯(lián)合發(fā)布的《中國(guó)大安全感知報(bào)告(2021)》顯示,有七成受訪者感到算法能獲取自己的喜好、興趣從而“算計(jì)”自己,近五成受訪者表示,在算法束縛下想要逃離網(wǎng)絡(luò)、遠(yuǎn)離手機(jī)。

中國(guó)信息安全研究院副院長(zhǎng) 左曉棟:這些服務(wù)的推送是網(wǎng)絡(luò)服務(wù)提供者給我們定制的,那么定制就容易產(chǎn)生濫用,輕則損害我們個(gè)人的權(quán)益,嚴(yán)重的就會(huì)危害國(guó)家安全,因此算法推薦必須要進(jìn)行規(guī)范。

《規(guī)定》明確,應(yīng)用算法推薦技術(shù),是指利用生成合成類、個(gè)性化推送類、排序精選類、檢索過(guò)濾類、調(diào)度決策類等算法技術(shù)向用戶提供信息。各類提供算法推薦服務(wù)的互聯(lián)網(wǎng)公司幾乎都在監(jiān)管范圍內(nèi),如各類短視頻平臺(tái)、電商平臺(tái)、社交平臺(tái)及餐飲外賣平臺(tái)等。

為了打破算法摸不著也看不懂的“黑箱”,《規(guī)定》明確要求保障用戶的算法知情權(quán)和算法選擇權(quán),應(yīng)當(dāng)向用戶提供不針對(duì)其個(gè)人特征的選項(xiàng),或者便捷的關(guān)閉算法推薦服務(wù)的選項(xiàng)。

《規(guī)定》要求算法推薦服務(wù)提供者應(yīng)當(dāng)堅(jiān)持主流價(jià)值導(dǎo)向,積極傳播正能量,建立完善人工干預(yù)和用戶自主選擇機(jī)制,不得利用算法實(shí)施影響網(wǎng)絡(luò)輿論、規(guī)避監(jiān)督管理以及壟斷和不正當(dāng)競(jìng)爭(zhēng)行為。

不得實(shí)施差別待遇 劍指大數(shù)據(jù)“殺熟”

近年來(lái),一些企業(yè)利用個(gè)人信息搞大數(shù)據(jù)“殺熟”,對(duì)不同群體進(jìn)行差別定價(jià),實(shí)行“價(jià)格歧視”,讓消費(fèi)者十分反感。對(duì)此,《規(guī)定》又將如何破解呢?

浙江紹興的胡女士通過(guò)某商旅平臺(tái)定購(gòu)了一家酒店房間,結(jié)賬時(shí)發(fā)現(xiàn),通過(guò)平臺(tái)支付的房費(fèi)比該酒店實(shí)際房?jī)r(jià)高近一倍,而她是該商旅平臺(tái)的高級(jí)會(huì)員,本該享受8.5折優(yōu)惠。胡女士懷疑商旅平臺(tái)通過(guò)她此前的消費(fèi)行為,存在“大數(shù)據(jù)殺熟”的行為,將商旅平臺(tái)告上法庭。去年7月,法院一審對(duì)原告退一賠三的請(qǐng)求予以準(zhǔn)許。這起案件被眾多媒體稱為“大數(shù)據(jù)殺熟”第一案。

同樣的送餐時(shí)間、地點(diǎn)、訂單、外賣平臺(tái),會(huì)員卻比非會(huì)員多付錢;同時(shí)同地打同類型車到同一目的地,某打車平臺(tái)曾被用戶發(fā)現(xiàn)熟客反而收費(fèi)更高,類似的消費(fèi)投訴多有發(fā)生。對(duì)此,《規(guī)定》提出,算法推薦服務(wù)提供者向消費(fèi)者銷售商品或者提供服務(wù)的,應(yīng)當(dāng)保護(hù)消費(fèi)者公平交易的權(quán)利,不得根據(jù)消費(fèi)者的偏好、交易習(xí)慣等特征,利用算法在交易價(jià)格等交易條件上實(shí)施不合理的差別待遇等違法行為。

中國(guó)信息安全研究院副院長(zhǎng) 左曉棟:有的平臺(tái)就會(huì)說(shuō),這個(gè)算法是我的知識(shí)產(chǎn)權(quán),是我的商業(yè)秘密,我不能公開(kāi)。這些說(shuō)辭都不能成立了,平臺(tái)的算法要保證必要的透明性。

專家強(qiáng)調(diào),《規(guī)定》還明確保障用戶的選擇權(quán)、刪除權(quán)等權(quán)益。通過(guò)向用戶提供不針對(duì)其個(gè)人特征的選項(xiàng),或向用戶提供便捷的關(guān)閉算法推薦服務(wù)的選項(xiàng),并提供選擇或刪除針對(duì)其個(gè)人特征的用戶標(biāo)簽的功能,避免消費(fèi)者被算法“算計(jì)”。

保護(hù)勞動(dòng)者合法權(quán)益 避免被算法所“困”

此外,在《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》中要求,算法推薦服務(wù)提供者向勞動(dòng)者提供工作調(diào)度服務(wù)的,應(yīng)當(dāng)保護(hù)勞動(dòng)者取得勞動(dòng)報(bào)酬、休息休假等合法權(quán)益,相關(guān)情況,再來(lái)了解一下。

2020年9月,一篇名為《外賣騎手,困在系統(tǒng)里》的文章備受關(guān)注。文章描述了在外賣平臺(tái)系統(tǒng)的算法與數(shù)據(jù)驅(qū)動(dòng)下,外賣騎手的配送時(shí)間不斷被壓縮,而騎手在強(qiáng)大的系統(tǒng)驅(qū)動(dòng)下,為避免差評(píng)、維持收入,不得不在現(xiàn)實(shí)中選擇逆行、闖紅燈等做法。不少外賣騎手表示,幾十層的高層樓宇,電梯一等就是十幾分鐘甚至更長(zhǎng),但這樣的客觀情況,并沒(méi)有被“算法系統(tǒng)”考慮進(jìn)去。

清華大學(xué)人工智能國(guó)際治理研究院副院長(zhǎng) 梁正:由于機(jī)器還在發(fā)展階段當(dāng)中,針對(duì)一些勞動(dòng)工作場(chǎng)景,把決定權(quán)力交給機(jī)器,有很大的潛藏的公平性、可靠性的風(fēng)險(xiǎn)。

互聯(lián)網(wǎng)平臺(tái)優(yōu)化算法主要通過(guò)大數(shù)據(jù)分析算法模型計(jì)算出業(yè)務(wù)經(jīng)營(yíng)的最佳策略,與此同時(shí),與算法相配合的還有一整套嚴(yán)格的績(jī)效考核機(jī)制,一旦違背部分算法規(guī)則,則會(huì)在考核中失去“優(yōu)勢(shì)”,并可能帶來(lái)了一些惡性應(yīng)對(duì)行為。對(duì)此《規(guī)定》專門提出,算法推薦服務(wù)提供者向勞動(dòng)者提供工作調(diào)度服務(wù)的,應(yīng)當(dāng)保護(hù)勞動(dòng)者取得勞動(dòng)報(bào)酬、休息休假等合法權(quán)益,建立完善平臺(tái)訂單分配、報(bào)酬構(gòu)成及支付、工作時(shí)間、獎(jiǎng)懲等相關(guān)算法。

確保算法公開(kāi)透明 嚴(yán)防刷量控評(píng)影響輿論

雇傭網(wǎng)絡(luò)“水軍”實(shí)施流量造假,鼓動(dòng)“飯圈”粉絲互撕,刷量控評(píng),一些算法推薦服務(wù)提供者干預(yù)熱搜,影響網(wǎng)絡(luò)輿論的現(xiàn)象讓人詬病。明天施行的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》將給這類影響網(wǎng)絡(luò)輿論的“黑手”戴上“緊箍咒”。

在娛樂(lè)行業(yè),部分流量明星動(dòng)輒可以拿到上億甚至十幾億的商業(yè)回報(bào),明星商業(yè)平臺(tái)無(wú)所不用其極地制作話題、進(jìn)行炒作,任何可以引發(fā)粉絲關(guān)注討論的行為,甚至是粉絲之間的網(wǎng)絡(luò)罵戰(zhàn),都是商業(yè)團(tuán)隊(duì)常規(guī)的策劃內(nèi)容。品牌方也深諳此道,甚至運(yùn)用手段刻意制造不同粉絲的矛盾,掀起罵戰(zhàn)來(lái)博眼球、拉流量。

3月1日正式實(shí)施的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》,要求算法推薦服務(wù)應(yīng)遵循公開(kāi)透明的原則,鼓勵(lì)算法推薦服務(wù)提供者綜合運(yùn)用內(nèi)容去重、打散干預(yù)等策略,優(yōu)化規(guī)則透明度和可解釋性。建立健全算法機(jī)制機(jī)理審核、科技倫理審查、用戶注冊(cè)、信息發(fā)布審核等管理制度,不得利用算法操縱榜單、控制熱搜等干預(yù)信息呈現(xiàn)。

中國(guó)信息安全研究院副院長(zhǎng) 左曉棟:我們看到的內(nèi)容有可能會(huì)越來(lái)越偏離公正,偏離中立,被人為地或者是背后有算法在引導(dǎo)的情況,那么就需要進(jìn)行必要地干預(yù)。

對(duì)外經(jīng)貿(mào)大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心執(zhí)行主任 張欣:原則上告訴我們說(shuō)這些設(shè)計(jì)人員不能去開(kāi)發(fā)這樣的算法,如果進(jìn)行了這樣相應(yīng)的行為怎么辦?這一次的管理規(guī)定當(dāng)中非常明確提出要去承擔(dān)相應(yīng)的責(zé)任。

防止誘導(dǎo)沉迷消費(fèi) 保護(hù)特殊群體利益

如何防止誘導(dǎo)用戶沉迷、過(guò)度消費(fèi),保護(hù)未成年人等特殊群體的權(quán)益?針對(duì)這些訴求,明天施行的《規(guī)定》也進(jìn)行了精細(xì)化的規(guī)定。多位專家表示,建立健全科學(xué)的監(jiān)管體系,形成算法治理長(zhǎng)效機(jī)制,將是確?!兑?guī)定》落到實(shí)處的核心要義。

《規(guī)定》提出,算法推薦服務(wù)提供者應(yīng)當(dāng)定期審核、評(píng)估、驗(yàn)證算法機(jī)制機(jī)理、模型、數(shù)據(jù)和應(yīng)用結(jié)果等,不得設(shè)置誘導(dǎo)用戶沉迷、過(guò)度消費(fèi)等違反法律法規(guī)或者違背倫理道德的算法模型。

針對(duì)未成年人,《規(guī)定》提出,算法推薦服務(wù)提供者不得向未成年人推送可能引發(fā)未成年人模仿不安全行為和違反社會(huì)公德行為、誘導(dǎo)未成年人不良嗜好等可能影響未成年人身心健康的信息,不得利用算法推薦服務(wù)誘導(dǎo)未成年人沉迷網(wǎng)絡(luò)。《規(guī)定》還要求,算法推薦服務(wù)提供者向老年人提供服務(wù)的,應(yīng)當(dāng)保障老年人依法享有的權(quán)益,充分考慮老年人出行、就醫(yī)、消費(fèi)、辦事等需求,按照國(guó)家有關(guān)規(guī)定提供智能化適老服務(wù)。

監(jiān)管如何落地落實(shí)?《規(guī)定》明確,事前監(jiān)管,確立算法備案、算法評(píng)估等制度;區(qū)分監(jiān)管,確立分級(jí)分類的思路;系統(tǒng)監(jiān)管,建立多元共治的局面。專家認(rèn)為,《規(guī)定》著力完善治理體系,實(shí)現(xiàn)事前事中事后全流程、全鏈條監(jiān)管。算法推薦服務(wù)提供者如違反相關(guān)規(guī)定,會(huì)被處以警告、通報(bào)批評(píng)、罰款等,必要時(shí)還將給予治安管理處罰和追究刑事責(zé)任。

中國(guó)信息安全研究院副院長(zhǎng) 左曉棟:強(qiáng)調(diào)主體責(zé)任非常重要,因?yàn)槠脚_(tái)是算法推薦的使用者,因此只有把平臺(tái)的責(zé)任壓實(shí),那么平臺(tái)才有自覺(jué)性去落實(shí)法律法規(guī)的要求。

關(guān)鍵詞: 管理規(guī)定 信息服務(wù)

 

網(wǎng)站介紹  |  版權(quán)說(shuō)明  |  聯(lián)系我們  |  網(wǎng)站地圖 

星際派備案號(hào):京ICP備2022016840號(hào)-16 營(yíng)業(yè)執(zhí)照公示信息版權(quán)所有 郵箱聯(lián)系:920 891 263@qq.com