聚焦《互聯網信息服務算法推薦管理規定》五大看點

                        2022-01-07 11:57:31 來源: 新華網 作者: 王思北 陽娜 周琳 顏之宏

                        新華社“新華視點”記者

                        通過大數據“殺熟”實施不合理差別待遇,利用算法誘導用戶沉迷網絡、過度消費……當前,算法技術廣泛滲入互聯網應用,在給用戶帶來一定程度便利的同時,由算法引發的侵害用戶權益問題也屢屢出現。

                        算法推薦是指利用生成合成類、個性化推送類、排序精選類、檢索過濾類、調度決策類等技術向用戶提供信息。

                        近日,國家網信辦等四部門出臺《互聯網信息服務算法推薦管理規定》,針對被詬病已久的問題提出明確要求。

                        大數據“殺熟”如何解?不得實施差別待遇

                        同樣的送餐時間、地點、訂單、外賣平臺,會員卻比非會員多付錢;同時同地打同類型車到同一目的地,某打車平臺曾被用戶發現熟客反而收費更高。

                        當前,越來越多的企業利用大數據分析評估消費者的個人特征用于商業營銷。但也有一些企業利用個人信息搞大數據“殺熟”,對不同群體進行差別定價,實行“價格歧視”。

                        規定提出,算法推薦服務提供者向消費者銷售商品或者提供服務的,應當保護消費者公平交易的權利,不得根據消費者的偏好、交易習慣等特征,利用算法在交易價格等交易條件上實施不合理的差別待遇等違法行為。

                        去年10月,騰訊、華為等20余家App運營企業承諾將嚴守用戶個人隱私邊界,保護用戶公平交易權,不利用大數據“殺熟”。

                        中國信息安全研究院副院長左曉棟認為,大數據“殺熟”等頑疾歸根結底是濫用用戶個人信息導致的。解決這類問題,首先要在治理違法違規收集用戶個人信息上下功夫,其次要保障用戶的選擇權、刪除權等權益。例如,要向用戶提供不針對其個人特征的選項,或向用戶提供便捷的關閉算法推薦服務的選項,并提供選擇或刪除針對其個人特征的用戶標簽的功能。

                        誘導用戶沉迷、過度消費?促進算法應用向上向善

                        設置誘導用戶沉迷、過度消費的算法模型,已成為備受詬病的網絡消費和娛樂現象。

                        “有的游戲你玩不過去它就給你放點水,導致你像中毒一樣停不下來;或者看你反復瀏覽某件商品,它就顯示兩件八折、三件七五折這樣的優惠,讓你盡可能多買?!敝袊娮蛹夹g標準化研究院網安中心測評實驗室副主任何延哲說。

                        規定提出,算法推薦服務提供者應當定期審核、評估、驗證算法機制機理、模型、數據和應用結果等,不得設置誘導用戶沉迷、過度消費等違反法律法規或者違背倫理道德的算法模型。

                        中國政法大學數據法治研究院教授王立梅認為,算法推薦服務提供者應當堅持主流價值導向、促進算法應用向上向善的基本要求。規定提出不得設置誘導用戶沉迷、過度消費等算法模型,正是將科技向善理念落實為具體業務要求的體現。

                        “規定提出了要防范出現此類情形,需要相關企業切實做好算法的評估工作,從算法推薦的邏輯、面向的用戶群體、瀏覽和消費行為等多個角度出發進行綜合分析?!焙窝诱芙ㄗh,為防止算法導致的沉迷或過度消費,必要時還應引入第三方進行評價和評議,以保證評估的中立性。

                        刷量控評影響網絡輿論?確保算法公開透明

                        利用算法注冊虛假賬號、雇傭網絡“水軍”,實施虛假點贊、轉發等流量造假,或者鼓動“飯圈”粉絲互撕謾罵、刷量控評;屏蔽信息、過度推薦,操縱干預熱搜、榜單或檢索結果排序……一些算法推薦服務提供者在開展個性化推薦、熱點榜單、信息發布等活動時,還存在影響網絡輿論的現象。

                        根據規定,算法推薦服務應遵循公開透明的原則,鼓勵算法推薦服務提供者綜合運用內容去重、打散干預等策略,優化規則透明度和可解釋性。建立健全算法機制機理審核、科技倫理審查、用戶注冊、信息發布審核等管理制度,不得利用算法操縱榜單、控制熱搜等干預信息呈現。

                        “針對微博存在的刷量、刷榜、控評等干擾、扭曲真實的用戶聲音和信息傳播等問題,我們一直在努力整治?!蔽⒉┯嘘P負責人坦言,這些問題屢禁難絕的背后,也有真人刷榜行為比較難發現、對已形成完整產業鏈的相關黑灰產難以從技術上禁絕等困難的存在。

                        世輝律師事務所合伙人王新銳認為,規定要求網絡平臺以顯著方式告知用戶其提供算法推薦服務的情況,同時要求具有輿論屬性或者社會動員能力的平臺將算法相關情況予以備案,通過這種“普遍公開+部分備案”的方式來解決算法不透明帶來的現實問題和普遍憂慮。

                        未成年人等特殊群體權益如何保護?精細化滿足不同群體訴求

                        近年來,一些App接連被曝出傳播兒童軟色情表情包、利用未成年人性暗示短視頻引流等問題,嚴重損害未成年人身心健康,影響網絡傳播秩序。

                        “網絡為未成年人帶來了嶄新的生活方式,也產生了未成年人網絡保護問題?!敝袊鐣茖W院大學副校長林維認為,未成年人存在認知、判斷能力較弱,價值觀尚未成型等特點,針對性過強的算法推送內容有可能引發各種不良效果,也可能導致沉迷網絡現象。

                        對此,規定提出,算法推薦服務提供者不得向未成年人推送可能引發未成年人模仿不安全行為和違反社會公德行為、誘導未成年人不良嗜好等可能影響未成年人身心健康的信息,不得利用算法推薦服務誘導未成年人沉迷網絡。

                        此外,針對一些平臺未充分考慮老年人適老化需求等問題,規定還要求,算法推薦服務提供者向老年人提供服務的,應當保障老年人依法享有的權益,充分考慮老年人出行、就醫、消費、辦事等需求,按照國家有關規定提供智能化適老服務。

                        專家指出,在互聯網信息服務日益多元化、基礎化、普及化的情況下,規定精細化、有側重地滿足不同群體的利益訴求,將更好保障未成年人、老年人、勞動者等群體權益,引導算法應用遵守社會公德和倫理,遵守商業道德和職業道德。

                        監管如何落地落實?著力完善治理體系

                        當前,算法等新技術新應用已經成為推動企業數字化轉型和國家治理能力現代化的重要力量。專家認為,規定有利于建立健全科學的監管體系,統籌各方建立完整制度鏈條,形成算法治理長效機制。

                        “事前監管,確立算法備案、算法評估等制度;區分監管,確立分級分類的思路;系統監管,建立多元共治的局面?!敝袊畔⑼ㄐ叛芯吭焊笨偣こ處熗鯋廴A認為,規定著力完善治理體系,通過優化監管框架,實現事前事中事后全流程、全鏈條監管,增強監管系統性和權威性。

                        星瀚律師事務所主任律師衛新認為,當前算法技術的應用越來越廣泛,對算法的監管需要迎頭跟上,未來在具體執行過程中還需形成各類具備可操作性的細則。

                        “算法推薦作為一種新技術模式,面臨一些新型技術安全、應用安全甚至倫理安全風險?!敝袊娮蛹夹g標準化研究院黨委書記楊建軍建議,為支撐規定落地實施,亟須加強算法安全技術能力建設,建設算法推薦服務備案、算法安全評估、算法安全風險監測等平臺,提升算法推薦技術監管能力。(記者王思北、陽娜、周琳、顏之宏)

                        責任編輯: 冷媚
                        中文字幕精品亚洲无线码一区