新華社北京1月6日電 題：聚焦《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》五大看點(diǎn)
新華社“新華視點(diǎn)”記者
通過(guò)大數(shù)據(jù)“殺熟”實(shí)施不合理差別待遇，利用算法誘導(dǎo)用戶沉迷網(wǎng)絡(luò)、過(guò)度消費(fèi)……當(dāng)前，算法技術(shù)廣泛滲入互聯(lián)網(wǎng)應(yīng)用，在給用戶帶來(lái)一定程度便利的同時(shí)，由算法引發(fā)的侵害用戶權(quán)益問(wèn)題也屢屢出現(xiàn)。
算法推薦是指利用生成合成類、個(gè)性化推送類、排序精選類、檢索過(guò)濾類、調(diào)度決策類等技術(shù)向用戶提供信息。
近日，國(guó)家網(wǎng)信辦等四部門(mén)出臺(tái)《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，針對(duì)被詬病已久的問(wèn)題提出明確要求。
大數(shù)據(jù)“殺熟”如何解？不得實(shí)施差別待遇
同樣的送餐時(shí)間、地點(diǎn)、訂單、外賣平臺(tái)，會(huì)員卻比非會(huì)員多付錢(qián)；同時(shí)同地打同類型車到同一目的地，某打車平臺(tái)曾被用戶發(fā)現(xiàn)熟客反而收費(fèi)更高。
當(dāng)前，越來(lái)越多的企業(yè)利用大數(shù)據(jù)分析評(píng)估消費(fèi)者的個(gè)人特征用于商業(yè)營(yíng)銷。但也有一些企業(yè)利用個(gè)人信息搞大數(shù)據(jù)“殺熟”，對(duì)不同群體進(jìn)行差別定價(jià)，實(shí)行“價(jià)格歧視”。
規(guī)定提出，算法推薦服務(wù)提供者向消費(fèi)者銷售商品或者提供服務(wù)的，應(yīng)當(dāng)保護(hù)消費(fèi)者公平交易的權(quán)利，不得根據(jù)消費(fèi)者的偏好、交易習(xí)慣等特征，利用算法在交易價(jià)格等交易條件上實(shí)施不合理的差別待遇等違法行為。
去年10月，騰訊、華為等20余家App運(yùn)營(yíng)企業(yè)承諾將嚴(yán)守用戶個(gè)人隱私邊界，保護(hù)用戶公平交易權(quán)，不利用大數(shù)據(jù)“殺熟”。
中國(guó)信息安全研究院副院長(zhǎng)左曉棟認(rèn)為，大數(shù)據(jù)“殺熟”等頑疾歸根結(jié)底是濫用用戶個(gè)人信息導(dǎo)致的。解決這類問(wèn)題，首先要在治理違法違規(guī)收集用戶個(gè)人信息上下功夫，其次要保障用戶的選擇權(quán)、刪除權(quán)等權(quán)益。例如，要向用戶提供不針對(duì)其個(gè)人特征的選項(xiàng)，或向用戶提供便捷的關(guān)閉算法推薦服務(wù)的選項(xiàng)，并提供選擇或刪除針對(duì)其個(gè)人特征的用戶標(biāo)簽的功能。
誘導(dǎo)用戶沉迷、過(guò)度消費(fèi)？促進(jìn)算法應(yīng)用向上向善
設(shè)置誘導(dǎo)用戶沉迷、過(guò)度消費(fèi)的算法模型，已成為備受詬病的網(wǎng)絡(luò)消費(fèi)和娛樂(lè)現(xiàn)象。
“有的游戲你玩不過(guò)去它就給你放點(diǎn)水，導(dǎo)致你像中毒一樣停不下來(lái)；或者看你反復(fù)瀏覽某件商品，它就顯示兩件八折、三件七五折這樣的優(yōu)惠，讓你盡可能多買(mǎi)。”中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院網(wǎng)安中心測(cè)評(píng)實(shí)驗(yàn)室副主任何延哲說(shuō)。
規(guī)定提出，算法推薦服務(wù)提供者應(yīng)當(dāng)定期審核、評(píng)估、驗(yàn)證算法機(jī)制機(jī)理、模型、數(shù)據(jù)和應(yīng)用結(jié)果等，不得設(shè)置誘導(dǎo)用戶沉迷、過(guò)度消費(fèi)等違反法律法規(guī)或者違背倫理道德的算法模型。
中國(guó)政法大學(xué)數(shù)據(jù)法治研究院教授王立梅認(rèn)為，算法推薦服務(wù)提供者應(yīng)當(dāng)堅(jiān)持主流價(jià)值導(dǎo)向、促進(jìn)算法應(yīng)用向上向善的基本要求。規(guī)定提出不得設(shè)置誘導(dǎo)用戶沉迷、過(guò)度消費(fèi)等算法模型，正是將科技向善理念落實(shí)為具體業(yè)務(wù)要求的體現(xiàn)。
“規(guī)定提出了要防范出現(xiàn)此類情形，需要相關(guān)企業(yè)切實(shí)做好算法的評(píng)估工作，從算法推薦的邏輯、面向的用戶群體、瀏覽和消費(fèi)行為等多個(gè)角度出發(fā)進(jìn)行綜合分析。”何延哲建議，為防止算法導(dǎo)致的沉迷或過(guò)度消費(fèi)，必要時(shí)還應(yīng)引入第三方進(jìn)行評(píng)價(jià)和評(píng)議，以保證評(píng)估的中立性。
刷量控評(píng)影響網(wǎng)絡(luò)輿論？確保算法公開(kāi)透明
利用算法注冊(cè)虛假賬號(hào)、雇傭網(wǎng)絡(luò)“水軍”，實(shí)施虛假點(diǎn)贊、轉(zhuǎn)發(fā)等流量造假，或者鼓動(dòng)“飯圈”粉絲互撕謾罵、刷量控評(píng)；屏蔽信息、過(guò)度推薦，操縱干預(yù)熱搜、榜單或檢索結(jié)果排序……一些算法推薦服務(wù)提供者在開(kāi)展個(gè)性化推薦、熱點(diǎn)榜單、信息發(fā)布等活動(dòng)時(shí)，還存在影響網(wǎng)絡(luò)輿論的現(xiàn)象。
根據(jù)規(guī)定，算法推薦服務(wù)應(yīng)遵循公開(kāi)透明的原則，鼓勵(lì)算法推薦服務(wù)提供者綜合運(yùn)用內(nèi)容去重、打散干預(yù)等策略，優(yōu)化規(guī)則透明度和可解釋性。建立健全算法機(jī)制機(jī)理審核、科技倫理審查、用戶注冊(cè)、信息發(fā)布審核等管理制度，不得利用算法操縱榜單、控制熱搜等干預(yù)信息呈現(xiàn)。
“針對(duì)微博存在的刷量、刷榜、控評(píng)等干擾、扭曲真實(shí)的用戶聲音和信息傳播等問(wèn)題，我們一直在努力整治。”微博有關(guān)負(fù)責(zé)人坦言，這些問(wèn)題屢禁難絕的背后，也有真人刷榜行為比較難發(fā)現(xiàn)、對(duì)已形成完整產(chǎn)業(yè)鏈的相關(guān)黑灰產(chǎn)難以從技術(shù)上禁絕等困難的存在。
世輝律師事務(wù)所合伙人王新銳認(rèn)為，規(guī)定要求網(wǎng)絡(luò)平臺(tái)以顯著方式告知用戶其提供算法推薦服務(wù)的情況，同時(shí)要求具有輿論屬性或者社會(huì)動(dòng)員能力的平臺(tái)將算法相關(guān)情況予以備案，通過(guò)這種“普遍公開(kāi)+部分備案”的方式來(lái)解決算法不透明帶來(lái)的現(xiàn)實(shí)問(wèn)題和普遍憂慮。
未成年人等特殊群體權(quán)益如何保護(hù)？精細(xì)化滿足不同群體訴求
近年來(lái)，一些App接連被曝出傳播兒童軟色情表情包、利用未成年人性暗示短視頻引流等問(wèn)題，嚴(yán)重?fù)p害未成年人身心健康，影響網(wǎng)絡(luò)傳播秩序。
“網(wǎng)絡(luò)為未成年人帶來(lái)了嶄新的生活方式，也產(chǎn)生了未成年人網(wǎng)絡(luò)保護(hù)問(wèn)題。”中國(guó)社會(huì)科學(xué)院大學(xué)副校長(zhǎng)林維認(rèn)為，未成年人存在認(rèn)知、判斷能力較弱，價(jià)值觀尚未成型等特點(diǎn)，針對(duì)性過(guò)強(qiáng)的算法推送內(nèi)容有可能引發(fā)各種不良效果，也可能導(dǎo)致沉迷網(wǎng)絡(luò)現(xiàn)象。
對(duì)此，規(guī)定提出，算法推薦服務(wù)提供者不得向未成年人推送可能引發(fā)未成年人模仿不安全行為和違反社會(huì)公德行為、誘導(dǎo)未成年人不良嗜好等可能影響未成年人身心健康的信息，不得利用算法推薦服務(wù)誘導(dǎo)未成年人沉迷網(wǎng)絡(luò)。
此外，針對(duì)一些平臺(tái)未充分考慮老年人適老化需求等問(wèn)題，規(guī)定還要求，算法推薦服務(wù)提供者向老年人提供服務(wù)的，應(yīng)當(dāng)保障老年人依法享有的權(quán)益，充分考慮老年人出行、就醫(yī)、消費(fèi)、辦事等需求，按照國(guó)家有關(guān)規(guī)定提供智能化適老服務(wù)。
專家指出，在互聯(lián)網(wǎng)信息服務(wù)日益多元化、基礎(chǔ)化、普及化的情況下，規(guī)定精細(xì)化、有側(cè)重地滿足不同群體的利益訴求，將更好保障未成年人、老年人、勞動(dòng)者等群體權(quán)益，引導(dǎo)算法應(yīng)用遵守社會(huì)公德和倫理，遵守商業(yè)道德和職業(yè)道德。
監(jiān)管如何落地落實(shí)？著力完善治理體系
當(dāng)前，算法等新技術(shù)新應(yīng)用已經(jīng)成為推動(dòng)企業(yè)數(shù)字化轉(zhuǎn)型和國(guó)家治理能力現(xiàn)代化的重要力量。專家認(rèn)為，規(guī)定有利于建立健全科學(xué)的監(jiān)管體系，統(tǒng)籌各方建立完整制度鏈條，形成算法治理長(zhǎng)效機(jī)制。
“事前監(jiān)管，確立算法備案、算法評(píng)估等制度；區(qū)分監(jiān)管，確立分級(jí)分類的思路；系統(tǒng)監(jiān)管，建立多元共治的局面。”中國(guó)信息通信研究院副總工程師王愛(ài)華認(rèn)為，規(guī)定著力完善治理體系，通過(guò)優(yōu)化監(jiān)管框架，實(shí)現(xiàn)事前事中事后全流程、全鏈條監(jiān)管，增強(qiáng)監(jiān)管系統(tǒng)性和權(quán)威性。
星瀚律師事務(wù)所主任律師衛(wèi)新認(rèn)為，當(dāng)前算法技術(shù)的應(yīng)用越來(lái)越廣泛，對(duì)算法的監(jiān)管需要迎頭跟上，未來(lái)在具體執(zhí)行過(guò)程中還需形成各類具備可操作性的細(xì)則。
“算法推薦作為一種新技術(shù)模式，面臨一些新型技術(shù)安全、應(yīng)用安全甚至倫理安全風(fēng)險(xiǎn)。”中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院黨委書(shū)記楊建軍建議，為支撐規(guī)定落地實(shí)施，亟須加強(qiáng)算法安全技術(shù)能力建設(shè)，建設(shè)算法推薦服務(wù)備案、算法安全評(píng)估、算法安全風(fēng)險(xiǎn)監(jiān)測(cè)等平臺(tái)，提升算法推薦技術(shù)監(jiān)管能力。(記者王思北、陽(yáng)娜、周琳、顏之宏)