算法推薦“強(qiáng)監(jiān)管”終于來了！
近日，國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國(guó)家市場(chǎng)監(jiān)督管理總局聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（以下簡(jiǎn)稱《規(guī)定》），自2022年3月1日起施行。
隨著算法推薦技術(shù)在互聯(lián)網(wǎng)領(lǐng)域興起，算法歧視、“大數(shù)據(jù)殺熟”、誘導(dǎo)沉迷等算法不合理應(yīng)用的問題也頻繁進(jìn)入公眾視野。
如今，新規(guī)即將落地實(shí)施，能否進(jìn)一步杜絕算法推薦亂象？又會(huì)給字節(jié)跳動(dòng)等基于算法推薦的互聯(lián)網(wǎng)公司帶來哪些影響？
1．可約束平臺(tái)不公平獲取商業(yè)利益的行為
打開今日頭條，會(huì)發(fā)現(xiàn)“你關(guān)注的才是頭條”；閑暇時(shí)刷刷短視頻，系統(tǒng)不斷推送感興趣的內(nèi)容，讓人不知不覺陷入了“時(shí)間黑洞”；在淘寶上瀏覽，關(guān)聯(lián)商品都與曾看過或購(gòu)買的寶貝相關(guān)，購(gòu)物欲望不知不覺中大增……
互聯(lián)網(wǎng)正在重塑人們的生活。2021年8月27日，中國(guó)互聯(lián)網(wǎng)絡(luò)信息中心（CNNIC）發(fā)布第48次《中國(guó)互聯(lián)網(wǎng)絡(luò)發(fā)展?fàn)顩r統(tǒng)計(jì)報(bào)告》（以下簡(jiǎn)稱《報(bào)告》），截至2021年6月，我國(guó)網(wǎng)民總體規(guī)模達(dá)10.11億。
不過，當(dāng)用戶增速放緩時(shí)，互聯(lián)網(wǎng)也會(huì)陷入存量競(jìng)爭(zhēng)，增加用戶粘性就成了關(guān)鍵。
記者注意到，算法推薦已經(jīng)廣泛應(yīng)用于短視頻、微博、新聞、電商、外賣等APP中，算法技術(shù)也成為互聯(lián)網(wǎng)公司的強(qiáng)大競(jìng)爭(zhēng)力。
制圖：方紫薇
算法到底是什么？《規(guī)定》明確，應(yīng)用算法推薦技術(shù)，是指利用生成合成類、個(gè)性化推送類、排序精選類、檢索過濾類、調(diào)度決策類等算法技術(shù)向用戶提供信息。
算法是如何留住你的注意力的？以抖音的推薦機(jī)制為例，用戶的點(diǎn)贊、評(píng)論、分享等行為，都會(huì)成為抖音算法為用戶描摹畫像的依據(jù)，影響著內(nèi)容的分發(fā)。
算法也能將注意力轉(zhuǎn)化為收益。抖音電商聯(lián)合巨量算數(shù)首發(fā)《2021抖音電商生態(tài)發(fā)展報(bào)告》顯示，2021年1月，通過內(nèi)容+算法優(yōu)勢(shì)，抖音的興趣電商實(shí)現(xiàn)商品交易總額同比增長(zhǎng)了50倍。
字節(jié)跳動(dòng)副總裁楊震原也曾公開表示，今日頭條第一筆訂單就是推薦算法。
2021年6月，字節(jié)跳動(dòng)首次披露了公司的業(yè)績(jī)，2020年?duì)I收2366億元，同比增長(zhǎng)111%；而產(chǎn)品的用戶活躍數(shù)量更是從2013年的0做到了2020年的月活19億。
“新規(guī)的落地，至少在如何更為公平、合理的使用算法推薦方面提供了基本的指引，在一定程度上可以約束平臺(tái)利用算法不公平獲取商業(yè)利益的行為?！鄙虾Ｘ?cái)經(jīng)大學(xué)電子商務(wù)研究所執(zhí)行所長(zhǎng)崔麗麗對(duì)中國(guó)城市報(bào)記者說道。在她看來，這意味著從國(guó)家政策文件的層面，對(duì)互聯(lián)網(wǎng)平臺(tái)合理使用算法推薦功能進(jìn)行了規(guī)制，明確對(duì)“大數(shù)據(jù)殺熟”等不合理獲取商業(yè)利益的行為亮出了紅牌。對(duì)于算法推薦的個(gè)性化服務(wù)以及對(duì)個(gè)人特征標(biāo)簽的使用等方面的選擇權(quán)，將交由消費(fèi)者決定。
2．?dāng)y程被罰：“大數(shù)據(jù)殺熟”第一案維權(quán)成功
技術(shù)本身并無善惡。但如果利用方式出了錯(cuò)，就會(huì)成為商家“割韭菜”的工具，讓用戶不知不覺陷入到“大數(shù)據(jù)”陷阱中。
2021年12月31日，紹興市中級(jí)人民法院就胡某某訴上海攜程商務(wù)有限公司侵權(quán)責(zé)任糾紛一案依法作出終審判決，“大數(shù)據(jù)殺熟”第一案維權(quán)成功。
此前據(jù)新華網(wǎng)報(bào)道，胡女士多次通過攜程APP預(yù)定機(jī)票、酒店，在攜程平臺(tái)上消費(fèi)了10余萬元，成為該平臺(tái)的鉆石貴賓客戶。
2020年，胡女士像往常一樣通過攜程APP訂購(gòu)了舟山某高端酒店的一間豪華湖景大床房，支付價(jià)款2889元，卻在退房時(shí)發(fā)現(xiàn)，酒店的掛牌房?jī)r(jià)加上稅金總價(jià)僅1377.63元。胡女士隨后與攜程反應(yīng)，攜程僅退還了部分差價(jià)。
大數(shù)據(jù)“殺熟”反映出了典型的價(jià)格歧視，較真的胡女士將攜程告上法庭。
2021年7月7日，紹興市柯橋區(qū)人民法院一審判令攜程公司退還胡女士訂房差價(jià)，并按差額房費(fèi)的三倍支付賠償金；判令攜程公司在APP中增加不同意其現(xiàn)有《服務(wù)協(xié)議》和《隱私政策》仍可繼續(xù)使用的選項(xiàng)等。攜程公司不服，提起上訴。
據(jù)北京青年報(bào)報(bào)道，紹興市中級(jí)人民法院審理認(rèn)為，攜程公司構(gòu)成欺詐，判令攜程公司退還胡女士訂房差價(jià)并按差額房費(fèi)的三倍支付賠償金；對(duì)胡女士其余訴訟請(qǐng)求不予支持。
制圖：方紫薇
記者發(fā)現(xiàn)，目前在許多互聯(lián)網(wǎng)APP上，用戶已經(jīng)可以自主選擇關(guān)閉個(gè)性化推薦設(shè)置。
比如打開淘寶APP，可以在隱私欄關(guān)閉個(gè)性化推薦；同樣，在餓了么APP中，也可以在通用設(shè)置里關(guān)閉個(gè)性化推薦設(shè)置。再刷新之后，APP首頁(yè)的推薦都發(fā)生了變化。
淘寶個(gè)性化推薦關(guān)閉頁(yè)面。
餓了么個(gè)性化推薦關(guān)閉頁(yè)面。
但是關(guān)閉了個(gè)性化推薦后，獲得的信息有時(shí)并不盡如人意。
比如知乎網(wǎng)友“King James”就指出：“其實(shí)現(xiàn)在已經(jīng)有部分APP存在關(guān)閉個(gè)性化推薦或廣告的功能了。我關(guān)閉了淘寶的推薦功能后，發(fā)現(xiàn)各大推薦模塊仍然存在，整個(gè)信息流里面都是一些冷門商品，完全沒有想逛的欲望。以淘寶的技術(shù)能力，不至于推薦的商品如此令人反感，感覺在反向推薦。我懷疑，淘寶是希望通過這種做法來促使我重新開啟個(gè)性化推薦。”
因此關(guān)于“大數(shù)據(jù)殺熟”“個(gè)性化推薦”等方面，《規(guī)定》進(jìn)行了相關(guān)限制：
《規(guī)定》第二十一條提出，算法推薦服務(wù)提供者向消費(fèi)者銷售商品或者提供服務(wù)的，應(yīng)當(dāng)保護(hù)消費(fèi)者公平交易的權(quán)利，不得根據(jù)消費(fèi)者的偏好、交易習(xí)慣等特征，利用算法在交易價(jià)格等交易條件上實(shí)施不合理的差別待遇等違法行為。
《規(guī)定》第十七條提出，算法推薦服務(wù)提供者應(yīng)當(dāng)向用戶提供不針對(duì)其個(gè)人特征的選項(xiàng)，或者向用戶提供便捷的關(guān)閉算法推薦服務(wù)的選項(xiàng)。用戶選擇關(guān)閉算法推薦服務(wù)的，算法推薦服務(wù)提供者應(yīng)當(dāng)立即停止提供相關(guān)服務(wù)。
算法推薦服務(wù)提供者應(yīng)當(dāng)向用戶提供選擇或者刪除用于算法推薦服務(wù)的針對(duì)其個(gè)人特征的用戶標(biāo)簽的功能。算法推薦服務(wù)提供者應(yīng)用算法對(duì)用戶權(quán)益造成重大影響的，應(yīng)當(dāng)依法予以說明并承擔(dān)相應(yīng)責(zé)任。
3．保護(hù)被算法困住的“平臺(tái)勞工”
2021年4月28日，在北京衛(wèi)視的紀(jì)錄片鏡頭下，北京市人社局勞動(dòng)關(guān)系處副處長(zhǎng)王林體驗(yàn)了一天做外賣騎士的感覺，送單12小時(shí)完成5單送餐，只賺了41塊，他感嘆這個(gè)錢太不好掙，引起社會(huì)對(duì)外賣騎士的關(guān)注。
4月29日，美團(tuán)與餓了么相繼做出正式回應(yīng)，明確表示已逐步取消對(duì)騎士逐單處罰，并將繼續(xù)努力提升騎士體驗(yàn)。
對(duì)此《規(guī)定》也提出，算法推薦服務(wù)提供者向勞動(dòng)者提供工作調(diào)度服務(wù)的，應(yīng)當(dāng)保護(hù)勞動(dòng)者取得勞動(dòng)報(bào)酬、休息休假等合法權(quán)益，建立完善平臺(tái)訂單分配、報(bào)酬構(gòu)成及支付、工作時(shí)間、獎(jiǎng)懲等相關(guān)算法。
山東大學(xué)新聞傳播學(xué)院教授倪萬告訴中國(guó)城市報(bào)記者：“治理算法的本質(zhì)問題，是算法終歸要為誰(shuí)服務(wù)的問題，說到底要為人民服務(wù)，不是為算法背后的資本服務(wù)。不要讓算法異化人，把人困進(jìn)冰冷的算法里?！?/p>
4．或削弱平臺(tái)企業(yè)因算法帶來的流量紅利
“我在刷B站的時(shí)候，會(huì)選擇一些有價(jià)值的知識(shí)分享類視頻點(diǎn)贊收藏，這樣下次刷新時(shí)，算法就會(huì)推送我感興趣的視頻?！?0后網(wǎng)民阿煒向記者分享他“馴服”算法的小技巧，他表示，偶爾他也會(huì)看一些不動(dòng)腦的搞笑視頻，但很快，他的首頁(yè)推薦就被“污染”了。
“想要對(duì)沖‘信息繭房’，我必須要同時(shí)關(guān)注很多領(lǐng)域，可我的每一次喜歡與分享都是選擇，也許我自以為沒有陷入‘繭房’，卻已經(jīng)身在其中了。”阿煒感覺十分無奈。
制圖：方紫薇
信息繭房概念最初由哈佛大學(xué)法學(xué)院教授凱斯·桑斯坦提出。
他認(rèn)為，在信息傳播中，因公眾自身的信息需求并非全方位的，公眾只注意自己選擇的東西和使自己愉悅的通訊領(lǐng)域，久而久之，會(huì)將自身桎梏于像蠶繭一般的繭房中。
微博網(wǎng)友評(píng)論。
因此《規(guī)定》提出了以下指導(dǎo)意見：
第十二條指出，鼓勵(lì)算法推薦服務(wù)提供者綜合運(yùn)用內(nèi)容去重、打散干預(yù)等策略，并優(yōu)化檢索、排序、選擇、推送、展示等規(guī)則的透明度和可解釋性，避免對(duì)用戶產(chǎn)生不良影響，預(yù)防和減少爭(zhēng)議糾紛。
第十四條指出，算法推薦服務(wù)提供者不得利用算法虛假注冊(cè)賬號(hào)、非法交易賬號(hào)、操縱用戶賬號(hào)或者虛假點(diǎn)贊、評(píng)論、轉(zhuǎn)發(fā)，不得利用算法屏蔽信息、過度推薦、操縱榜單或者檢索結(jié)果排序、控制熱搜或者精選等干預(yù)信息呈現(xiàn)，實(shí)施影響網(wǎng)絡(luò)輿論或者規(guī)避監(jiān)督管理行為。
值得注意的是，本次正式發(fā)布的規(guī)定在征求意見稿基礎(chǔ)上，新增第十三條，要求算法推薦服務(wù)提供者提供互聯(lián)網(wǎng)新聞信息服務(wù)的，應(yīng)當(dāng)依法取得服務(wù)許可，規(guī)范開展新聞信息采編發(fā)布服務(wù)、轉(zhuǎn)載服務(wù)和傳播平臺(tái)服務(wù)，不得生成合成虛假新聞信息，不得傳播非國(guó)家規(guī)定范圍內(nèi)的單位發(fā)布的新聞信息。
對(duì)此上海申倫律師事務(wù)所律師夏海龍?jiān)诮邮苊襟w采訪時(shí)認(rèn)為，除媒體自建的APP、新聞網(wǎng)站外，該條款主要針對(duì)今日頭條等不從事新聞采編業(yè)務(wù)的各類信息聚合、分發(fā)服務(wù)提供者，“這要求相關(guān)平臺(tái)在推送內(nèi)容前需要對(duì)新聞內(nèi)容、發(fā)布者資質(zhì)進(jìn)行一定審核，否則有可能推送違規(guī)新聞信息?！毕暮｝堈f。
長(zhǎng)遠(yuǎn)來看，《規(guī)定》的實(shí)施，會(huì)給字節(jié)跳動(dòng)等基于算法推薦的互聯(lián)網(wǎng)公司帶來哪些影響？
對(duì)此崔麗麗認(rèn)為，過去以算法見長(zhǎng)的互聯(lián)網(wǎng)平臺(tái)，可能由純粹的技術(shù)型驅(qū)動(dòng)轉(zhuǎn)為受人工控制的技術(shù)型驅(qū)動(dòng)。在某種程度上，可能削弱從純技術(shù)優(yōu)勢(shì)角度由算法帶來的流量紅利。另外她提到，內(nèi)容類平臺(tái)特別是一些涉及到國(guó)家和社會(huì)民生信息的發(fā)布和傳播將更需要獲得授權(quán)，不得利用算法獲取的受眾喜好對(duì)內(nèi)容信息進(jìn)行有偏向性的信息加工和傳播。這也是從某種程度上杜絕了對(duì)于新聞?lì)悆?nèi)容產(chǎn)品根據(jù)受眾喜好編輯片面信息的可能性。
不過崔麗麗也表示，《規(guī)定》若要進(jìn)一步落實(shí)到位，未來可能還需要一定的技術(shù)監(jiān)管+抽查+投訴舉報(bào)等多種手段的配合。
記者：方紫薇 張阿嬙