界面新聞記者 | 范易成
界面新聞編輯 | 彭朋
圍繞內(nèi)容平臺的“信息繭房”、操縱榜單炒作熱點，電商平臺的大數(shù)據(jù)“殺熟”、“僅退款”及低價內(nèi)卷，生活服務(wù)平臺的侵害新就業(yè)形態(tài)勞動者權(quán)益等備受社會關(guān)注的問題，小紅書、嗶哩嗶哩、拼多多、餓了么等上海屬地平臺日前陸續(xù)發(fā)布了算法治理的成果、舉措和目標。
去年11月以來，根據(jù)中央網(wǎng)信辦等四部門聯(lián)合部署，上海市委網(wǎng)信辦會同市通管局、市公安局、市市場監(jiān)管局深入推進開展“清朗浦江·網(wǎng)絡(luò)平臺算法典型問題治理”專項行動，要求上海屬地網(wǎng)站平臺針對前述典型問題開展自查自糾。
在這場涉及用戶、平臺和監(jiān)管多方的新一輪治理中，對于“算法如何向善”，上海給出了一份階段性的“答卷”。
幾乎所有內(nèi)容平臺都有一套類似的底層邏輯，生產(chǎn)內(nèi)容并進行內(nèi)容分發(fā)，通過數(shù)據(jù)和算法，為用戶提供符合其興趣和行為偏好的內(nèi)容，并持續(xù)高密度供給，從而提高用戶粘性和使用時長。這一模式不可避免會造成推送內(nèi)容同質(zhì)化、“信息繭房”和誘導(dǎo)沉迷等問題。
一位曾在多家內(nèi)容平臺任職的業(yè)內(nèi)人士告訴界面新聞，每個用戶關(guān)注的內(nèi)容和偏好本來就不相同，所以才會有不同定位的內(nèi)容和平臺。大多數(shù)人就是會沉浸在自己喜歡和偏好的內(nèi)容里，所以平臺也會迎合用戶的需求和行為。因此，基于商業(yè)邏輯，平臺自身很難有動力去解決“信息繭房”等問題，這時監(jiān)管機構(gòu)就顯得尤為重要。
1月14日，小紅書宣布推出九項舉措，進一步落實算法公平公正，流量向上向善，推動平臺治理相關(guān)規(guī)則透明化。其中就包括建立算法溝通機制、完善治理體系建設(shè)、提升推薦多樣性、完善賬號“真誠分”體系、優(yōu)化流量分配機制、加大對正向內(nèi)容的引導(dǎo)與扶持等舉措。
小紅書算法相關(guān)負責(zé)人向界面新聞介紹，每個人都有自己個性化的生活，小紅書的算法為了避免流量聚集在少數(shù)頭部“大V”，目前超過50%的流量分配給了1000粉絲以下的用戶，從而讓整個內(nèi)容生態(tài)更多元健康。
針對“信息繭房”問題，小紅書主動設(shè)計了遺忘算法，當(dāng)用戶對某個垂類的內(nèi)容觀看過多時，算法會減少該類目的內(nèi)容推薦并適當(dāng)地增加其他品類的內(nèi)容。此外，小紅書還設(shè)計了“真誠分”系統(tǒng)，將創(chuàng)作者分為需要營銷變現(xiàn)的商家、各垂類的專業(yè)創(chuàng)作者以及分享日常生活的普通用戶。之后，通過算法去判斷內(nèi)容發(fā)布的動機以及質(zhì)量，使真誠創(chuàng)作的內(nèi)容獲得更大的流量，讓更多普通用戶能夠看到這些內(nèi)容。
在小紅書副總裁、總編輯許磊看來，優(yōu)秀的平臺需要很好地平衡用戶價值、商業(yè)價值和社會價值，做到“三位一體”。他對界面新聞表示，目前小紅書的內(nèi)容依然采用雙列信息流的方式進行分發(fā)，更側(cè)重于用戶的體驗。這一分發(fā)機制與短視頻平臺的上下滑動有很大的不同，雖然從產(chǎn)品的角度來看是“低效”的，但這能夠讓用戶主動選擇真正需要的、有價值的內(nèi)容。
嗶哩嗶哩（以下簡稱B站）此前也同樣發(fā)布了公告稱，將持續(xù)推進平臺多方面優(yōu)化提升，引導(dǎo)全站創(chuàng)作向上向善。在挖掘優(yōu)質(zhì)內(nèi)容方面，將深度考察up主創(chuàng)作生態(tài)，擷取一批有見地、有溫度、有知識、有熱情的優(yōu)質(zhì)稿件優(yōu)先推送曝光。
針對信息繭房、同質(zhì)化推送等問題，B站將主動升級產(chǎn)品功能，提高用戶自主選擇權(quán)。具體來說，在產(chǎn)品功能上會提高用戶自主干預(yù)能動性，向用戶提供信息負反饋選項，增設(shè)「此類內(nèi)容過多」「推薦過」等反饋理由，用戶可通過主動選擇來降低某類內(nèi)容的展現(xiàn)密度。
針對熱搜榜單，將結(jié)合平臺算法規(guī)則，從排序規(guī)則、更新規(guī)則、標識說明等維度進一步深入闡述。同時引入熱度概念，便于用戶理解，充分保障用戶知情權(quán)和選擇權(quán)，推動算法公開透明。
近期，反向“馴化”“大數(shù)據(jù)殺熟”成為一大熱點話題。根據(jù)媒體報道，有網(wǎng)友通過反復(fù)評論“機票太貴了，買不起，不去了”后，發(fā)現(xiàn)機票價格從4309元降至1903元；還有網(wǎng)友稱，在某外賣平臺選好餐品后不支付下單，而是轉(zhuǎn)到另一軟件繼續(xù)瀏覽，就有機會獲得優(yōu)惠紅包。
目前，大多數(shù)平臺并不承認大數(shù)據(jù)“殺熟”，認為這是針對不同用戶的“差異化營銷”。中國廣告協(xié)會品牌營銷生態(tài)安全服務(wù)中心智庫專家廖懷學(xué)在接受媒體采訪時指出，正?！安町惢癄I銷”的條件至少有以下三點：第一，消費者對不同價格或收費標準知情；第二，經(jīng)營者向消費者提供不針對個人特征的選項；第三，經(jīng)營者要為消費者提供便捷的拒絕方式。
廖懷學(xué)表示，盡管“殺熟”和“差異化營銷”不能混為一談，但由于大數(shù)據(jù)“殺熟”與“差異化營銷”的界限在法律上存在一定的模糊性，未來還需要進一步的認定規(guī)則作指引。
在嚴禁大數(shù)據(jù)“殺熟”方面，拼多多相關(guān)負責(zé)人對界面新聞表示，平臺不斷規(guī)范商品定價機制，嚴禁根據(jù)用戶年齡、職業(yè)、消費水平等特征實施差異化定價行為，將加強平臺活動、優(yōu)惠券等規(guī)則公示，并及時回應(yīng)消費者關(guān)切。
在商品的搜索推薦方面，平臺目前主要根據(jù)商品的口碑、訂單、用戶是否樂于分享等，由系統(tǒng)自動計算和推薦，來幫助消費者更高效地匹配需求的商品和服務(wù)，另一方面可以引導(dǎo)商家更加專注于產(chǎn)品和服務(wù)本身。
圍繞電商平臺如何構(gòu)建高質(zhì)量發(fā)展生態(tài)等問題， 據(jù)介紹，2024年下半年，拼多多對商家售后服務(wù)體系進行專項升級。比如，取消商家的售后申訴限制，全面支持商家對異常訂單、惡意投訴訂單、消費者負向體驗訂單等進行申訴，商家申訴成功后將由平臺對相關(guān)訂單進行賠付。
1月8日，拼多多成立“商家權(quán)益保護委員會”，統(tǒng)籌平臺治理、招商、客服、技術(shù)、產(chǎn)品等團隊，全面研究商家需求，收集商家反饋意見，優(yōu)化商家經(jīng)營體驗，完善商家服務(wù)機制，保障商家合法權(quán)益。
針對“僅退款”問題，拼多多先后推出了多項改進舉措，包括：加強商家提示，對平臺已明確判定行為有惡意的用戶，主動向商家發(fā)出提醒；對商品存在輕微問題、短時間難以界定的訂單，平臺延遲主動介入，給予商家和消費者之間更多協(xié)商時間；在消費者申請僅退款時，平臺主動引導(dǎo)消費者補充缺失的關(guān)鍵憑證、詳細問題描述，確保消費者充分合理舉證；調(diào)整平臺主動介入的僅退款金額上限，降低平臺主動介入比例，細化完善用戶僅退款、商家僅退款以及商品僅退款的熔斷閾值。
此外，拼多多針對價格競爭上線了“低價風(fēng)險預(yù)警”功能，當(dāng)發(fā)現(xiàn)商家提交的商品價格過低時，會結(jié)合商家歷史價格數(shù)據(jù)發(fā)出彈窗提醒，做好價格風(fēng)險管控；對于商家通過低價進行惡意引流、售賣劣質(zhì)商品等行為，持續(xù)加大治理力度，為商家營造更有效、健康的生態(tài)環(huán)境。
1月21日，為全面加強騎手權(quán)益的保障力度，餓了么公布九項舉措，包括落實算法公開常態(tài)化、建立更廣泛的算法溝通機制、持續(xù)加大技術(shù)研發(fā)投入、完善算法樣本的篩選機制、上線休息提醒功能防范騎手疲勞作業(yè)、正向引導(dǎo)及規(guī)范騎手配送過程中的行為、承諾騎手申訴解決時效、建立算法的騎手集體協(xié)商機制、加快共建騎手友好型數(shù)字化未來社區(qū)等。同時，餓了么在官方網(wǎng)站開設(shè)了算法的公示頁面。
餓了么算法相關(guān)負責(zé)人向界面新聞介紹，公司在經(jīng)營理念層面用“準確性”替代“時效性”，從單純的“求快”發(fā)展為要求準確。這對算法的預(yù)估送達時間能力提出了更高的要求，需要不斷通過大數(shù)據(jù)和異常信息反饋相結(jié)合從而給出科學(xué)合理的預(yù)估，并從全局最優(yōu)的視角統(tǒng)籌匹配區(qū)域內(nèi)的訂單和騎手，把合適的訂單在合適的時間匹配給最合適的騎手，從而實現(xiàn)消費者需求和騎手權(quán)益的兼顧。
具體來說，餓了么在配送時長規(guī)則上做了多方面的調(diào)整，包括提高配送時間的彈性，把預(yù)估送達時間從“時間點”調(diào)整為彈性的“時間段”，只要在時間段內(nèi)送達均不會計為超時；發(fā)生特殊情況無法按時送達時，給予騎手報備和轉(zhuǎn)單等解決方式；建設(shè)了壓力預(yù)警輔助訂單密度調(diào)配機制，針對特殊天氣等狀況，系統(tǒng)自動觸發(fā)保護方案靈活調(diào)整預(yù)估送達時間，同時采取縮減配送范圍等措施來進行壓力調(diào)控，保障騎手不用承擔(dān)過大的配送壓力。
此外，餓了么還對派單調(diào)度規(guī)則進行了優(yōu)化，重點增加了騎手安全因子的比重。基于配送的安全性考量，算法會參考道路交通事故情況等歷史數(shù)據(jù)，并結(jié)合騎手接單時長、騎行速度等實時數(shù)據(jù)，綜合判斷騎手在當(dāng)前配送狀態(tài)下的安全負載系數(shù)，并相應(yīng)調(diào)整訂單分配。據(jù)了解，為了進一步解決外賣騎手群體中的闖紅燈等交通違章問題，餓了么正在和高德合作，把實時“紅綠燈”功能納入騎手導(dǎo)航和違規(guī)行為管控，預(yù)計將于近期上線。
談到外賣行業(yè)算法未來的改善方向，工信部信息通信經(jīng)濟專家委員會委員盤和林對界面新聞表示，重要的是做到算法的公開透明，特別是與公開騎手息息相關(guān)的部分，并充分傾聽騎手的意見。此外，不要急于用外部人的視角替騎手來表達，因為有很多在旁人看來是關(guān)懷騎手的作法，有可能會影響騎手的收入，騎手未必愿意。盤和林認為，聚焦算法向善，關(guān)鍵在于構(gòu)建一個溝通的橋梁和協(xié)商的機制，盡可能去找到平臺、用戶和騎手三方利益的平衡點。
上海市委網(wǎng)信辦相關(guān)負責(zé)人指出，算法問題社會關(guān)注度高、影響范圍廣、用戶反映強烈。算法不是單純的技術(shù)問題、程序問題，背后體現(xiàn)的是企業(yè)的價值選擇和社會責(zé)任。各網(wǎng)站平臺要依法依規(guī)提供算法推薦服務(wù)，建立健全算法安全管理制度和技術(shù)措施，同時為用戶實現(xiàn)算法自主選擇權(quán)提供便利支持。算法的公開透明有利于規(guī)范和監(jiān)督算法應(yīng)用，也有利于消除社會疑慮，預(yù)防和減少爭議糾紛，贏得公眾對平臺的信任。
近期，市委網(wǎng)信辦會同市通管局、市公安局、市市場監(jiān)管局，圍繞算法治理開展了一系列合規(guī)指導(dǎo)。2024年12月底，組織召開面向?qū)俚?00余家網(wǎng)站平臺的算法治理合規(guī)指導(dǎo)會，全面開展普法培訓(xùn)。今年1月，針對算法透明公示、信息“繭房”、大數(shù)據(jù)“殺熟”等各方關(guān)注度高的細分場景，開展多場分類指導(dǎo)會，要求網(wǎng)站平臺加強用戶權(quán)益保障，重視各方意見建議，通過務(wù)實舉措推動算法公開透明和機制優(yōu)化，以善治回應(yīng)社會的“算法向善”期許。
在全國層面，本輪的算法典型問題治理專項行動要求各大平臺企業(yè)在2024年12月31日前自查自糾，2025年1月核驗自查情況，并將在2月14日前完成治理成效評估。界面新聞從市委網(wǎng)信辦獲悉，上海地方層面，本次專項行動將持續(xù)至5月。
下一階段，市委網(wǎng)信辦將會同相關(guān)部門，通過受理舉報線索、技術(shù)核驗、約談?wù)?、現(xiàn)場檢查等方式開展督查督導(dǎo)，進一步壓實網(wǎng)站平臺算法安全管理的主體責(zé)任，對自查不認真、整改不徹底的網(wǎng)站平臺，依法依規(guī)進行處置處罰。