文｜IT時(shí)報(bào)記者 郝俊慧
編輯｜挨踢妹
30秒快讀
1.監(jiān)管層打出“算法治理”又一記重拳。
2.電商推薦機(jī)制、外賣小哥送餐路線、網(wǎng)約車派單、自動(dòng)寫稿機(jī)器人、虛擬主播……算法范疇無(wú)處不在。
3.專家：今日頭條等以算法推薦為主App應(yīng)用需要作出相應(yīng)改變。上海匯業(yè)律師事務(wù)所律師史宇航展示了一個(gè)對(duì)于互聯(lián)網(wǎng)用戶和消費(fèi)者來(lái)說(shuō)無(wú)比美妙的未來(lái)場(chǎng)景：將來(lái)每個(gè)App都要明明白白告訴用戶，App為你打了幾個(gè)標(biāo)簽，這些標(biāo)簽具體是什么，而消費(fèi)者則有權(quán)直接刪除這些標(biāo)簽，拒絕互聯(lián)網(wǎng)公司通過(guò)App為自己畫像。
近日，國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國(guó)家市場(chǎng)監(jiān)督管理總局聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（下稱《規(guī)定》），自2022年3月1日起施行。
這是近一年來(lái)監(jiān)管層“算法治理”的又一記重拳。此前，國(guó)信辦發(fā)布的《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見(jiàn)》和上海市發(fā)布的《上海市網(wǎng)絡(luò)交易平臺(tái)網(wǎng)絡(luò)營(yíng)銷活動(dòng)算法應(yīng)用指引（試行）》，已經(jīng)多次提出指導(dǎo)意見(jiàn)，而《規(guī)定》被認(rèn)為比前者具有更強(qiáng)的監(jiān)管效力。
“《規(guī)定》不僅從更加全面的角度要求使用算法推薦技術(shù)的企業(yè)開(kāi)展合規(guī)工作，并且可以作為有關(guān)部門的執(zhí)法依據(jù)，具有強(qiáng)制性?！?月6日，《IT時(shí)報(bào)》記者專訪上海匯業(yè)律師事務(wù)所律師史宇航，逐條分析《規(guī)定》對(duì)數(shù)字時(shí)代可能帶來(lái)的影響
01 自動(dòng)寫稿機(jī)器人、虛擬主播也要合規(guī)
隨著算法推薦技術(shù)的日益普及，對(duì)算法推薦技術(shù)的監(jiān)管和治理已迫在眉睫。2021年11月召開(kāi)的中央政治局會(huì)議強(qiáng)調(diào)，加快提升生物安全、網(wǎng)絡(luò)安全、數(shù)據(jù)安全、人工智能安全等領(lǐng)域的治理能力。推薦算法涉及網(wǎng)絡(luò)安全、數(shù)據(jù)安全以及人工智能安全等多個(gè)領(lǐng)域，其重要性可見(jiàn)一斑。
《規(guī)定》開(kāi)篇，算法推薦技術(shù)定義為：“利用生成合成類、個(gè)性化推送類、排序精選類、檢索過(guò)濾類、調(diào)度決策類等算法技術(shù)向用戶提供信息。”
這意味著，“算法推薦的范疇已經(jīng)涵蓋企業(yè)經(jīng)營(yíng)的各個(gè)方面，無(wú)論是內(nèi)容平臺(tái)借助算法生成并分發(fā)內(nèi)容、零售品牌向顧客發(fā)送促銷信息，或是電子商務(wù)平臺(tái)優(yōu)化搜索結(jié)果、外賣平臺(tái)規(guī)劃‘外賣小哥’的送餐路線，甚至自動(dòng)寫稿機(jī)器人、虛擬主播等合成類人工智能，只要在中國(guó)境內(nèi)使用算法推薦功能，都需要根據(jù)《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》部署合規(guī)工作?！笔酚詈秸J(rèn)為，算法合規(guī)正在成為一項(xiàng)新的合規(guī)類別，數(shù)據(jù)合規(guī)的組成部分，并可能在未來(lái)成為一個(gè)單獨(dú)的門類。
此外，史宇航認(rèn)為，新規(guī)實(shí)施后需要警醒的不僅僅是互聯(lián)網(wǎng)公司，進(jìn)入全面數(shù)字化轉(zhuǎn)型的政府和傳統(tǒng)企業(yè)在運(yùn)用人工智能、大數(shù)據(jù)等技術(shù)建設(shè)智慧城市時(shí)，同樣需要對(duì)數(shù)據(jù)的合規(guī)處理、各方算法風(fēng)險(xiǎn)應(yīng)承擔(dān)的責(zé)任，算法成果的歸屬等問(wèn)題，與合作方做好約定。
02 如何打開(kāi)“黑箱”？
此次發(fā)布的《規(guī)定》中，最引人關(guān)注的是要求“算法透明”，第16條規(guī)定，“算法推薦服務(wù)提供者應(yīng)當(dāng)以顯著方式告知用戶其提供算法推薦服務(wù)的情況，并以適當(dāng)方式公示算法推薦服務(wù)的基本原理、目的意圖和主要運(yùn)行機(jī)制等?！?/p>
這被認(rèn)為可能是實(shí)施過(guò)程中最難的一條。以深度學(xué)習(xí)算法推動(dòng)的此輪人工智能浪潮，最常見(jiàn)的問(wèn)題便是“黑箱”，也即算法模型創(chuàng)建后，人們并不知道輸入數(shù)據(jù)后會(huì)產(chǎn)生怎樣的結(jié)果，也不知道為什么會(huì)生成這些結(jié)果。
“算法透明化”的另一個(gè)障礙是商業(yè)倫理和商業(yè)秘密。通常情況下，互聯(lián)網(wǎng)公司往往以“機(jī)密”為由拒絕回答消費(fèi)者對(duì)其算法結(jié)果的質(zhì)疑。隨著《規(guī)定》實(shí)施，這些障礙都將被一一打破。
史宇航分析，算法透明度的提升可能會(huì)通過(guò)“算法政策”“開(kāi)放源代碼”等方式進(jìn)行，盡管這不可避免會(huì)將公司原本的一些商業(yè)秘密公之于眾。但另一方面，當(dāng)某一算法對(duì)社會(huì)具有一定的影響力，如果只是將算法作為一個(gè)黑箱，也會(huì)讓社會(huì)公眾產(chǎn)生疑慮，因此提升透明度是打消此種疑慮的路徑。這將是一個(gè)逐漸普及、細(xì)化的過(guò)程。
他建議，處理者應(yīng)當(dāng)向受影響的個(gè)人說(shuō)明：其數(shù)據(jù)會(huì)在何種場(chǎng)景下被何種算法處理，該等處理的目的是什么。比如前段時(shí)間美團(tuán)通過(guò)微信公眾號(hào)對(duì)自己的“訂單分配”算法進(jìn)行說(shuō)明，提升算法透明度以及公眾對(duì)美團(tuán)的信心，“算法不是一成不變的，需要持續(xù)訓(xùn)練、優(yōu)化，其中肯定也包括對(duì)‘黃?！袨榈膬?yōu)化。對(duì)商業(yè)密碼的保護(hù)，也可以通過(guò)對(duì)源代碼定點(diǎn)公布的方式實(shí)現(xiàn)。（如在特定城市設(shè)立透明度中心以供查閱）?！?/p>
03 今日頭條會(huì)變嗎？
《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》另一個(gè)值得關(guān)注的條例是，明確了算法推薦服務(wù)提供者的用戶權(quán)益保護(hù)要求，保障算法選擇權(quán)要求企業(yè)應(yīng)當(dāng)向用戶提供不針對(duì)其個(gè)人特征的選項(xiàng)，或者便捷的關(guān)閉算法推薦服務(wù)選項(xiàng)。
此外，對(duì)于以未成年人、老年人、勞動(dòng)者和消費(fèi)者等用戶為主體的應(yīng)用，《規(guī)定》明確了具體要求，如不得利用算法推薦服務(wù)誘導(dǎo)未成年人沉迷網(wǎng)絡(luò)，應(yīng)當(dāng)便利老年人安全使用算法推薦服務(wù)，應(yīng)當(dāng)建立完善平臺(tái)訂單分配、報(bào)酬構(gòu)成及支付、工作時(shí)間、獎(jiǎng)懲等相關(guān)算法，以及不得根據(jù)消費(fèi)者的偏好、交易習(xí)慣等特征利用算法在交易價(jià)格等交易條件上實(shí)施不合理的差別待遇等。
這是否意味著，今日頭條等以算法推薦為主要形態(tài)的產(chǎn)品形態(tài)，會(huì)因此發(fā)生變化？
史宇航的答案是肯定的。他認(rèn)為，《規(guī)定》賦予用戶更多的選擇權(quán)，這需要算法推薦類App在產(chǎn)品功能上進(jìn)行調(diào)整，允許用戶自行選擇、刪除被平臺(tái)打上的用戶標(biāo)簽，這些操作都會(huì)對(duì)產(chǎn)品的形態(tài)帶來(lái)根本改變，有助于用戶掌控自己的信息流，而“隱私政策”或“算法政策”作為前端的文件，需要體現(xiàn)背后產(chǎn)品功能的變化。
史宇航向記者展示了一個(gè)對(duì)于互聯(lián)網(wǎng)用戶和消費(fèi)者來(lái)說(shuō)無(wú)比美妙的未來(lái)場(chǎng)景：將來(lái)每個(gè)App都要明明白白告訴用戶，App為你打了幾個(gè)標(biāo)簽，這些標(biāo)簽具體是什么，而消費(fèi)者則有權(quán)直接刪除這些標(biāo)簽，拒絕互聯(lián)網(wǎng)公司通過(guò)App為自己畫像。
史宇航同時(shí)提醒，要做到上述場(chǎng)景，必將對(duì)互聯(lián)網(wǎng)公司的技術(shù)提出很高的要求。通常，一個(gè)App中一位成熟用戶的標(biāo)簽數(shù)量可以達(dá)到2000個(gè)，企業(yè)如何將這些標(biāo)簽合理地展示出來(lái)，同時(shí)兼具用戶端的可操作性，還有很長(zhǎng)的路要走。
排版／季嘉穎