算法正在裹挾每一個(gè)人。
近日，農(nóng)夫山泉?jiǎng)?chuàng)始人鐘睒睒在江西贛州參觀考察當(dāng)?shù)啬毘犬a(chǎn)業(yè)園時(shí)，談及今年上半年遭遇的網(wǎng)絡(luò)暴力、做綠瓶水背后的故事以及對(duì)網(wǎng)絡(luò)直播的看法，信息量很大。
期間，鐘晱晱拋出的話語(yǔ)足以稱得上“語(yǔ)出驚人”了，尤其是對(duì)“網(wǎng)絡(luò)暴力”和“網(wǎng)絡(luò)算法”兩個(gè)話題的表達(dá)，在全網(wǎng)持續(xù)發(fā)酵，引發(fā)熱議。
今年3月，農(nóng)夫山泉和他本人受到了自公司成立以來(lái)最為嚴(yán)重的一次網(wǎng)絡(luò)攻擊。他認(rèn)為，這場(chǎng)網(wǎng)絡(luò)暴力的背后是算法遭到利用，就是有人利用了算法，屏蔽了多角度來(lái)的消息。
“當(dāng)你打開(kāi)這些平臺(tái)，看到的總是同樣的內(nèi)容。有人在利用技術(shù)手段，這些人造成的傷害遠(yuǎn)遠(yuǎn)超過(guò)普通人所造成的傷害。需要社會(huì)去遏制，需要政府站出來(lái)主持公平?！辩姳槺樥J(rèn)為。
他還質(zhì)疑，在謠言中，是否都需要一個(gè)反派角色來(lái)制造對(duì)立，正如好萊塢電影中常見(jiàn)的那樣？如果缺乏這樣的對(duì)立，一些平臺(tái)似乎難以持續(xù)吸引流量，如果是這樣，他認(rèn)為，這樣的平臺(tái)是極其惡劣的。
“算法的惡是有知識(shí)的人生產(chǎn)的，不是底層老百姓，老百姓仍然是受害者，那些罵鐘睒睒的人不是既得利益者，他們也是受害者，他們因?yàn)椴涣私庹嫦喽鴳延谐鸷蓿瑢?shí)際上，我們需要的是良好的營(yíng)商環(huán)境和對(duì)企業(yè)家的尊重?！辩姳槺樥f(shuō)。
他在訪談中甚至直接喊話字節(jié)跳動(dòng)創(chuàng)始人張一鳴：“希望張一鳴先生，抖音、今日頭條及一切對(duì)我個(gè)人有過(guò)謠言傷害的，我在等待你們誠(chéng)懇地道歉！我在等待?！?/p>
鐘睒睒在演講中直言：“請(qǐng)停止對(duì)一個(gè)中國(guó)公民的侵害！”
算法之“惡”
算法想要“讀懂”用戶一點(diǎn)都不難，以抖音為首的短視頻平臺(tái)的推薦算法會(huì)根據(jù)用戶的行為數(shù)據(jù)（如觀看歷史、點(diǎn)贊、評(píng)論、分享等）來(lái)分析用戶的喜好，并據(jù)此推薦相關(guān)的內(nèi)容。
這種算法推薦邏輯不僅提高了用戶的滿意度和留存時(shí)長(zhǎng)，還直接增加了平臺(tái)的流量和商業(yè)價(jià)值。
這是人性使然，算法正在“操控”人性。
算法就如同一頭長(zhǎng)著火眼金睛的怪獸，它環(huán)伺在側(cè)，一味揣摩和取悅用戶，通過(guò)精準(zhǔn)的計(jì)算和推送，使得用戶的信息獲取越來(lái)越歸從于個(gè)人的喜好，而把與自己興趣和觀念相左的信息排除在外，用戶被引入偏見(jiàn)狹隘的信息領(lǐng)域。
以抖音等短視頻平臺(tái)，依賴算法推薦進(jìn)行短視頻內(nèi)容分發(fā)，無(wú)數(shù)用戶正不自知地陷入“信息繭房”。
張一鳴曾有一句名言：“算法沒(méi)有價(jià)值觀”。
誠(chéng)然，算法沒(méi)有情緒、立場(chǎng)和價(jià)值觀，但控制算法或者設(shè)計(jì)算法的人會(huì)有。
算法設(shè)計(jì)者會(huì)受到個(gè)人立場(chǎng)的影響，將攜帶的主觀價(jià)值判斷和行為決策嵌入相關(guān)程序中。
在“流量為王”的傳播環(huán)境中，算法設(shè)計(jì)者會(huì)傾向于將更容易斬獲用戶關(guān)注的低俗劣質(zhì)信息賦予更多的權(quán)重。
隨著算法與外界環(huán)境交互，謠言、負(fù)面信息都會(huì)被利用，推薦給用戶，形成反饋循環(huán)，進(jìn)一步強(qiáng)化原有社會(huì)偏見(jiàn)。這使得不同立場(chǎng)之間的隔閡、對(duì)立、誤解與撕裂進(jìn)一步加劇。
以農(nóng)夫山泉和鐘睒睒為例，在算法推薦下，將紅色瓶蓋關(guān)聯(lián)日本國(guó)旗、“農(nóng)夫山泉的山是富士山”，成為流量盛宴。
只要短視頻標(biāo)簽帶上“農(nóng)夫山泉”“鐘睒睒”，便能被算法推薦給更多用戶，獲得流量。
大量謠言、陰謀論的視頻被算法瘋狂推薦，直接裹挾了用戶的情緒和價(jià)值觀。
在算法的推波助瀾下，這場(chǎng)網(wǎng)絡(luò)暴力也對(duì)農(nóng)夫山泉的業(yè)績(jī)?cè)斐芍苯佑绊憽?/p>
農(nóng)夫山泉的半年報(bào)顯示，2024年的1月份和2月份，集團(tuán)包裝飲用水產(chǎn)品銷售情況良好，該兩個(gè)月的銷售收益較去年同期增長(zhǎng)19.0%。
但自今年2月底開(kāi)始，網(wǎng)絡(luò)上出現(xiàn)了大量對(duì)農(nóng)夫山泉及鐘睒睒的輿論攻擊和惡意詆毀，對(duì)其品牌及銷售造成了巨大的負(fù)面影響。2024年上半年，集團(tuán)錄得包裝飲用水產(chǎn)品收益為人民幣85.31億元，較去年同期下降18.3%。
由誰(shuí)負(fù)責(zé)？
那么，在算法推波助瀾下的謠言傳播、網(wǎng)絡(luò)暴力，互聯(lián)網(wǎng)平臺(tái)究竟是否該承擔(dān)責(zé)任？
鐘睒睒認(rèn)為，“任何一項(xiàng)在盈利平臺(tái)上發(fā)布的謠言，平臺(tái)都應(yīng)該承擔(dān)法律責(zé)任，這就像我一個(gè)制造企業(yè)，生產(chǎn)假貨和銷售假貨同罪。”
“誰(shuí)受益，誰(shuí)負(fù)責(zé)”的邏輯線非常清晰，算法加持下，流量生意的最大受益者無(wú)疑是平臺(tái)。那么，平臺(tái)就該對(duì)謠言、網(wǎng)絡(luò)暴力負(fù)責(zé)。
鐘睒睒強(qiáng)調(diào)稱：不要以任何所謂“避風(fēng)港原則”進(jìn)行搪塞。
“避風(fēng)港原則”簡(jiǎn)單來(lái)說(shuō)就是，網(wǎng)絡(luò)平臺(tái)在接到通知后及時(shí)刪除侵權(quán)內(nèi)容就無(wú)需承擔(dān)責(zé)任，否則就要承擔(dān)責(zé)任。
其實(shí)，法律除了“避風(fēng)港原則”外，還有一項(xiàng)原則，被專家學(xué)者們稱之為“紅旗原則”。
“紅旗原則”是指，當(dāng)侵權(quán)事實(shí)顯而易見(jiàn)，像“紅旗一樣飄揚(yáng)”時(shí)，網(wǎng)絡(luò)服務(wù)提供者不能假裝看不見(jiàn)，或者以不知道侵權(quán)為由推脫責(zé)任。在這種情形下，即使權(quán)利人沒(méi)有發(fā)出刪除通知，網(wǎng)絡(luò)服務(wù)提供者也應(yīng)當(dāng)承擔(dān)侵權(quán)責(zé)任。
有法律人士解釋稱，“避風(fēng)港原則中的‘通知規(guī)則’和紅旗原則中的‘知道規(guī)則’在司法適用上是并列關(guān)系?！?/p>
復(fù)盤(pán)對(duì)農(nóng)夫山泉、鐘睒睒的網(wǎng)絡(luò)暴力，是完全符合紅旗原則的。作為平臺(tái)，通過(guò)算法將謠言短視頻推薦給大量用戶，甚至形成刷屏之勢(shì)，謠言完全已經(jīng)像“紅旗一樣飄揚(yáng)”。
更惡劣的是，對(duì)于制造謠言的短視頻，平臺(tái)甚至還給予相關(guān)話題的高流量?jī)?nèi)容的現(xiàn)金獎(jiǎng)金，進(jìn)一步刺激了錄制謠言視頻的動(dòng)力。
“信息繭房”愈演愈烈
芝加哥大學(xué)教授凱斯?Ｒ?桑斯坦在其著作《信息烏托邦》中提出“信息繭房”的概念，即“因公眾自身的信息需求并非全方位的，公眾只注意自己選擇的東西和使自己愉悅的通信領(lǐng)域，久而久之，會(huì)將自身桎梏于像蠶繭一般的‘繭房’中。”
很顯然，這種算法推薦機(jī)制加速了互聯(lián)網(wǎng)“信息繭房”的構(gòu)建。
在算法持續(xù)迭代，即便是同一短視頻內(nèi)容，不同用戶看到的評(píng)論區(qū)都是“可控”的，進(jìn)一步裹挾了用戶觀點(diǎn)。
評(píng)論區(qū)本應(yīng)是不同觀點(diǎn)自由表達(dá)的場(chǎng)所，但算法操控下，每個(gè)用戶優(yōu)先看到的是與自己意見(jiàn)一致的同質(zhì)化評(píng)論，這不僅限制了用戶的認(rèn)知，還強(qiáng)化了偏見(jiàn)。使得不同立場(chǎng)之間的隔閡、對(duì)立、誤解與撕裂進(jìn)一步加劇。
放任算法，我們每一個(gè)人都將被推入“信息繭房”的深淵。
結(jié)語(yǔ)
“技術(shù)中性”不能等同于“價(jià)值中性”，不能讓價(jià)值觀成為算法技術(shù)的附庸。
算法推薦，毋庸置疑是一個(gè)價(jià)值觀問(wèn)題，技術(shù)可以沒(méi)有價(jià)值觀，但是作為技術(shù)發(fā)明者、操縱者的人，不可能沒(méi)有價(jià)值觀。
近年來(lái)，在算法的推波助瀾下，網(wǎng)絡(luò)暴力層出不窮，甚至造成了自尋短見(jiàn)、墜樓等人間慘劇。
針對(duì)算法推薦引發(fā)的諸多亂象，相關(guān)監(jiān)管部門(mén)頻頻依法重拳出擊——約談、處罰整改、永久下架、暫停算法推薦功能等手段多措并舉。
算法推薦不僅是價(jià)值觀問(wèn)題，還是法律問(wèn)題，需要糾正“流量為王”的價(jià)值觀，用積極健康、符合公序良俗的價(jià)值觀指引算法推薦的設(shè)計(jì)和應(yīng)用。
算法的應(yīng)用不僅需要技術(shù)自身的中立性，還需要法律和社會(huì)規(guī)范來(lái)約束其背后的人和平臺(tái)公司。