文|豹變 趙若慈
編輯|劉楊
「核心提示」
10億用戶共享的網(wǎng)絡(luò)空間內(nèi),暴力藏匿于各個(gè)角落。在這個(gè)人人皆可發(fā)聲的時(shí)代,居于網(wǎng)絡(luò)輿論場中心的社交平臺,在防網(wǎng)暴方面做到了哪一步?為什么把施暴者關(guān)進(jìn)“小黑屋”依然無法根除網(wǎng)暴?
三年前,25歲的B站UP主“卡夫卡松餅君”因肺癌離世,許多網(wǎng)友在她的微博下留言悼念,其中一條充滿惡意的熱評十分刺眼,只有短短五個(gè)字——“開香檳慶?!?。
松餅君生前經(jīng)歷了多次網(wǎng)暴,她的最后一條微博寫道:“很多事情都是沒輪到自己頭上,所以能在旁邊為虎作倀,叫嚷熏天?!?/p>
黃韓也有類似的感受。去年她從公司裸辭之后,在B站發(fā)布的第一條視頻有5萬多播放量。然而,隨之而來的還有評論區(qū)和彈幕的質(zhì)疑和攻擊。黃韓對《豹變》表示,一條讓她感到不舒服的評論,有200多人點(diǎn)贊。
2022年11月,中央網(wǎng)信辦印發(fā)《關(guān)于切實(shí)加強(qiáng)網(wǎng)絡(luò)暴力治理的通知》,要求網(wǎng)站平臺建立網(wǎng)暴預(yù)警、保護(hù)、防擴(kuò)散等治理機(jī)制。今年3月6日,抖音、快手、微博、小紅書、B站、豆瓣、知乎等平臺,集中發(fā)布了防網(wǎng)暴指南。
盡管各個(gè)平臺一直在完善機(jī)制、整治網(wǎng)暴,但從結(jié)果來看,網(wǎng)暴事件依舊層出不窮。尋親被生母拉黑的劉學(xué)州、曬和爺爺合照的“粉發(fā)女孩”鄭靈華、開拖拉機(jī)自駕到西藏的旅行博主管管,都在遭遇大規(guī)模的網(wǎng)絡(luò)攻擊后離世。
據(jù)中國互聯(lián)網(wǎng)絡(luò)信息中心統(tǒng)計(jì),截至2022年12月,我國網(wǎng)民規(guī)模達(dá)10.67億,普及率達(dá)75.6%。
在這個(gè)人人皆可發(fā)聲的時(shí)代,居于網(wǎng)絡(luò)輿論場中心的社交平臺,在防網(wǎng)暴方面做到了哪一步?在不斷整治后,為什么網(wǎng)暴依舊反復(fù)出現(xiàn)?面對網(wǎng)絡(luò)暴力,平臺為何無法“保你平安”?
01 “微博上拉黑了800多個(gè)人”
“產(chǎn)品早期引入的都是和平臺契合度較高的用戶,所以氛圍會更純凈,隨著用戶增長,必然會面臨多元化帶來的問題?!弊止?jié)商業(yè)化部門的一位員工告訴《豹變》。
所謂的“多元化帶來的問題”,就是由于不同圈層的人匯聚在一起,評論越來越難控制。
豆瓣官方運(yùn)營賬號會定期發(fā)送關(guān)于網(wǎng)暴治理的公告,3月13日發(fā)布的公告顯示,一萬多條信息被刪除,大多是網(wǎng)暴內(nèi)容,還有一些賬號被階段性禁言以及永久封號。
小滿是微博的老用戶,由于追星積累了一批粉絲。她告訴《豹變》:“最初玩微博的時(shí)候,大家一起交流,氛圍很友好。這兩年明顯感受到‘沒素質(zhì)’的人很多,我已經(jīng)拉黑了800多人。”
除了用戶手動拉黑,現(xiàn)階段,平臺對于用戶的保護(hù)做到了什么程度?
首先是舉報(bào)和投訴功能?!侗儭窚y試了微博、B站、抖音、小紅書、快手、豆瓣、知乎等主流社區(qū)APP,評論區(qū)都可以“舉報(bào)”或“投訴”,并且都需要用戶選擇違規(guī)類型,測試結(jié)果如下圖。
平臺也提供了“一鍵防網(wǎng)暴”功能,用戶可以選擇在一段時(shí)間內(nèi)屏蔽陌生人私信、評論,達(dá)到防止網(wǎng)暴的目的。
各個(gè)平臺“一鍵防網(wǎng)暴”的持續(xù)時(shí)間不太一樣,微博、知乎、小紅書最多可設(shè)置7天,豆瓣最多14天,抖音最多30天,快手沒有時(shí)長限制。
不過,平臺的“一鍵防網(wǎng)暴”入口比較隱蔽,用戶很難“一鍵”防護(hù)。比如,抖音進(jìn)入“我”頁面后,點(diǎn)擊右上角“三道杠”圖標(biāo),選擇“更多功能”,找到抖音小安,進(jìn)入界面后才能設(shè)置“一鍵防護(hù)”。
那么,在用戶發(fā)布內(nèi)容之前,平臺是否有機(jī)會阻止網(wǎng)暴內(nèi)容的出現(xiàn)?
2019 年,社交平臺 Instagram 推出了一個(gè)防網(wǎng)暴的功能,通過AI檢測用戶發(fā)布的內(nèi)容,如果內(nèi)容在發(fā)布前被判定為帶有攻擊性,會對用戶進(jìn)行警告,提醒其三思而后行。
不過,這些看似完善的防網(wǎng)暴機(jī)制,發(fā)揮的作用并不大。2020年的一次網(wǎng)絡(luò)暴力全球調(diào)查顯示,騷擾攻擊在Instagram上的比例依舊高達(dá)23%
“粉發(fā)女孩”鄭靈華經(jīng)歷了網(wǎng)暴、照片視頻被營銷號盜用、污名化之后,生前一直沒有停止維權(quán),她還在社交平臺上記錄了自己的維權(quán)過程。在第一次維權(quán)記錄中,她表示自己向抖音官方人工電聯(lián)+郵件舉報(bào)投訴,但是“抖音只有到達(dá)億萬粉絲才能禁止他人下載原創(chuàng)作品”。
在后續(xù)的維權(quán)記錄中,她也提到,“抖音和百家號始終舉報(bào)投訴無果”。
據(jù)了解,目前大部分平臺主要有系統(tǒng)審核和人工審核兩種方式。在抖音審核崗工作的蘇珍告訴《豹變》:“系統(tǒng)的核查比例大約80%,比如觸發(fā)了一些關(guān)鍵詞,機(jī)器就可以識別出來,剩下一部分系統(tǒng)不能確定的,就交給人工復(fù)審?!?/p>
李敏曾經(jīng)在今日頭條負(fù)責(zé)審核優(yōu)質(zhì)內(nèi)容,她表示,文章內(nèi)容的審核大部分都是走系統(tǒng)審核,但觸碰到一些關(guān)鍵詞,以及賬號量級比較大的時(shí)候,會進(jìn)入到人工審核流程。
“實(shí)際上審核本身就是一個(gè)機(jī)械的工作,很多事情都慢慢交給算法、AI,并且會逐漸優(yōu)化取代人工?!崩蠲舾嬖V《豹變》,大概在2022年初,她這個(gè)崗位就被AI取代了。
然而,對于人工智能目前的發(fā)展水平而言,判斷“網(wǎng)暴內(nèi)容”的準(zhǔn)確性還不夠高。
蘇珍表示:“一些擬聲詞、新生的侮辱性言論的代替詞語、字母縮寫等內(nèi)容,人工智能還不能辨識。再就是‘陰陽怪氣’的發(fā)言,系統(tǒng)根本聽不懂。”
曾經(jīng)在網(wǎng)易直播CCtalk工作過的阿哲表示,即使是在審核崗位實(shí)習(xí),上崗之前也要培訓(xùn)好幾天?!皶袑iT的人講PPT,通過案例說明哪些要做違禁處罰,以及如何根據(jù)違規(guī)程度來判定處罰的程度,還有價(jià)值觀和道德觀的培訓(xùn)?!?/p>
蘇珍還記得,在面試時(shí)她被問到“對某個(gè)新聞事件怎么看”,入職前做了心理素質(zhì)測試、人格測試、壓力測試,經(jīng)過入職培訓(xùn),通過考試才能上崗。
正如阿哲所說:“說到底還是要根據(jù)審核員本人的判斷?!?/p>
02 管理“小黑屋”的人,也身處小黑屋
“沒違規(guī)的一舉報(bào)一個(gè)準(zhǔn),違規(guī)的反而不管?!薄拔以u論沒一個(gè)臟字結(jié)果被舉報(bào),別人臟話連篇問候全家我舉報(bào)沒一個(gè)成功的,審核人員在干什么?”在某平臺的官方帖子下面,時(shí)常可以看到類似的用戶評論。
從用戶角度來看,社區(qū)氛圍似乎取決于“審核員”是否有所作為,事實(shí)果真如此嗎?
在上海閔行區(qū)銀山路科技園的字節(jié)大樓里,和其他部門敞亮高級的工區(qū)不同,審核部門的工區(qū)總是燈光昏暗,員工們面無表情地盯著一塊塊電腦屏幕。
審核員的工作,看似擁有“一鍵拉黑”的權(quán)利,但這些管理小黑屋的人,自己也身處于小黑屋之中。
《哈佛商業(yè)評論》的一篇文章中提到,審核員就像在扮演民俗中的“食罪者”角色:這種歷史儀式的要旨是窮人在精神上承擔(dān)死者的罪孽,往往通過吃掉擺放在尸體上的面包來換取金錢。
據(jù)蘇珍介紹,大廠審核員主要分為三種:正式員工、外包員工和兼職。蘇珍是字節(jié)的正式員工,在審核崗每個(gè)月能拿到1萬到1萬2左右的工資,但是除去一個(gè)月四五千的房租,剩下的錢僅夠生活。
外包員工一般在三四線城市,據(jù)她了解,工資大約是四五千塊錢,兼職員工則多勞多得。
“剛?cè)肼毜臅r(shí)候,一切都聊得很好,工作時(shí)間也都很正常。但正式工作兩周左右,就會排班次。我們是三班倒,白班朝九晚五,晚班從下午三點(diǎn)到凌晨兩點(diǎn),大夜班從十二點(diǎn)鐘到早上七點(diǎn)。每個(gè)人每天都有KPI,我當(dāng)時(shí)是一天審核200條視頻,外加幾千到一萬條評論?!?/p>
長時(shí)間坐著加上熬夜,讓蘇珍的身體狀況很差。她告訴《豹變》:“入職幾個(gè)月就胖了十多斤,臉上瘋狂長痘,每天處于壓抑當(dāng)中,經(jīng)常半夜就會哭醒?!?/p>
這種痛苦更多來源于審核工作對于精神的摧殘。蘇珍表示:“大概做三天,就能明顯感受到生理和心理的強(qiáng)烈不適。每天看的全都是極其負(fù)能量的東西,那些色情、暴力、血腥的視頻要看,評論里無緣無故辱罵、攻擊他人的言語都要審?!?/p>
“最讓我覺得痛苦的是,過去二十幾年,我們生活在一個(gè)相對安全、善良的現(xiàn)實(shí)環(huán)境里,干了審核員之后,我發(fā)現(xiàn),網(wǎng)絡(luò)上竟然會有那么多的惡意?,F(xiàn)在我會覺得壞人就藏在身邊,很多人可能生活中是善良的,他會去照顧小孩、捐款,但是不耽誤他在網(wǎng)絡(luò)上辱罵他人?!?/p>
蘇珍表示,網(wǎng)暴的比例在視頻里大概能占到百分之十幾,在評論里非常多,大概占到百分之六七十。
她說:“干過審核員之后,完全可以理解那些因?yàn)榫W(wǎng)暴而自殺的受害者們的心態(tài),因?yàn)檫@些謾罵絕對超出了一個(gè)人可以承受的極限,甚至網(wǎng)友看到的都是審核之后放出來的一小部分。那些沒放出來的污言穢語可能是大家看到的幾十倍,并且這是一個(gè)持續(xù)性的攻擊。”
另外,除了工作本身,在每天接收負(fù)能量的同時(shí),蘇珍還需要完成周報(bào)?!靶睦頎顟B(tài)都這么差了,周報(bào)里卻不能抱怨,只能寫自己有多熱愛這份工作。每天工作內(nèi)容都一樣,卻還要寫工作計(jì)劃?!?/p>
蘇珍表示,這種工作狀態(tài)下精力確實(shí)是不夠的,她也承認(rèn)有時(shí)候免不了會消極怠工,這也是用戶抱怨“審核人員不管用”的部分原因。
另外,除了這些精神和心理上的巨大壓力,由于審核崗位工資低、沒什么晉升空間,這個(gè)崗位的平均生命周期只有三到六個(gè)月?!昂芟裥∽鞣焕锪魉€上的女工,沒有任何未來?!碧K珍感嘆道。
然而,隨著網(wǎng)民數(shù)量的增長以及各個(gè)平臺對于活躍用戶的增長需求,需要的審核員也越來越多。蘇珍表示,越來越多的審核工作都被外包出去,因?yàn)檫@樣能給公司省下一大筆資金。
但這似乎形成了一種惡性循環(huán),審核人員的心理、生理狀況由于大量的消極內(nèi)容受到影響,導(dǎo)致消極怠工、人員流動大,而更多的用戶加入讓互聯(lián)網(wǎng)環(huán)境更為復(fù)雜,審核需求量更大,但外包出去審核人員的待遇卻又在下降。
在這種情況下,“把施暴者關(guān)進(jìn)小黑屋就能阻止網(wǎng)暴”似乎成了一個(gè)偽命題。
蘇珍認(rèn)為,以幾萬個(gè)審核員的力量去審核上億網(wǎng)民發(fā)出的內(nèi)容是有限的。從平臺角度來看,不僅要加大處罰力度、提高評論門檻,完善防護(hù)功能,人工智能需要繼續(xù)學(xué)習(xí),而審核人員的現(xiàn)狀也需要被看到。
03 為什么平臺阻止不了網(wǎng)暴?
中國政法大學(xué)教授羅翔老師曾在文章中提到“群體極化”現(xiàn)象,這也是互聯(lián)網(wǎng)時(shí)代網(wǎng)暴滋生的深層原因:
“網(wǎng)絡(luò)世界中,我們的情緒極容易就被極端意見挑動,也越來越傾向?qū)λ哌M(jìn)行非黑即白的評判;而這種情緒和判斷,又會像利刃一樣刺向身處輿論漩渦的個(gè)人?!?/p>
豆瓣用戶王然告訴《豹變》,自己曾在豆瓣上寫過一篇有關(guān)性別議題的影評,沒想到引來很多用戶在評論區(qū)對罵?!坝捎谟^點(diǎn)不同,兩個(gè)用戶能在評論區(qū)對罵50多條。有的用戶在評論區(qū)發(fā)幾百字來反對你的觀點(diǎn),有人甚至沒看完文章就直接侮辱你。”
2021年8月,《科學(xué)進(jìn)展》雜志發(fā)布了耶魯大學(xué)的一項(xiàng)研究,研究人員通過對推特用戶的長期跟蹤,發(fā)現(xiàn)社交媒體的激勵(lì)機(jī)制正在促進(jìn)憤怒的表達(dá)。
這就是所謂的“引流”,即通過各種方法吸引流量,而最直接的方法就是發(fā)布能夠引發(fā)討論的內(nèi)容,平臺的算法會根據(jù)瀏覽量、點(diǎn)贊量、評論量等數(shù)據(jù)進(jìn)一步“推薦”該內(nèi)容。
正如王然表示,盡管她文章下面評論區(qū)和轉(zhuǎn)發(fā)里的不友好言論非常多,但這也是她所有文章里熱度最高的一篇,有600多條評論,將近2000個(gè)點(diǎn)贊和300多收藏,并且熱度持續(xù)了好幾周,甚至一年之后還有人留言。
2020年,導(dǎo)演畢志飛也曾在微博曬出截圖,“大量三觀不正、努力拉開話題轉(zhuǎn)移注意力的留言”給他的微博帶來2.1億閱讀量,廣告收益約3萬元。
實(shí)際上,當(dāng)前的社交、視頻、信息平臺都是以廣告收入作為主要的商業(yè)模式,日活躍用戶、月活躍用戶是各個(gè)平臺進(jìn)一步商業(yè)化的基礎(chǔ)。所以,對平臺而言,流量與用戶都是獲取利益的工具,這導(dǎo)致平臺上的內(nèi)容大多以流量為導(dǎo)向。
也就是說,社交平臺上的情緒與爭議,歸根到底都是流量與利益。
根據(jù)上文審核工作人員提到的網(wǎng)暴內(nèi)容比例,如果對有網(wǎng)暴行為的賬號完全禁言,那么平臺的用戶留存可想而知。
另一方面,在網(wǎng)友們已經(jīng)習(xí)慣了隨意表達(dá)的網(wǎng)絡(luò)環(huán)境后,過度限制發(fā)言必然會引起不滿。
最典型的例子是豆瓣,王然最近發(fā)現(xiàn),自己備受爭議的那條影評下面的不友好言論已經(jīng)消失了,評論里的很多賬號被注銷,一些評論內(nèi)容也看不到了。
由于審核時(shí)間過長,另一位豆瓣用戶小木最近每發(fā)布一條動態(tài),都會記錄下審核的時(shí)間,短則兩小時(shí),長則一兩天。還有用戶表示,自己的豆瓣賬號因?yàn)檫`規(guī),到現(xiàn)在評論功能都是被折疊的。
然而,大部分平臺并不會因?yàn)槟硞€(gè)賬號“犯一次錯(cuò)”就將其永久關(guān)進(jìn)小黑屋。
《豹變》發(fā)現(xiàn),各平臺只是確定了“違規(guī)會處罰”,但如何處罰并沒有詳細(xì)說明,通常使用的表述是“將視情況對違規(guī)內(nèi)容或賬號采取以下處置”,以及“如果違反公約,平臺有權(quán)對用戶的賬號進(jìn)行封禁、禁言處罰或暫停賬號部分或全部服務(wù)”。
也有平臺使用了信用分的方式來管理用戶,比如微博、知乎。
根據(jù)微博社區(qū)公約的細(xì)則,用戶初始信用分為120分,可以通過在線答題等方式加分。在扣分方面,發(fā)生網(wǎng)暴行為,一般扣3到5分,信用歷史分低于0分,用戶賬號會被禁言。計(jì)算下來,一個(gè)信用分滿分的微博賬號,發(fā)生大約40次網(wǎng)暴行為才會被封號。
蘇珍也告訴《豹變》:“一個(gè)抖音賬號發(fā)布違規(guī)信息會給兩次機(jī)會,第三次一般會把這個(gè)賬號封禁7到15天,如果這種情況出現(xiàn)兩次以上,也就是到第三次的時(shí)候,就會觸發(fā)危險(xiǎn)警報(bào),這時(shí)候大概率會封號?!边@是否意味著,一個(gè)抖音賬號或許可以擁有9次違規(guī)的“機(jī)會”。
從平臺角度看,如何平衡商業(yè)利益和用戶體驗(yàn)一直是個(gè)難題,但保證用戶安全卻是最基本的問題。也許,面對網(wǎng)暴,稍顯“無能為力”的平臺,仍然需要承擔(dān)起更多的責(zé)任。
(應(yīng)受訪者要求,文中人物均為化名)