文|豹變 趙若慈
編輯|劉楊
「核心提示」
10億用戶共享的網(wǎng)絡(luò)空間內(nèi)，暴力藏匿于各個(gè)角落。在這個(gè)人人皆可發(fā)聲的時(shí)代，居于網(wǎng)絡(luò)輿論場中心的社交平臺(tái)，在防網(wǎng)暴方面做到了哪一步？為什么把施暴者關(guān)進(jìn)“小黑屋”依然無法根除網(wǎng)暴？
三年前，25歲的B站UP主“卡夫卡松餅君”因肺癌離世，許多網(wǎng)友在她的微博下留言悼念，其中一條充滿惡意的熱評十分刺眼，只有短短五個(gè)字——“開香檳慶祝”。
松餅君生前經(jīng)歷了多次網(wǎng)暴，她的最后一條微博寫道：“很多事情都是沒輪到自己頭上，所以能在旁邊為虎作倀，叫嚷熏天。”
黃韓也有類似的感受。去年她從公司裸辭之后，在B站發(fā)布的第一條視頻有5萬多播放量。然而，隨之而來的還有評論區(qū)和彈幕的質(zhì)疑和攻擊。黃韓對《豹變》表示，一條讓她感到不舒服的評論，有200多人點(diǎn)贊。
2022年11月，中央網(wǎng)信辦印發(fā)《關(guān)于切實(shí)加強(qiáng)網(wǎng)絡(luò)暴力治理的通知》，要求網(wǎng)站平臺(tái)建立網(wǎng)暴預(yù)警、保護(hù)、防擴(kuò)散等治理機(jī)制。今年3月6日，抖音、快手、微博、小紅書、B站、豆瓣、知乎等平臺(tái)，集中發(fā)布了防網(wǎng)暴指南。
盡管各個(gè)平臺(tái)一直在完善機(jī)制、整治網(wǎng)暴，但從結(jié)果來看，網(wǎng)暴事件依舊層出不窮。尋親被生母拉黑的劉學(xué)州、曬和爺爺合照的“粉發(fā)女孩”鄭靈華、開拖拉機(jī)自駕到西藏的旅行博主管管，都在遭遇大規(guī)模的網(wǎng)絡(luò)攻擊后離世。
據(jù)中國互聯(lián)網(wǎng)絡(luò)信息中心統(tǒng)計(jì)，截至2022年12月，我國網(wǎng)民規(guī)模達(dá)10.67億，普及率達(dá)75.6%。
在這個(gè)人人皆可發(fā)聲的時(shí)代，居于網(wǎng)絡(luò)輿論場中心的社交平臺(tái)，在防網(wǎng)暴方面做到了哪一步？在不斷整治后，為什么網(wǎng)暴依舊反復(fù)出現(xiàn)？面對網(wǎng)絡(luò)暴力，平臺(tái)為何無法“保你平安”？
01 “微博上拉黑了800多個(gè)人”
“產(chǎn)品早期引入的都是和平臺(tái)契合度較高的用戶，所以氛圍會(huì)更純凈，隨著用戶增長，必然會(huì)面臨多元化帶來的問題。”字節(jié)商業(yè)化部門的一位員工告訴《豹變》。
所謂的“多元化帶來的問題”，就是由于不同圈層的人匯聚在一起，評論越來越難控制。
豆瓣官方運(yùn)營賬號(hào)會(huì)定期發(fā)送關(guān)于網(wǎng)暴治理的公告，3月13日發(fā)布的公告顯示，一萬多條信息被刪除，大多是網(wǎng)暴內(nèi)容，還有一些賬號(hào)被階段性禁言以及永久封號(hào)。
小滿是微博的老用戶，由于追星積累了一批粉絲。她告訴《豹變》：“最初玩微博的時(shí)候，大家一起交流，氛圍很友好。這兩年明顯感受到‘沒素質(zhì)’的人很多，我已經(jīng)拉黑了800多人?！?/p>
除了用戶手動(dòng)拉黑，現(xiàn)階段，平臺(tái)對于用戶的保護(hù)做到了什么程度？
首先是舉報(bào)和投訴功能?！侗儭窚y試了微博、B站、抖音、小紅書、快手、豆瓣、知乎等主流社區(qū)APP，評論區(qū)都可以“舉報(bào)”或“投訴”，并且都需要用戶選擇違規(guī)類型，測試結(jié)果如下圖。
平臺(tái)也提供了“一鍵防網(wǎng)暴”功能，用戶可以選擇在一段時(shí)間內(nèi)屏蔽陌生人私信、評論，達(dá)到防止網(wǎng)暴的目的。
各個(gè)平臺(tái)“一鍵防網(wǎng)暴”的持續(xù)時(shí)間不太一樣，微博、知乎、小紅書最多可設(shè)置7天，豆瓣最多14天，抖音最多30天，快手沒有時(shí)長限制。
不過，平臺(tái)的“一鍵防網(wǎng)暴”入口比較隱蔽，用戶很難“一鍵”防護(hù)。比如，抖音進(jìn)入“我”頁面后，點(diǎn)擊右上角“三道杠”圖標(biāo)，選擇“更多功能”，找到抖音小安，進(jìn)入界面后才能設(shè)置“一鍵防護(hù)”。
那么，在用戶發(fā)布內(nèi)容之前，平臺(tái)是否有機(jī)會(huì)阻止網(wǎng)暴內(nèi)容的出現(xiàn)？
2019 年，社交平臺(tái) Instagram 推出了一個(gè)防網(wǎng)暴的功能，通過AI檢測用戶發(fā)布的內(nèi)容，如果內(nèi)容在發(fā)布前被判定為帶有攻擊性，會(huì)對用戶進(jìn)行警告，提醒其三思而后行。
不過，這些看似完善的防網(wǎng)暴機(jī)制，發(fā)揮的作用并不大。2020年的一次網(wǎng)絡(luò)暴力全球調(diào)查顯示，騷擾攻擊在Instagram上的比例依舊高達(dá)23%
“粉發(fā)女孩”鄭靈華經(jīng)歷了網(wǎng)暴、照片視頻被營銷號(hào)盜用、污名化之后，生前一直沒有停止維權(quán)，她還在社交平臺(tái)上記錄了自己的維權(quán)過程。在第一次維權(quán)記錄中，她表示自己向抖音官方人工電聯(lián)+郵件舉報(bào)投訴，但是“抖音只有到達(dá)億萬粉絲才能禁止他人下載原創(chuàng)作品”。
在后續(xù)的維權(quán)記錄中，她也提到，“抖音和百家號(hào)始終舉報(bào)投訴無果”。
據(jù)了解，目前大部分平臺(tái)主要有系統(tǒng)審核和人工審核兩種方式。在抖音審核崗工作的蘇珍告訴《豹變》：“系統(tǒng)的核查比例大約80%，比如觸發(fā)了一些關(guān)鍵詞，機(jī)器就可以識(shí)別出來，剩下一部分系統(tǒng)不能確定的，就交給人工復(fù)審。”
李敏曾經(jīng)在今日頭條負(fù)責(zé)審核優(yōu)質(zhì)內(nèi)容，她表示，文章內(nèi)容的審核大部分都是走系統(tǒng)審核，但觸碰到一些關(guān)鍵詞，以及賬號(hào)量級比較大的時(shí)候，會(huì)進(jìn)入到人工審核流程。
“實(shí)際上審核本身就是一個(gè)機(jī)械的工作，很多事情都慢慢交給算法、AI，并且會(huì)逐漸優(yōu)化取代人工。”李敏告訴《豹變》，大概在2022年初，她這個(gè)崗位就被AI取代了。
然而，對于人工智能目前的發(fā)展水平而言，判斷“網(wǎng)暴內(nèi)容”的準(zhǔn)確性還不夠高。
蘇珍表示：“一些擬聲詞、新生的侮辱性言論的代替詞語、字母縮寫等內(nèi)容，人工智能還不能辨識(shí)。再就是‘陰陽怪氣’的發(fā)言，系統(tǒng)根本聽不懂?！?nbsp;
曾經(jīng)在網(wǎng)易直播CCtalk工作過的阿哲表示，即使是在審核崗位實(shí)習(xí)，上崗之前也要培訓(xùn)好幾天。“會(huì)有專門的人講PPT，通過案例說明哪些要做違禁處罰，以及如何根據(jù)違規(guī)程度來判定處罰的程度，還有價(jià)值觀和道德觀的培訓(xùn)。”
蘇珍還記得，在面試時(shí)她被問到“對某個(gè)新聞事件怎么看”，入職前做了心理素質(zhì)測試、人格測試、壓力測試，經(jīng)過入職培訓(xùn)，通過考試才能上崗。
正如阿哲所說：“說到底還是要根據(jù)審核員本人的判斷?！?/p>
02 管理“小黑屋”的人，也身處小黑屋
“沒違規(guī)的一舉報(bào)一個(gè)準(zhǔn)，違規(guī)的反而不管?！薄拔以u論沒一個(gè)臟字結(jié)果被舉報(bào)，別人臟話連篇問候全家我舉報(bào)沒一個(gè)成功的，審核人員在干什么？”在某平臺(tái)的官方帖子下面，時(shí)?？梢钥吹筋愃频挠脩粼u論。
從用戶角度來看，社區(qū)氛圍似乎取決于“審核員”是否有所作為，事實(shí)果真如此嗎？
在上海閔行區(qū)銀山路科技園的字節(jié)大樓里，和其他部門敞亮高級的工區(qū)不同，審核部門的工區(qū)總是燈光昏暗，員工們面無表情地盯著一塊塊電腦屏幕。
審核員的工作，看似擁有“一鍵拉黑”的權(quán)利，但這些管理小黑屋的人，自己也身處于小黑屋之中。
《哈佛商業(yè)評論》的一篇文章中提到，審核員就像在扮演民俗中的“食罪者”角色：這種歷史儀式的要旨是窮人在精神上承擔(dān)死者的罪孽，往往通過吃掉擺放在尸體上的面包來換取金錢。
據(jù)蘇珍介紹，大廠審核員主要分為三種：正式員工、外包員工和兼職。蘇珍是字節(jié)的正式員工，在審核崗每個(gè)月能拿到1萬到1萬2左右的工資，但是除去一個(gè)月四五千的房租，剩下的錢僅夠生活。
外包員工一般在三四線城市，據(jù)她了解，工資大約是四五千塊錢，兼職員工則多勞多得。
“剛?cè)肼毜臅r(shí)候，一切都聊得很好，工作時(shí)間也都很正常。但正式工作兩周左右，就會(huì)排班次。我們是三班倒，白班朝九晚五，晚班從下午三點(diǎn)到凌晨兩點(diǎn)，大夜班從十二點(diǎn)鐘到早上七點(diǎn)。每個(gè)人每天都有KPI，我當(dāng)時(shí)是一天審核200條視頻，外加幾千到一萬條評論?！?/p>
長時(shí)間坐著加上熬夜，讓蘇珍的身體狀況很差。她告訴《豹變》：“入職幾個(gè)月就胖了十多斤，臉上瘋狂長痘，每天處于壓抑當(dāng)中，經(jīng)常半夜就會(huì)哭醒?！?/p>
這種痛苦更多來源于審核工作對于精神的摧殘。蘇珍表示：“大概做三天，就能明顯感受到生理和心理的強(qiáng)烈不適。每天看的全都是極其負(fù)能量的東西，那些色情、暴力、血腥的視頻要看，評論里無緣無故辱罵、攻擊他人的言語都要審。”
“最讓我覺得痛苦的是，過去二十幾年，我們生活在一個(gè)相對安全、善良的現(xiàn)實(shí)環(huán)境里，干了審核員之后，我發(fā)現(xiàn)，網(wǎng)絡(luò)上竟然會(huì)有那么多的惡意。現(xiàn)在我會(huì)覺得壞人就藏在身邊，很多人可能生活中是善良的，他會(huì)去照顧小孩、捐款，但是不耽誤他在網(wǎng)絡(luò)上辱罵他人?！?/p>
蘇珍表示，網(wǎng)暴的比例在視頻里大概能占到百分之十幾，在評論里非常多，大概占到百分之六七十。
她說：“干過審核員之后，完全可以理解那些因?yàn)榫W(wǎng)暴而自殺的受害者們的心態(tài)，因?yàn)檫@些謾罵絕對超出了一個(gè)人可以承受的極限，甚至網(wǎng)友看到的都是審核之后放出來的一小部分。那些沒放出來的污言穢語可能是大家看到的幾十倍，并且這是一個(gè)持續(xù)性的攻擊?！?/p>
另外，除了工作本身，在每天接收負(fù)能量的同時(shí)，蘇珍還需要完成周報(bào)。“心理狀態(tài)都這么差了，周報(bào)里卻不能抱怨，只能寫自己有多熱愛這份工作。每天工作內(nèi)容都一樣，卻還要寫工作計(jì)劃?！?/p>
蘇珍表示，這種工作狀態(tài)下精力確實(shí)是不夠的，她也承認(rèn)有時(shí)候免不了會(huì)消極怠工，這也是用戶抱怨“審核人員不管用”的部分原因。
另外，除了這些精神和心理上的巨大壓力，由于審核崗位工資低、沒什么晉升空間，這個(gè)崗位的平均生命周期只有三到六個(gè)月。“很像小作坊里流水線上的女工，沒有任何未來?！碧K珍感嘆道。
然而，隨著網(wǎng)民數(shù)量的增長以及各個(gè)平臺(tái)對于活躍用戶的增長需求，需要的審核員也越來越多。蘇珍表示，越來越多的審核工作都被外包出去，因?yàn)檫@樣能給公司省下一大筆資金。
但這似乎形成了一種惡性循環(huán)，審核人員的心理、生理狀況由于大量的消極內(nèi)容受到影響，導(dǎo)致消極怠工、人員流動(dòng)大，而更多的用戶加入讓互聯(lián)網(wǎng)環(huán)境更為復(fù)雜，審核需求量更大，但外包出去審核人員的待遇卻又在下降。
在這種情況下，“把施暴者關(guān)進(jìn)小黑屋就能阻止網(wǎng)暴”似乎成了一個(gè)偽命題。
蘇珍認(rèn)為，以幾萬個(gè)審核員的力量去審核上億網(wǎng)民發(fā)出的內(nèi)容是有限的。從平臺(tái)角度來看，不僅要加大處罰力度、提高評論門檻，完善防護(hù)功能，人工智能需要繼續(xù)學(xué)習(xí)，而審核人員的現(xiàn)狀也需要被看到。
03 為什么平臺(tái)阻止不了網(wǎng)暴？
中國政法大學(xué)教授羅翔老師曾在文章中提到“群體極化”現(xiàn)象，這也是互聯(lián)網(wǎng)時(shí)代網(wǎng)暴滋生的深層原因：
“網(wǎng)絡(luò)世界中，我們的情緒極容易就被極端意見挑動(dòng)，也越來越傾向?qū)λ哌M(jìn)行非黑即白的評判；而這種情緒和判斷，又會(huì)像利刃一樣刺向身處輿論漩渦的個(gè)人?！?/p>
豆瓣用戶王然告訴《豹變》，自己曾在豆瓣上寫過一篇有關(guān)性別議題的影評，沒想到引來很多用戶在評論區(qū)對罵?！坝捎谟^點(diǎn)不同，兩個(gè)用戶能在評論區(qū)對罵50多條。有的用戶在評論區(qū)發(fā)幾百字來反對你的觀點(diǎn)，有人甚至沒看完文章就直接侮辱你?！?/p>
2021年8月，《科學(xué)進(jìn)展》雜志發(fā)布了耶魯大學(xué)的一項(xiàng)研究，研究人員通過對推特用戶的長期跟蹤，發(fā)現(xiàn)社交媒體的激勵(lì)機(jī)制正在促進(jìn)憤怒的表達(dá)。
這就是所謂的“引流”，即通過各種方法吸引流量，而最直接的方法就是發(fā)布能夠引發(fā)討論的內(nèi)容，平臺(tái)的算法會(huì)根據(jù)瀏覽量、點(diǎn)贊量、評論量等數(shù)據(jù)進(jìn)一步“推薦”該內(nèi)容。
正如王然表示，盡管她文章下面評論區(qū)和轉(zhuǎn)發(fā)里的不友好言論非常多，但這也是她所有文章里熱度最高的一篇，有600多條評論，將近2000個(gè)點(diǎn)贊和300多收藏，并且熱度持續(xù)了好幾周，甚至一年之后還有人留言。
2020年，導(dǎo)演畢志飛也曾在微博曬出截圖，“大量三觀不正、努力拉開話題轉(zhuǎn)移注意力的留言”給他的微博帶來2.1億閱讀量，廣告收益約3萬元。
實(shí)際上，當(dāng)前的社交、視頻、信息平臺(tái)都是以廣告收入作為主要的商業(yè)模式，日活躍用戶、月活躍用戶是各個(gè)平臺(tái)進(jìn)一步商業(yè)化的基礎(chǔ)。所以，對平臺(tái)而言，流量與用戶都是獲取利益的工具，這導(dǎo)致平臺(tái)上的內(nèi)容大多以流量為導(dǎo)向。
也就是說，社交平臺(tái)上的情緒與爭議，歸根到底都是流量與利益。
根據(jù)上文審核工作人員提到的網(wǎng)暴內(nèi)容比例，如果對有網(wǎng)暴行為的賬號(hào)完全禁言，那么平臺(tái)的用戶留存可想而知。
另一方面，在網(wǎng)友們已經(jīng)習(xí)慣了隨意表達(dá)的網(wǎng)絡(luò)環(huán)境后，過度限制發(fā)言必然會(huì)引起不滿。
最典型的例子是豆瓣，王然最近發(fā)現(xiàn)，自己備受爭議的那條影評下面的不友好言論已經(jīng)消失了，評論里的很多賬號(hào)被注銷，一些評論內(nèi)容也看不到了。
由于審核時(shí)間過長，另一位豆瓣用戶小木最近每發(fā)布一條動(dòng)態(tài)，都會(huì)記錄下審核的時(shí)間，短則兩小時(shí)，長則一兩天。還有用戶表示，自己的豆瓣賬號(hào)因?yàn)檫`規(guī)，到現(xiàn)在評論功能都是被折疊的。
然而，大部分平臺(tái)并不會(huì)因?yàn)槟硞€(gè)賬號(hào)“犯一次錯(cuò)”就將其永久關(guān)進(jìn)小黑屋。
《豹變》發(fā)現(xiàn)，各平臺(tái)只是確定了“違規(guī)會(huì)處罰”，但如何處罰并沒有詳細(xì)說明，通常使用的表述是“將視情況對違規(guī)內(nèi)容或賬號(hào)采取以下處置”，以及“如果違反公約，平臺(tái)有權(quán)對用戶的賬號(hào)進(jìn)行封禁、禁言處罰或暫停賬號(hào)部分或全部服務(wù)”。
也有平臺(tái)使用了信用分的方式來管理用戶，比如微博、知乎。
根據(jù)微博社區(qū)公約的細(xì)則，用戶初始信用分為120分，可以通過在線答題等方式加分。在扣分方面，發(fā)生網(wǎng)暴行為，一般扣3到5分，信用歷史分低于0分，用戶賬號(hào)會(huì)被禁言。計(jì)算下來，一個(gè)信用分滿分的微博賬號(hào)，發(fā)生大約40次網(wǎng)暴行為才會(huì)被封號(hào)。
蘇珍也告訴《豹變》：“一個(gè)抖音賬號(hào)發(fā)布違規(guī)信息會(huì)給兩次機(jī)會(huì)，第三次一般會(huì)把這個(gè)賬號(hào)封禁7到15天，如果這種情況出現(xiàn)兩次以上，也就是到第三次的時(shí)候，就會(huì)觸發(fā)危險(xiǎn)警報(bào)，這時(shí)候大概率會(huì)封號(hào)。”這是否意味著，一個(gè)抖音賬號(hào)或許可以擁有9次違規(guī)的“機(jī)會(huì)”。
從平臺(tái)角度看，如何平衡商業(yè)利益和用戶體驗(yàn)一直是個(gè)難題，但保證用戶安全卻是最基本的問題。也許，面對網(wǎng)暴，稍顯“無能為力”的平臺(tái)，仍然需要承擔(dān)起更多的責(zé)任。
（應(yīng)受訪者要求，文中人物均為化名）