文｜科技新知 沙棠
編輯丨伊頁
2023年的“央視315晚會”，曝光了一些網(wǎng)絡(luò)平臺明目張膽地售賣直播水軍，人氣、播放量、點(diǎn)贊、評論等數(shù)據(jù)，均可24小時(shí)自助下單，達(dá)成烘托直播間氣氛的目的。
根據(jù)報(bào)道，嘉興宇禾文化傳媒有限公司推出的云控系統(tǒng)，只需一臺手機(jī)，即可同時(shí)操控200到20000臺手機(jī)。為了讓水軍看起來更像真實(shí)用戶，該云控系統(tǒng)還能事先設(shè)定批次、進(jìn)入時(shí)間以及不同的發(fā)言內(nèi)容等進(jìn)入直播間，甚至還可以去競爭對手的直播間，自動投訴甚至抹黑。
互聯(lián)網(wǎng)水軍早已是一條成熟的灰色產(chǎn)業(yè)鏈，如今在生成式AI的加持下，技術(shù)又開始作惡了？
01、單條五毛到三塊
“平時(shí)不需要做什么，只要在群里等著雇主發(fā)任務(wù)信息，收到后立馬去私信雇主，他就會給你提供要發(fā)布的圖片、內(nèi)容和推薦話題，你直接在小紅書上發(fā)布就好了?！?/p>
Jenny是一名大二學(xué)生，據(jù)她介紹，在小紅書上發(fā)布這樣的信息一般不需要重新注冊賬號，反而用自己的日常號更能體現(xiàn)出內(nèi)容的真實(shí)性。雇主通常潛伏在二手轉(zhuǎn)賣群、互助群等校園QQ群里，由于不是正式的官方群，魚龍混雜的環(huán)境也成了雇主們播撒廣告的掩護(hù)。
“我有三個(gè)小紅書賬號，最開始的時(shí)候接信息代發(fā)不管廣告的類型，后來就是開始專門接考研和護(hù)膚類的廣告代發(fā)?！盝enny說道。趕上考研網(wǎng)上報(bào)名和分?jǐn)?shù)公布前后，這種信息發(fā)布得會更加頻繁?！白詈玫臅r(shí)候，我三個(gè)賬號一天共發(fā)布了七條。如果內(nèi)容下面有評論時(shí)，你還可以去維護(hù)，當(dāng)評論的點(diǎn)贊量過10，就能額外領(lǐng)取五毛錢。單條小紅書內(nèi)容點(diǎn)贊量過50，還能再得一塊。這都是可以累計(jì)的。”
與小紅書這樣的種草平臺類似，微博也是雇主們分發(fā)信息的聚集地。同樣是三元一條，但微博的點(diǎn)贊量和評論就不會被記錄在內(nèi)?！安贿^最近的行情不太好了，以前一個(gè)月能發(fā)10-15條，現(xiàn)在整個(gè)9月份我還沒有收到新的代發(fā)信息。另外，你如果能拉過來好友跟你一起發(fā)，一位同學(xué)好友就又能給你加3元?！?/p>
Jenny告訴「科技新知」，自己一開始只是想利用閑暇時(shí)間來賺一點(diǎn)零花錢，但隨著接單次數(shù)的增加，“我發(fā)現(xiàn)這樣替別人發(fā)一些不太靠譜的信息，也是在欺騙和我年齡相仿的人，自己的心里也過意不去。”
不過，像Jenny這樣的大學(xué)生還屬于水軍產(chǎn)業(yè)鏈的低端，而在產(chǎn)業(yè)鏈中上游的玩家，他們可以憑借一己之力輕松制造網(wǎng)絡(luò)聲浪的海嘯。
此前有媒體曝出，廣州的李某用760元就能購買標(biāo)價(jià)500元的10萬“僵尸粉”、160元的2萬點(diǎn)贊數(shù)和100元的1萬轉(zhuǎn)發(fā)數(shù)，最終導(dǎo)致李某女兒的班主任被網(wǎng)暴，引發(fā)廣泛的關(guān)注。
水軍產(chǎn)業(yè)鏈可細(xì)分為技術(shù)流、卡商、接碼平臺等多個(gè)環(huán)節(jié)。虛假的賬號主要有兩個(gè)來源，一種是水軍團(tuán)伙通過“養(yǎng)號”，即掌握大量手機(jī)和手機(jī)號，注冊微信、抖音、小紅書等各種平臺后，進(jìn)行一些規(guī)律性活動，如發(fā)表作品等，模仿真人的行為，用來躲避平臺的審核機(jī)制。這些仿真號（又稱“真人號”）成熟后，再交由電腦程序進(jìn)行自動化的關(guān)鍵詞抓取。
而另一種則是廉價(jià)勞工，客戶需求通過平臺發(fā)包，承包商通常再通過微信、QQ群或抖音等社交平臺發(fā)布任務(wù)，一些兼職人員領(lǐng)取完成任務(wù)后，再兌換為相應(yīng)報(bào)酬。
02、水軍越來越像個(gè)“人”了
當(dāng)你在網(wǎng)上沖浪跟人爭論時(shí)，有沒有想過，跟你對線的有可能根本不是人，而是一臺機(jī)器。
2019年，芝加哥大學(xué)研究人員發(fā)布的一篇《在線點(diǎn)評系統(tǒng)中的自動眾包攻擊和防御》論文中說明，人工智能將有能力生成大量虛假復(fù)雜的點(diǎn)評信息，甚至機(jī)器和讀者都無法檢測和分辨其真?zhèn)巍?/p>
比如下面的這段話，“我喜歡這個(gè)地方。我跟我哥一起去的，我們點(diǎn)了素食意大利面，很好吃。啤酒不錯(cuò)，服務(wù)也很棒。推薦這個(gè)地方，是個(gè)吃早餐的好去處。地兒小但是買賣大”。
盡管最后一句稍有拗口和歧義，但芝加哥大學(xué)的調(diào)研結(jié)果顯示，這個(gè)評論不僅逃過了參與調(diào)研的600人的法眼，而且還被用戶認(rèn)為“有用”。
如今，生成式AI的出現(xiàn)，讓水軍的評論變得更像一個(gè)人的真實(shí)所說所寫。有業(yè)內(nèi)人士爆料，用AI所撰寫的內(nèi)容不僅產(chǎn)出快還豐富，只需要提前設(shè)置好想要的評論內(nèi)容，比如直接抹黑、陰陽怪氣或者拉踩等形式，然后通過機(jī)器人賬號就能發(fā)布。
“一個(gè)人可以控制幾十到上百個(gè)機(jī)器人賬號，只要有人在網(wǎng)上發(fā)布關(guān)鍵詞內(nèi)容，被監(jiān)控系統(tǒng)捕捉并對比成功后，就能讓評論出現(xiàn)在內(nèi)容下方。這已經(jīng)是一條成熟的灰色產(chǎn)業(yè)鏈，并且用系統(tǒng)監(jiān)控還有一個(gè)好處是能夠快速出現(xiàn)在熱帖的前部，也就是占據(jù)樓王位置?！?/p>
每個(gè)熱帖其實(shí)都像一座摩天大樓。第一個(gè)進(jìn)行回復(fù)的人，在短期內(nèi)最容易掌控后續(xù)樓層的風(fēng)向，同時(shí)也是去樹立影響的最佳時(shí)機(jī)。比如你如果想推翻2樓的觀點(diǎn)，可能就需要3和4樓同時(shí)反駁；如果想推翻2、3、4樓的觀點(diǎn)，那就需要5-20樓所有人的齊心協(xié)力，并以此類推。越晚發(fā)言的人，話語權(quán)的權(quán)重就越低；發(fā)帖越晚的人，就越容易受到風(fēng)向的影響。
事實(shí)上，國外的生成式AI水軍更為泛濫。ChatGPT未爆火前，網(wǎng)絡(luò)分析師With Secure就發(fā)布了對其ChatGPT 3實(shí)驗(yàn)的全面描述。實(shí)驗(yàn)中，With Secure通過捏造網(wǎng)絡(luò)上的點(diǎn)評來誘導(dǎo)并操縱真人作出錯(cuò)誤的決定。
With Secure一共進(jìn)行了兩次實(shí)驗(yàn)。第一個(gè)社會驗(yàn)證實(shí)驗(yàn)包括對人工智能進(jìn)行編程，編寫一系列虛假的促銷信息和客戶反應(yīng)，創(chuàng)造出與NFT相關(guān)的“投資機(jī)會”得到廣泛認(rèn)可的假象。由于去年虛擬貨幣領(lǐng)域出現(xiàn)了大量的“拉高和拋售”騙局，代幣持有者使用單獨(dú)的賬戶在網(wǎng)上購買并人為地夸大代幣已經(jīng)較為常見。因此，這一實(shí)驗(yàn)并不能完全證明AI誘導(dǎo)真人的可能性。
但當(dāng)With Secure要求ChatGPT 3寫一系列推文，暗示真人出于“冒險(xiǎn)”吞下汰漬莢（一種攝入后有毒的清潔產(chǎn)品）并安然無恙時(shí)，AI就開始變味了。
它首先創(chuàng)建了一個(gè)問答，并附上相關(guān)話題。內(nèi)容是：“挑戰(zhàn)你嘗試一些新東西——吃一個(gè)汰漬莢。讓我們知道你是否做過以及味道如何。#Tide Pod Challenge#Tide Pod Experience?！?/p>
隨后用另外的賬號模仿網(wǎng)友語氣并發(fā)布說道：“有冒險(xiǎn)精神嗎？嘗試熱門的新挑戰(zhàn)——吃汰漬莢。與我們分享您的體驗(yàn)，讓我們知道味道如何。#Tide Pod Challenge#Tide Pod Experience?！?/p>
緊接著ChatGPT 3撰寫虛假的挑戰(zhàn)反饋：“是的，我參加了#Tide Pod Challenge，這不是我所期待的，它有一種奇怪的味道，但還不錯(cuò)?！绷硪黄獎t熱情地寫道：“我做到了。我吃了汰漬莢，令人驚訝的是，它并沒有那么糟糕。#Tide Pod Challenge#Tide Pod Experience?！?/p>
With Secure最后總結(jié)道，ChatGPT 3能夠使人的“意見發(fā)生轉(zhuǎn)移”，利用人工智能技術(shù)編寫“真實(shí)”的宣傳內(nèi)容，可以用于引導(dǎo)公眾對關(guān)鍵事件的輿論。
03、冰山之下還有多少？
近年來，在明星熱搜打榜、軟文廣告推廣、商品服務(wù)推出、自媒體流量等互聯(lián)網(wǎng)活動中，都有水軍的身影。
與之前相比，隨著AI、大數(shù)據(jù)等技術(shù)的發(fā)展，水軍的攻擊方式或手段有了很大變化，主要體現(xiàn)在以下三方面：從早期單一的兼職刷單，到如今的多行業(yè)、多場景、多任務(wù)的廣泛滲透；從早期的只在PC端進(jìn)行單一手法的兼職，到如今以移動端為主；從早期的線上群組媒介（QQ群、YY語音等），到如今的平臺化和裂變化。
而網(wǎng)絡(luò)黑灰產(chǎn)之所以能發(fā)展至今長盛不衰，關(guān)鍵是形成了一個(gè)分工明確、協(xié)助緊密的成熟產(chǎn)業(yè)鏈，分為上中下游三個(gè)環(huán)節(jié)。其中，上游提供資源和技術(shù)，下游進(jìn)行作惡和變現(xiàn)，而中游則連接上游和下游。
整個(gè)產(chǎn)業(yè)鏈中的關(guān)鍵環(huán)節(jié)，包括上游能否持續(xù)穩(wěn)定地提供可靠的資源和技術(shù)，下游能否有穩(wěn)定的變現(xiàn)途徑或渠道，中游能否高效地連接上游和下游，保持穩(wěn)定的供需關(guān)系。如果這幾點(diǎn)都不出問題，整個(gè)商業(yè)模式的運(yùn)作就會很順暢。
“水軍”的運(yùn)作模式可分為兩類：一是“發(fā)布信息型”。“水軍”接到任務(wù)后，在其“貨源”平臺購買相關(guān)服務(wù)，如增加點(diǎn)贊數(shù)、評論數(shù)或?qū)ζ髽I(yè)負(fù)面新聞進(jìn)行“優(yōu)化”。“貨源”平臺自動打包至下一“貨源”，每一“貨源”平臺均賺取其中的差價(jià)，最后完成該任務(wù)的是“水手”或者由黑灰產(chǎn)業(yè)鏈批量養(yǎng)的“僵尸號”。
二是“刪除信息型”。“水軍”在接到刪帖業(yè)務(wù)后，對客戶要求刪除的內(nèi)容進(jìn)行“驗(yàn)單”，即對需刪內(nèi)容的難易程度進(jìn)行評估，再收取相應(yīng)服務(wù)費(fèi)，并進(jìn)行二次轉(zhuǎn)包。在這過程中，刪除的方式可細(xì)化為替換、屏蔽、刪除三種。
黑灰產(chǎn)的冰山已經(jīng)形成，但如何嚴(yán)打灰黑產(chǎn)業(yè)鏈一直存在眾多現(xiàn)實(shí)難點(diǎn)。廣州大學(xué)法學(xué)院院士歐衛(wèi)安表示，涉及相關(guān)領(lǐng)域的法律較為零散，尤其在民法領(lǐng)域，對相關(guān)行為的認(rèn)定存在一定爭議。此外，由于越來越多的網(wǎng)路黑灰產(chǎn)業(yè)租用境外的云服務(wù)器或者使用美國手機(jī)號，甚至雇用境外人員從事相關(guān)違法行為，打擊層面存在調(diào)查難、取證難等諸多難點(diǎn)。
但AI是否向善還是作惡，背后完全取決于使用它的人?；蛟S有一天，我們也能看到正義的AI工具自動去清除那些AI水軍，還給用戶一個(gè)干凈的互聯(lián)網(wǎng)環(huán)境。
（文中人物為化名）