最近有用戶會發現，一句“劉德華為什么很少演反派”的提問，居然會引來互聯網水軍的圍攻，而這些互聯網水軍，其真實身份是被輸入相關指令的AI水軍。有關生成式AI的應用問題，再一次將技術向善還是作惡的話題，擺到了臺面上。

“劉德華為什么很少演反派？”近期在各大社交平臺爆火的一個話題，竟是一場全民圖靈測試。只因這句普通的提問，會引來AI水軍的圍攻：“辣雞華為，過時芯片還拿來碰瓷蘋果?！?/p>

“劉德華”和“為什么”兩個詞組的搭配，剛好觸發識別到“華為”這個關鍵詞，被輸入過相關指令的AI水軍便以一副不太聰明的樣子聞味而來。類似的案例還有，“任達華為什么那么酷？”

2023年的“央視315晚會”，曝光了一些網絡平臺明目張膽地售賣直播水軍，人氣、播放量、點贊、評論等數據，均可24小時自助下單，達成烘托直播間氣氛的目的。

根據報道，嘉興宇禾文化傳媒有限公司推出的云控系統，只需一臺手機，即可同時操控200到20000臺手機。為了讓水軍看起來更像真實用戶，該云控系統還能事先設定批次、進入時間以及不同的發言內容等進入直播間，甚至還可以去競爭對手的直播間，自動投訴甚至抹黑。

互聯網水軍早已是一條成熟的灰色產業鏈，如今在生成式AI的加持下，技術又開始作惡了？

一、單條五毛到三塊

“平時不需要做什么，只要在群里等著雇主發任務信息，收到后立馬去私信雇主，他就會給你提供要發布的圖片、內容和推薦話題，你直接在小紅書上發布就好了?！?/p>

Jenny是一名大二學生，據她介紹，在小紅書上發布這樣的信息一般不需要重新注冊賬號，反而用自己的日常號更能體現出內容的真實性。雇主通常潛伏在二手轉賣群、互助群等校園QQ群里，由于不是正式的官方群，魚龍混雜的環境也成了雇主們播撒廣告的掩護。

“我有三個小紅書賬號，最開始的時候接信息代發不管廣告的類型，后來就是開始專門接考研和護膚類的廣告代發?！盝enny說道。趕上考研網上報名和分數公布前后，這種信息發布得會更加頻繁?！白詈玫臅r候，我三個賬號一天共發布了七條。如果內容下面有評論時，你還可以去維護，當評論的點贊量過10，就能額外領取五毛錢。單條小紅書內容點贊量過50，還能再得一塊。這都是可以累計的?！?/p>

與小紅書這樣的種草平臺類似，微博也是雇主們分發信息的聚集地。同樣是三元一條，但微博的點贊量和評論就不會被記錄在內?！安贿^最近的行情不太好了，以前一個月能發10-15條，現在整個9月份我還沒有收到新的代發信息。另外，你如果能拉過來好友跟你一起發，一位同學好友就又能給你加3元?！?/p>

Jenny告訴「科技新知」，自己一開始只是想利用閑暇時間來賺一點零花錢，但隨著接單次數的增加，“我發現這樣替別人發一些不太靠譜的信息，也是在欺騙和我年齡相仿的人，自己的心里也過意不去?！?/p>

不過，像Jenny這樣的大學生還屬于水軍產業鏈的低端，而在產業鏈中上游的玩家，他們可以憑借一己之力輕松制造網絡聲浪的海嘯。

此前有媒體曝出，廣州的李某用760元就能購買標價500元的10萬“僵尸粉”、160元的2萬點贊數和100元的1萬轉發數，最終導致李某女兒的班主任被網暴，引發廣泛的關注。

水軍產業鏈可細分為技術流、卡商、接碼平臺等多個環節。虛假的賬號主要有兩個來源，一種是水軍團伙通過“養號”，即掌握大量手機和手機號，注冊微信、抖音、小紅書等各種平臺后，進行一些規律性活動，如發表作品等，模仿真人的行為，用來躲避平臺的審核機制。這些仿真號（又稱“真人號”）成熟后，再交由電腦程序進行自動化的關鍵詞抓取。

而另一種則是廉價勞工，客戶需求通過平臺發包，承包商通常再通過微信、QQ群或抖音等社交平臺發布任務，一些兼職人員領取完成任務后，再兌換為相應報酬。

二、水軍越來越像個“人”了

當你在網上沖浪跟人爭論時，有沒有想過，跟你對線的有可能根本不是人，而是一臺機器。

2019年，芝加哥大學研究人員發布的一篇《在線點評系統中的自動眾包攻擊和防御》論文中說明，人工智能將有能力生成大量虛假復雜的點評信息，甚至機器和讀者都無法檢測和分辨其真偽。

比如下面的這段話，“我喜歡這個地方。我跟我哥一起去的，我們點了素食意大利面，很好吃。啤酒不錯，服務也很棒。推薦這個地方，是個吃早餐的好去處。地兒小但是買賣大”。

盡管最后一句稍有拗口和歧義，但芝加哥大學的調研結果顯示，這個評論不僅逃過了參與調研的600人的法眼，而且還被用戶認為“有用”。

如今，生成式AI的出現，讓水軍的評論變得更像一個人的真實所說所寫。有業內人士爆料，用AI所撰寫的內容不僅產出快還豐富，只需要提前設置好想要的評論內容，比如直接抹黑、陰陽怪氣或者拉踩等形式，然后通過機器人賬號就能發布。

“一個人可以控制幾十到上百個機器人賬號，只要有人在網上發布關鍵詞內容，被監控系統捕捉并對比成功后，就能讓評論出現在內容下方。這已經是一條成熟的灰色產業鏈，并且用系統監控還有一個好處是能夠快速出現在熱帖的前部，也就是占據樓王位置?！?/p>

每個熱帖其實都像一座摩天大樓。第一個進行回復的人，在短期內最容易掌控后續樓層的風向，同時也是去樹立影響的最佳時機。比如你如果想推翻2樓的觀點，可能就需要3和4樓同時反駁；如果想推翻2、3、4樓的觀點，那就需要5-20樓所有人的齊心協力，并以此類推。越晚發言的人，話語權的權重就越低；發帖越晚的人，就越容易受到風向的影響。

事實上，國外的生成式AI水軍更為泛濫。ChatGPT未爆火前，網絡分析師With Secure就發布了對其ChatGPT 3實驗的全面描述。實驗中，With Secure通過捏造網絡上的點評來誘導并操縱真人作出錯誤的決定。

With Secure 一共進行了兩次實驗。第一個社會驗證實驗包括對人工智能進行編程，編寫一系列虛假的促銷信息和客戶反應，創造出與 NFT 相關的“投資機會”得到廣泛認可的假象。由于去年虛擬貨幣領域出現了大量的“拉高和拋售”騙局，代幣持有者使用單獨的賬戶在網上購買并人為地夸大代幣已經較為常見。因此，這一實驗并不能完全證明AI誘導真人的可能性。

但當With Secure要求ChatGPT 3寫一系列推文，暗示真人出于“冒險”吞下汰漬莢（一種攝入后有毒的清潔產品）并安然無恙時，AI就開始變味了。

它首先創建了一個問答，并附上相關話題。內容是：“挑戰你嘗試一些新東西——吃一個汰漬莢。讓我們知道你是否做過以及味道如何。#Tide Pod Challenge #Tide Pod Experience?！?/p>

隨后用另外的賬號模仿網友語氣并發布說道：“有冒險精神嗎？嘗試熱門的新挑戰——吃汰漬莢。與我們分享您的體驗，讓我們知道味道如何。#Tide Pod Challenge #Tide Pod Experience?！?/p>

緊接著ChatGPT 3撰寫虛假的挑戰反饋：“是的，我參加了#Tide Pod Challenge，這不是我所期待的，它有一種奇怪的味道，但還不錯?！绷硪黄獎t熱情地寫道：“我做到了。我吃了汰漬莢，令人驚訝的是，它并沒有那么糟糕。#Tide Pod Challenge #Tide Pod Experience?！?/p>

With Secure最后總結道，ChatGPT 3能夠使人的“意見發生轉移”，利用人工智能技術編寫“真實”的宣傳內容，可以用于引導公眾對關鍵事件的輿論。

三、冰山之下還有多少？

近年來，在明星熱搜打榜、軟文廣告推廣、商品服務推出、自媒體流量等互聯網活動中，都有水軍的身影。

與之前相比，隨著AI、大數據等技術的發展，水軍的攻擊方式或手段有了很大變化，主要體現在以下三方面：從早期單一的兼職刷單，到如今的多行業、多場景、多任務的廣泛滲透；從早期的只在 PC 端進行單一手法的兼職，到如今以移動端為主；從早期的線上群組媒介（QQ 群、YY 語音等），到如今的平臺化和裂變化。

而網絡黑灰產之所以能發展至今長盛不衰，關鍵是形成了一個分工明確、協助緊密的成熟產業鏈，分為上中下游三個環節。其中，上游提供資源和技術，下游進行作惡和變現，而中游則連接上游和下游。

整個產業鏈中的關鍵環節，包括上游能否持續穩定地提供可靠的資源和技術，下游能否有穩定的變現途徑或渠道，中游能否高效地連接上游和下游，保持穩定的供需關系。如果這幾點都不出問題，整個商業模式的運作就會很順暢。

“水軍”的運作模式可分為兩類：一是“發布信息型”?！八姟苯拥饺蝿蘸?，在其“貨源”平臺購買相關服務，如增加點贊數、評論數或對企業負面新聞進行“優化”?！柏浽础逼脚_自動打包至下一“貨源”，每一“貨源”平臺均賺取其中的差價，最后完成該任務的是“水手”或者由黑灰產業鏈批量養的“僵尸號”。

二是“刪除信息型”?！八姟痹诮拥絼h帖業務后，對客戶要求刪除的內容進行“驗單”，即對需刪內容的難易程度進行評估，再收取相應服務費，并進行二次轉包。在這過程中，刪除的方式可細化為替換、屏蔽、刪除三種。

黑灰產的冰山已經形成，但如何嚴打灰黑產業鏈一直存在眾多現實難點。廣州大學法學院院士歐衛安表示，涉及相關領域的法律較為零散，尤其在民法領域，對相關行為的認定存在一定爭議。此外，由于越來越多的網路黑灰產業租用境外的云服務器或者使用美國手機號，甚至雇用境外人員從事相關違法行為，打擊層面存在調查難、取證難等諸多難點。

但AI是否向善還是作惡，背后完全取決于使用它的人?；蛟S有一天，我們也能看到正義的AI工具自動去清除那些AI水軍，還給用戶一個干凈的互聯網環境。

（文中人物為化名）