起點課堂會員權益
職業體系課特權
線下行業大會特權
個人IP打造特權
30+門專項技能課
1300+專題課程
12場職場軟技能直播
12場求職輔導直播
12場專業技能直播
會員專屬社群
榮耀標識虛假賬號不斷進化，AI能做的還是有限
治理“網絡水軍”已成為全球難題，而由于其分散、量大兼具技術隱蔽性，對其的治理更需要講究專業化和智能化。此時，人工智能也派上了用處。但虛假賬號不斷進化，AI能做的還是有限。
你的社交平臺擁有多少個粉絲？一千？一萬？還是更多？你知道其中存在多少個“僵尸粉”嗎？
近日，據美國權威科技媒體The Information引述研究機構Ghost Data的報告稱：
2015年，Instagram平臺的僵尸賬號占比為7.9%，到目前已經攀升至9.5%。Instagram的閱讀用戶已經增加到了十億人。根據上述比例，Instagram平臺上現在大約有9500萬個僵尸賬號。
有媒體評論指出，如此規模的“僵尸賬號”，讓Instagram成為下一個互聯網行業打擊假新聞、假信息和政客營銷的重要陣地。
為什么這么說 ？
恐怕得看看“網絡水軍”在近些年的“杰作”。?2017 年，至少有 18 個國家在選舉中遭遇了線上操縱和虛假信息策略，包括德國聯邦總統選舉期間社交機器人活躍和垃圾新聞頻出等。
顯然，治理“網絡水軍”已成為全球難題。而由于其分散、量大兼具技術隱蔽性，對其的治理更需要講究專業化和智能化。此時，人工智能也派上了用處。
道高一尺，魔高一丈，虛假賬號與AI的斗智斗勇
從創建應用軟件、官方網站或內容傳播平臺，到生產具有實質性內容的圖像、視頻或文字，通過或真或假或自動地與用戶交互，虛假賬號已經越來越“真實”。就在去年，有研究表明，連人工智能都可以被用來生成復雜的點評信息，而這些虛假的點評不僅機器無法檢測出來，就連人類讀者也分辨不出來。
虛假賬號不再“虛假”，整個社交網站都面臨著潛在卻嚴重的沖擊。筆者梳理了三種智能“鑒粉”方式，分別囊括了用戶行為、內容和情感特征三種形式，試圖解決這一問題。
首先是用戶行為特征的分析。這種方式大多依托于爬蟲技術，即通過主動爬取特定微博或者論壇的主體相關的注冊行為、社交行為、轉發與評論等行為 , 從而進行多維特征向量刻畫。同時，有研究者還采用了隱馬爾可夫模型來對用戶行為進行建模，利用模型參數來對用戶行為進識別和分類，畢竟“僵尸”掉進了“植物”里，總是有區別的。
這主要是利用賬號之間的社會關系來識別那些“僵尸號”，而面對這種方式，水軍們也“與時俱進”，比如：一些職業差評師的賬號在注冊行為上就無懈可擊，他們的賬號一般會同時配備有身份證、用戶手持證件照、實名手機號碼卡、實名銀行卡等，還能通過作弊軟件騙過實名認證系統。即使是微博里的“僵尸粉”，也會存在一些粉絲關系。
第一種方式被“見招拆招”，AI也不得不拿出第二種方式——即對內容特征的分析。基于內容分析的識別技術主要從發帖內容本身切入，建立“僵尸粉”，惡意或者美化信息等本體模型, 同時建立敏感語義庫，通過語言特征統計區分虛假賬號。
但是，由于語義領域的不統一性，同一本體在不同領域，甚至同一領域都會存在很多象征意義的現狀，比如：用戶在討論某手機時，提到“這手機的上網速度真快”?！翱臁笔且环N夸贊，如果說“這手機耗電速度真快”，“快”又變成了一種批評。
因此，內容特征模型在不同的情況，平臺上都會有較大的變化，這也造成了AI分析內容特征進而識別“僵尸粉”的通用性較差的問題。
如此來看，基于單一特征對虛假賬號進行識別還是比較困難的。因此，AI也不得不開始思考第三種方式。
第三種方式源于第二種方式，即對內容中情感特征的分析。
有研究者通過分析推特內容中的情感，發現在線社交網絡中的內容創建、傳播與證券市場波動、期貨商品價格及國家、社會重大事件之間有著緊密的聯系。這也表明情感傾向，是社交網站內容中的重要特征。
而水軍也往往帶有強烈的感情色彩（好評或差評），針對單個發帖的情感傾向性，AI可以設定一個閾值，若對某個主題發表的正面或者負面帖子比例超過設定閾值,，則認為該用戶為水軍。
但是，用于虛假賬號監測的內容和情感特征的融合，屬于比較明顯的特征，而忽視了隱藏式的異常用戶，比如用戶上傳與文字內容沒有任何關系的圖片，?抑或者用戶評論情感與用戶打分不匹配等新特征。
當網友對水軍開始麻木，活著的水軍其實已經死了
事實上，網絡水軍要想操作輿論，只需要錯開發帖時間，編輯同一核心的不同文字內容就可以了，雖然這樣做的成本會高一點，但是具體操作起來也不是什么高難度的事情。如果有人真心實意想要給某個作品一個差評，人工智能還真不能立即判斷出他是真實用戶還是水軍。
那我們就拿這些虛假賬號沒辦法了嗎？
新浪微博里首個突破一億粉絲的女藝人，我們不會真的相信是有一億個人關注了她；一部好電影上映，眾口皆碑下也不會有人在意零星幾個差評；百分百好評的商品，消費者也會對其持有懷疑；疫苗事件后，網民對調查記者的呼喚，其實是一種自我保護……不得不說，中國的輿論形成和監督機制正在翻新，水軍操縱輿情的力量也越來越弱。
以最近的疫苗事件為例：在事件剛爆發時，也不乏一些別有用心的人，整理出一些兒童因疫苗殘疾的圖片，卻不做任何文字說明，引起了許多人的恐慌和憤怒。但是筆者在其中還是發現了許多比較理性的言論，表明疫苗的不良反應也是客觀存在的，這類危言聳聽的做法反而會阻礙健康疫苗在國內的普及。
?目前，網上對疫苗流向的追問，有關人員的責問，各種po文有理有據，也是眾多網友理性思考后的結果。
所以，盡管虛假賬號的痕跡越來越隱蔽，但網民們的理性和成熟也在不斷加快，更多網民也不再盲目輕信，反而會批判式地去看待每一個輿論觀點，從情緒化到更加理智，從感性到理性，社交軟件上的觀點已經越來越多元化，網絡水軍也越來越難以左右輿論走向。
【完】
作者：顔璇，公眾號：智能相對論（微信id：aixdlun）：深挖人工智能這口井，評出咸淡，講出黑白，道出vb深淺。
本文由 @智能相對論 原創發布于人人都是產品經理。未經許可，禁止轉載
題圖來自Unsplash，基于CC0協議
- 目前還沒評論，等你發揮！
