隨著AI人工智能技術的快速發展，AI內容風險也日益引人關注，逐漸衍生的AI內容風險問題，不僅會影響用戶體驗，而且還可能對社會造成負面影響。因此，如何解決AI內容風險成為了AI技術領域的一個重要議題。本文作者就當前存在的AI內容風險，及平臺們的監管策略做出了解讀分析，一起來看。

挑戰可能真的來了。平臺開始按不住AIGC了。

最近兩天，先是真的孫燕姿發文“原諒”了AI孫燕姿，然后AI又在美國鬧出一個大新聞。美國當地時間5月22日，有一幅“五角大樓附近發生爆炸”的圖在社交網站上傳播。一時間全網震動，甚至美股還為此小跌了一下。

圖：依照（目前還不成型的）AI傳播道德，這里只放一張被打過叉的原圖。

事件經過一天時間的發酵，現在我們知道：圖片是AI合成的。假消息的源頭之一是推特上一個叫作“Bloomberg Feed”的賬號，原推的附文煞有介事地說：“華盛頓特區五角大樓建筑附近發生巨大爆炸?！醪綀蟮馈?。

這次的假新聞風波，意味著推特的內容監管沒能兜住AI內容風險。而且這不是個案，隨著AI內容生態的萌發，平臺的監管問題正逐一顯露出來。

一、推特的難題

“五角大樓附近發生爆炸”事件在爆發的幾小時內，就經歷了幾輪發酵。

根據各方考證，假消息的源頭不止一個，最早的發布時間可以追溯到當地時間早8點42分。最原始的圖在上午10點多被一些藍標賬號撿起來，配上“五角大樓附近發生爆炸”之類的文案再度發布。其中，前面那張圖中的發布者@Bloomberg Feed看起來最為可信，因為名字中含有Bloomberg（彭博社），并且獲得了推特的藍標認證。但其實該賬號和彭博社毫無關系。

消息發出來之后，好幾條原推都被數百萬人看到，被其他的藍標認證用戶轉發，甚至被印度和俄羅斯帶著推特“金標”的正規媒體賬號。

早上十點多，美國股市也發生了小幅下跌。很多分析人士認為，這是該圖片引發的市場恐慌。

圖：當地時間5月22日的美國道瓊斯工業平均指數行情。在10點之后發生了小幅下跌。

不過很快，網民掀起了對該消息真實性的討論。首先，雖然很多最早發出來的推都說這是在五角大樓附近，但是照片上的樓并不是五角大樓。另外，照片里面路燈是歪的，并且柵欄與周圍景物的遮擋關系也不很寫實。

圖：AI偽造圖的細部。雖然像素不高，但還是看得出物體之間的穿插、遮擋關系非常不自然。

到了10點40多，圖片引起了官方的注意。當地的消防機構首先辟謠說，當地沒有爆炸發生。之后陸續又有別的組織出面辟謠，公眾才確認這則消息為假消息，并且照片是AI生成的。

塵埃落定之后，一些網絡輿論的矛頭開始指向推特的藍標政策。在馬斯克收購推特之后，改變了藍標用戶的認證方式。在此之前，藍標是免費授予經過身份認證的機構和名人的。去年11月，馬斯克把藍標政策改成了“付費+認證”的形式。但是，新的認證方式十分的不透明，被解讀為“拿錢買認證”。本次“五角大樓爆炸”假新聞事件也進一步印證了，馬斯克掌管下的推特，認證制度存在重大缺陷。

不過，這真的只是認證的問題嗎？

二、國內“AI內容監管第一槍”？

輿論對本次“五角大樓爆炸”假新聞事件的問題意識，盯住的是推特的“藍標認證”制度，因為“藍標”意味著賬號是由真實、負責任的人或組織運營的。這實際上的訴求在于“AI的使用者不能脫責”，這是目前針對AIGC（人工智能生成內容）監管的一種典型策略。

同樣，像微信朋友圈、微博這種即時分享類型的平臺讓每個人都成了新聞資訊的發布者。那么，每個發布者為自己發布的信息負責，這一治理原則在這些平臺強化AI內容治理時也被延續了下來。

在“可追責”的考慮之上，一些平臺開始考慮給AI內容加標識，以防止觀者混淆AI生成的內容與真實內容。5月9日，抖音祭出了被稱為國內“AI內容監管第一槍”的舉措，要求創作者給AI視頻內容打上“AI生成”的水印。

圖：抖音規定的“AI生成”水印樣式。圖片截取自《抖音關于人工智能生成內容標識的水印與元數據規范》

但眼下，隨著AI內容生態的演化，我們可以得出一些新的判斷：說抖音的舉動是“AI內容監管第一槍”，可能夸大了其行業意義。

AI水印政策與抖音自身的屬性有關。抖音的內容本質上是一個博眼球、爭流量的注意力生意，所以抖音理應更關注為了爭取流量而不顧道德原則的AI內容。把AI內容在明顯的位置標出，或許能減少類似推特這次事件，有人把AI虛構的圖當作真實圖像來傳播，造成意料之外的麻煩。

類似地，抖音平臺要阻止用戶利用AI生成的劣質內容來沖流量。所以抖音禁止了單純讀文案帶貨的虛擬人直播。這些虛擬人主播可以永不停歇地一直播，并且可以被低成本復制，同時用多個賬號播出，但是它在視覺、文案、表達上都十分粗制濫造。這種內容對于抖音的問題在于，用大規模低質量內容沖流量，沖淡平臺上的優質內容。

抖音的一些AIGC治理舉措，其出發點還是抖音平臺自身的一些特征。抖音對AIGC的問題意識不一定是普適的。

三、監管重點的分化

在邏輯不同的內容平臺，例如B站這種看重用戶創意的平臺，AI內容治理又是另一個樣貌。

3月30日，B站董事長陳睿在中國網絡視聽大會上放出豪言，說B站是目前AIGC內容質量最高、最豐富的平臺。果然不久之后，“AI孫燕姿”就在B站火了。

純從內容上說，“AI孫燕姿”是比較原始形態的AIUGC，即“AI輔助用戶生成內容”。它是AI內容的另一種樣態，甚至可能是未來AI內容的主流樣態。和抖音對“用AI虛構內容博眼球”的擔憂不同，AIUGC內容拼的依然是創意，這是UGC/PUGC生態的延續。只不過，正如“AI孫燕姿”所暴露出的問題，AIUGC目前暴露出了知識產權保護方面的重大缺陷。

在“AI孫燕姿”這件事上，B站不曾站出來表達自己的監管立場。倒是孫燕姿本人被炸出來，對“AI孫燕姿”表達了一種“無奈地寬恕”態度。孫燕姿的原話是：“我的粉絲們已正式改換門庭，接受我就是一名冷門歌手的事實，而我的AI角色成為了目前的頂流。我想說的是，你跟一個每幾分鐘就推出一張新專輯的人（虎嗅注：指AI孫燕姿）還有什么好爭的?！?/p>

雖然孫燕姿個人很慷慨大度，但是AIGC的知識產權爭議仍在?！癆I孫燕姿”爆火之后，有人又提起了“數字水印”技術。簡單講，這種技術是在圖像、聲音、數據等載體上加標記，這些標記是人看不到、聽不出的，但可以用技術手段識別，并且在原始版權素材被改動之后，依然可以識別出其中的版權標記。這種技術頗受看好，但其規模性的落地尚需時日。

但總之，B站這類重創意的內容平臺，或許能在AIGC的某些元問題上壓過那些重流量的內容平臺。正如Pinterest——知名的創意分享平臺、“設計師之友”——的首席執行官Bill Ready近期在評論AIGC時多次強調：AI內容應該是人們生活的“調味品”（additive）而非“癮品”（addictive）。如果內容平臺的核心算法原本就是讓用戶上癮，那么AIGC會在這種算法中把人性的缺陷進一步放大。

Pinterest自身在推薦算法上，堅持探索如何推送具有創意、靈感、個性化價值的內容。這使得Pinterest對低質量的AIGC有一定的抵抗力；同時富有新意的AIUGC藝術作品開始在Pinterest上涌現。

圖：Pinterest上一位AI輔助創作者的作品目錄。他把自己利用Midjourney生成出來的近百個主題（如“科幻場景”“通靈旅程”“政治畫”“圣經風格”等）分門別類，整理成庫。

圖片來源：Pinterest @Vellectrum

所以在討論AIGC平臺監管的時候，也不能忽視AIGC反過來對平臺的改造，以及潛在的相互成就的機會。

在較短的時間尺度上，AI內容給平臺帶來一些監管上的挑戰，并且不同運營邏輯的內容平臺，其AI治理重點還有分化之勢。而在遠期，AI內容或許反過來決定平臺的發展前景。這個遠期趨勢，或許才是內容平臺面臨的終極挑戰。