孫燕姿都管不了AIGC了,平臺怕也難
隨著AI人工智能技術的快速發展,AI內容風險也日益引人關注,逐漸衍生的AI內容風險問題,不僅會影響用戶體驗,而且還可能對社會造成負面影響。因此,如何解決AI內容風險成為了AI技術領域的一個重要議題。本文作者就當前存在的AI內容風險,及平臺們的監管策略做出了解讀分析,一起來看。
挑戰可能真的來了。平臺開始按不住AIGC了。
最近兩天,先是真的孫燕姿發文“原諒”了AI孫燕姿,然后AI又在美國鬧出一個大新聞。美國當地時間5月22日,有一幅“五角大樓附近發生爆炸”的圖在社交網站上傳播。一時間全網震動,甚至美股還為此小跌了一下。
圖:依照(目前還不成型的)AI傳播道德,這里只放一張被打過叉的原圖。
事件經過一天時間的發酵,現在我們知道:圖片是AI合成的。假消息的源頭之一是推特上一個叫作“Bloomberg Feed”的賬號,原推的附文煞有介事地說:“華盛頓特區五角大樓建筑附近發生巨大爆炸。——初步報道”。
這次的假新聞風波,意味著推特的內容監管沒能兜住AI內容風險。而且這不是個案,隨著AI內容生態的萌發,平臺的監管問題正逐一顯露出來。
一、推特的難題
“五角大樓附近發生爆炸”事件在爆發的幾小時內,就經歷了幾輪發酵。
根據各方考證,假消息的源頭不止一個,最早的發布時間可以追溯到當地時間早8點42分。最原始的圖在上午10點多被一些藍標賬號撿起來,配上“五角大樓附近發生爆炸”之類的文案再度發布。其中,前面那張圖中的發布者@Bloomberg Feed看起來最為可信,因為名字中含有Bloomberg(彭博社),并且獲得了推特的藍標認證。但其實該賬號和彭博社毫無關系。
消息發出來之后,好幾條原推都被數百萬人看到,被其他的藍標認證用戶轉發,甚至被印度和俄羅斯帶著推特“金標”的正規媒體賬號。
早上十點多,美國股市也發生了小幅下跌。很多分析人士認為,這是該圖片引發的市場恐慌。
圖:當地時間5月22日的美國道瓊斯工業平均指數行情。在10點之后發生了小幅下跌。
不過很快,網民掀起了對該消息真實性的討論。首先,雖然很多最早發出來的推都說這是在五角大樓附近,但是照片上的樓并不是五角大樓。另外,照片里面路燈是歪的,并且柵欄與周圍景物的遮擋關系也不很寫實。
圖:AI偽造圖的細部。雖然像素不高,但還是看得出物體之間的穿插、遮擋關系非常不自然。
到了10點40多,圖片引起了官方的注意。當地的消防機構首先辟謠說,當地沒有爆炸發生。之后陸續又有別的組織出面辟謠,公眾才確認這則消息為假消息,并且照片是AI生成的。
塵埃落定之后,一些網絡輿論的矛頭開始指向推特的藍標政策。在馬斯克收購推特之后,改變了藍標用戶的認證方式。在此之前,藍標是免費授予經過身份認證的機構和名人的。去年11月,馬斯克把藍標政策改成了“付費+認證”的形式。但是,新的認證方式十分的不透明,被解讀為“拿錢買認證”。本次“五角大樓爆炸”假新聞事件也進一步印證了,馬斯克掌管下的推特,認證制度存在重大缺陷。
不過,這真的只是認證的問題嗎?
二、國內“AI內容監管第一槍”?
輿論對本次“五角大樓爆炸”假新聞事件的問題意識,盯住的是推特的“藍標認證”制度,因為“藍標”意味著賬號是由真實、負責任的人或組織運營的。這實際上的訴求在于“AI的使用者不能脫責”,這是目前針對AIGC(人工智能生成內容)監管的一種典型策略。
同樣,像微信朋友圈、微博這種即時分享類型的平臺讓每個人都成了新聞資訊的發布者。那么,每個發布者為自己發布的信息負責,這一治理原則在這些平臺強化AI內容治理時也被延續了下來。
在“可追責”的考慮之上,一些平臺開始考慮給AI內容加標識,以防止觀者混淆AI生成的內容與真實內容。5月9日,抖音祭出了被稱為國內“AI內容監管第一槍”的舉措,要求創作者給AI視頻內容打上“AI生成”的水印。
圖:抖音規定的“AI生成”水印樣式。圖片截取自《抖音關于人工智能生成內容標識的水印與元數據規范》
但眼下,隨著AI內容生態的演化,我們可以得出一些新的判斷:說抖音的舉動是“AI內容監管第一槍”,可能夸大了其行業意義。
AI水印政策與抖音自身的屬性有關。抖音的內容本質上是一個博眼球、爭流量的注意力生意,所以抖音理應更關注為了爭取流量而不顧道德原則的AI內容。把AI內容在明顯的位置標出,或許能減少類似推特這次事件,有人把AI虛構的圖當作真實圖像來傳播,造成意料之外的麻煩。
類似地,抖音平臺要阻止用戶利用AI生成的劣質內容來沖流量。所以抖音禁止了單純讀文案帶貨的虛擬人直播。這些虛擬人主播可以永不停歇地一直播,并且可以被低成本復制,同時用多個賬號播出,但是它在視覺、文案、表達上都十分粗制濫造。這種內容對于抖音的問題在于,用大規模低質量內容沖流量,沖淡平臺上的優質內容。
抖音的一些AIGC治理舉措,其出發點還是抖音平臺自身的一些特征。抖音對AIGC的問題意識不一定是普適的。
三、監管重點的分化
在邏輯不同的內容平臺,例如B站這種看重用戶創意的平臺,AI內容治理又是另一個樣貌。
3月30日,B站董事長陳睿在中國網絡視聽大會上放出豪言,說B站是目前AIGC內容質量最高、最豐富的平臺。果然不久之后,“AI孫燕姿”就在B站火了。
純從內容上說,“AI孫燕姿”是比較原始形態的AIUGC,即“AI輔助用戶生成內容”。它是AI內容的另一種樣態,甚至可能是未來AI內容的主流樣態。和抖音對“用AI虛構內容博眼球”的擔憂不同,AIUGC內容拼的依然是創意,這是UGC/PUGC生態的延續。只不過,正如“AI孫燕姿”所暴露出的問題,AIUGC目前暴露出了知識產權保護方面的重大缺陷。
在“AI孫燕姿”這件事上,B站不曾站出來表達自己的監管立場。倒是孫燕姿本人被炸出來,對“AI孫燕姿”表達了一種“無奈地寬恕”態度。孫燕姿的原話是:“我的粉絲們已正式改換門庭,接受我就是一名冷門歌手的事實,而我的AI角色成為了目前的頂流。我想說的是,你跟一個每幾分鐘就推出一張新專輯的人(虎嗅注:指AI孫燕姿)還有什么好爭的?!?/p>
雖然孫燕姿個人很慷慨大度,但是AIGC的知識產權爭議仍在?!癆I孫燕姿”爆火之后,有人又提起了“數字水印”技術。簡單講,這種技術是在圖像、聲音、數據等載體上加標記,這些標記是人看不到、聽不出的,但可以用技術手段識別,并且在原始版權素材被改動之后,依然可以識別出其中的版權標記。這種技術頗受看好,但其規模性的落地尚需時日。
但總之,B站這類重創意的內容平臺,或許能在AIGC的某些元問題上壓過那些重流量的內容平臺。正如Pinterest——知名的創意分享平臺、“設計師之友”——的首席執行官Bill Ready近期在評論AIGC時多次強調:AI內容應該是人們生活的“調味品”(additive)而非“癮品”(addictive)。如果內容平臺的核心算法原本就是讓用戶上癮,那么AIGC會在這種算法中把人性的缺陷進一步放大。
Pinterest自身在推薦算法上,堅持探索如何推送具有創意、靈感、個性化價值的內容。這使得Pinterest對低質量的AIGC有一定的抵抗力;同時富有新意的AIUGC藝術作品開始在Pinterest上涌現。
圖:Pinterest上一位AI輔助創作者的作品目錄。他把自己利用Midjourney生成出來的近百個主題(如“科幻場景”“通靈旅程”“政治畫”“圣經風格”等)分門別類,整理成庫。
圖片來源:Pinterest @Vellectrum
所以在討論AIGC平臺監管的時候,也不能忽視AIGC反過來對平臺的改造,以及潛在的相互成就的機會。
在較短的時間尺度上,AI內容給平臺帶來一些監管上的挑戰,并且不同運營邏輯的內容平臺,其AI治理重點還有分化之勢。而在遠期,AI內容或許反過來決定平臺的發展前景。這個遠期趨勢,或許才是內容平臺面臨的終極挑戰。
作者:袁加息;出品:虎嗅ESG組
來源公眾號:虎嗅APP(ID:huxiu_com),從思考,到創造
本文由人人都是產品經理合作媒體 @虎嗅 授權發布,未經許可,禁止轉載
題圖來自 Unsplash,基于 CC0 協議
該文觀點僅代表作者本人,人人都是產品經理平臺僅提供信息存儲空間服務。
- 目前還沒評論,等你發揮!