起點課堂會員權益
職業體系課特權
線下行業大會特權
個人IP打造特權
30+門專項技能課
1300+專題課程
12場職場軟技能直播
12場求職輔導直播
12場專業技能直播
會員專屬社群
榮耀標識AI直播亂象頻現，平臺出手整治“AI美女”及賣課亂象
隨著AI技術的迅猛發展，直播領域也掀起了AI應用的熱潮。然而，這股風潮并非全然正面，一系列亂象隨之涌現。其中，“AI美女”批量打造，利用AI技術吸粉帶貨；賣課、分銷等灰產也層出不窮。針對這些亂象，平臺已開始出手整治，維護直播行業的健康發展。
AI風口吹到了直播，先吃到紅利的不只有賣課的知識付費博主，還有“AI主播”
她們或是外國美女，借助吸引眼球的形象和話題吸粉，然后帶貨；或是單身女性，輸出“心靈雞湯”，目的要么是帶貨，要么是吸引男粉轉化為付費用戶…..
這些“AI主播”、“AI美女”，正通過AI技術而被批量化、模板化復制。
不僅如此，圍繞這個產業鏈，還出現了如賣課、分銷等亂象。如今，針對這些亂象，平臺已經開始出手整治。
一、抖音出手整治AI虛擬人
近日，“抖音安全中心”官微發布抖音關于不當利用AI生成虛擬人物的治理公告。公告稱，近期平臺發現，站內仍有不當使用AI技術生成虛擬人物發布內容的賬號，平臺進行了嚴厲處置。
針對違規使用AI生成虛擬人物的行為，平臺會對違規視頻下架，對違規賬號進行取消其投稿和營利權限、抹除賬號粉絲、封禁賬號等處置，并利用模型、技術識別能力等手段，進行長期系統的識別發現和處置。
有關AI生成虛擬人物的違規行為，改公告列出了幾個類型，主要包括利用AI生成假外國人、假精英及利用AI生成形象騙互動等三類內容。
抖音此番出手，讓人想到此前爆火的“俄羅斯美女”——娜塔莎。
這是賬號“娜塔莎進口食品”塑造的一個俄羅斯美女，說自己在中國生活了8年、熱愛中國文化、要嫁給中國男人，在吸粉之后，通過帶貨俄羅斯的相關產品進行變現，其粉絲量一度達到了20多萬。
“美女人設+精準話題吸粉+帶貨變現”的路徑，看起來似乎沒有問題。然而，該賬號之后被曝出其塑造的“俄羅斯美女”形象是通過AI換臉生成，且沒有經過授權使用了烏克蘭博主、YouTube網紅“Olga Loiek”的面容和聲音。
如今，該賬號已經遭到封禁。
二、被批量打造的“AI美女”
實際上，如今抖音上的AI主播并不少見，尤其是“AI美女”。
研究了這些賬號之后，我們發現這些“AI美女”，要么是直接生成虛擬人設，打造單身成熟女性的人設，甚至還有“單身媽媽”、“離婚女性”等，比如“小姨妹”、“梨過，你要么”。
這些賬號可以說是批量生成的，模板化、套路化非常明顯。
另一種類型則是通過真人主播自身的形象，生成與她形象較為相符的虛擬形象，如“巧克力，小檸檬”。這是一位娛樂主播，目前擁有1000多萬粉絲。
其通過AI生成個人的虛擬形象，主要用于短視頻，內容是情感類“雞湯”。如“欺騙一個對你掏心掏肺的男人”、“經常流淚的男人是什么性格呢”等內容，從而達到吸粉、導流的目的。這類內容看起來十分粗糙，而且口型和畫面對不上，很明顯是通過AI生成的。
可以看到，這兩種類型的賬號的目標群體都瞄準了男性。
其中，前者會在短視頻掛載小黃車，通過帶貨進行變現，產品也以日常用品和男士用品為主，譬如抖音平臺上有50.5萬粉絲的AI主播“陳佳麗”，其櫥窗商品價格從幾元到幾十元不等，部分產品銷量可達上百萬。
后者則主要通過短視頻進行吸粉，然后靠直播打賞進行變現。從短視頻內容來看，也是精準面向男性，無論是主播的形象和短視頻話題都是投其所好。
除了抖音，小紅書也同樣有一批以AI美女為主角的博主。
這類博主塑造了類似“旅游博主”、“街拍模特”的人設，發布的內容也幾乎一致，基本都是都是發布AI生成的美照。比如以街拍為主要內容的博主“cyberAngel”、“往之”，粉絲數量均已突破一萬。目前，尚未發現明顯的變現渠道，最常見的方式是建群引流。
三、“AI直播”催生的亂象
除了這類批量打造的“AI美女”之外，如今AI的火熱風口還催生了賣課、AI代理分銷等亂象。
據媒體報道，有商家出售所謂的AI換臉課程，售價29.9元，素材包包含幾千張明星照片；還有商家將騙術當做技術出售，還提供人臉定制，定制價格在2000元到上萬元不等。
而圍繞AI課程的產業鏈，還形成了分銷的灰產。315期間，就有媒體曝光了有關“數字人源頭廠商”和“數字人代理”的騙局。
有不法商家利用“數字人產業是時代風口”作為噱頭，對外售賣高達十幾萬元的AI代理服務，宣稱“只要付錢成為代理，就能將數字人技術層層分銷給下級買家，不需要任何資質審核，還能自己隨意定價，零基礎小白也能參與，閉著眼睛就能年入百萬?！?/p>
然而，“AI換臉”不僅涉嫌侵權，而且還因為直播效果不佳、臺詞重復、表現生硬等，導致直播間頻繁被封。
如今，隨著平臺監管力度的加大，這樣的亂象正在進一步遭到整治。新播場在抖音搜索“AI主播課程、“AI直播課程”等關鍵詞，已經搜不到相關賣課內容。
可以看到，風口之下，AI在直播領域的應用催生了不少亂象。實際上，如果能夠更好地利用AI技術，不僅能夠減少成本，還能為直播帶來新的想象空間。
有業內人士表示，從目前來看，AI主播目前的應用還是存在較多問題和挑戰，更多是應用于不需要依賴內容輸出的場景，比如本地生活賽道的團購直播；或者作為真人主播的“替身”，在無法開播的時間段運作。
四、押注AI直播，前景如何？
實際上，AI直播帶貨早已經不是什么新鮮事了。
2023年，隨著AI技術的逐步成熟，頭部直播公司開始大舉入局AI直播帶貨，謙尋就是其中之一。
據報道，謙尋控股很早就已經在AI領域開始布局，旗下的兩家子公司謙語智能和羚客就是專門用來研發AI直播帶貨。
2023年8月9日，在“再定義?直播的生命力-2023AI創新發布會”上，謙尋旗下的謙語智能和羚客分別發布了“AI數字人直播業務”和“一站式AI智能直播綜合平臺”，其中多個AI數字人都有薇婭的身影。
而不久前，宣布淡出直播電商的頭部帶貨主播辛巴，也稱未來兩年將去學習AI技術。
頭部機構和主播押注AI，正是看到了AI技術與直播結合帶來的新想象力。
與此同時，面對廣闊的海外市場，AI主播也有更大的發展空間。
如今許多AI研發商都在著力完善相關產品，閃剪智能舉辦的2024 BocaLive AI數字人智能播控系統在3月21日舉行了線上發布會，新上線的AI能夠直接幫助商家自動寫好外語直播腳本，支持29國語言和豐富的AI配音。
AI主播具有龐大的語言庫，可以進行數十種語言的翻譯，商家把中文的商品介紹或者直播腳本輸入進去，就可以自動轉換成英語、法語、德語等多種語言。
據《中國AI數字人市場現狀與機會分析,2022》預測，到2026年，我國AI數字人的市場規模將達到102.4億元。
AI數字人的前景廣闊，但是未來會與直播融合到怎樣的程度，一切都是未知數。
作者：場妹
來源公眾號：新播場（ID：New_bc），關注直播、直播電商、短視頻領域。
本文由人人都是產品經理合作媒體 @新播場 授權發布，未經許可，禁止轉載。
題圖來自Unsplash，基于 CC0 協議。
該文觀點僅代表作者本人，人人都是產品經理平臺僅提供信息存儲空間服務。
- 目前還沒評論，等你發揮！
