2024年,多少人被AI“割韭菜”?

2 評論 2785 瀏覽 8 收藏 17 分鐘

2024年,AI技術的迅猛發展帶來了無限的商業潛力,但也伴隨著諸多亂象和騙局。從AI生成內容引發的倫理爭議,到AI產品的虛假宣傳,再到AI培訓課程的“割韭菜”現象,本文將深入剖析這一年中AI領域的種種亂象,揭示背后的真相,并提醒我們在追逐AI浪潮的同時,保持理性和警惕.

隨著大模型飛速發展,AI應用也逐漸成熟。過去一年,在很多人還在琢磨能用AI來干啥的時候,已經有不少人靠著AI產品和信息差賺到了“真金白銀”。

不過,在一個個看似“錢途光明”的項目里,有些引發了倫理爭議,有些是利用噱頭炒作的“偽概念”,還有些,則是實打實的騙局。

01.“數字人”以假亂真,AI換臉成“生意”?

2024年,社媒平臺上用AI制作的內容明顯增多?!靶∝垙堊斐琛薄罢鐙謾C關槍掃射四郎”……AI生成內容成為當下最火的自媒體賽道之一。

有些賬號通過Stable Diffusion、midjourney、可靈或即夢生成動漫形象,配上文案,便可收獲大批粉絲關注,隨后通過商務推廣或櫥窗帶貨變現。例如最近迅速漲粉的“人間清醒柒奶奶”“寶藏羅奶奶”等各類奶奶,就成了很多網友的心靈導師和情緒樹洞。

圖源:小紅書截圖

值得一提的是,有的社媒平臺檢測出內容是由AIGC生成,會給作品加上“疑似包含AI創作”的提示;然而由于識別難度越來越大,相當一部分AI作品和賬號都能逃過檢測。

2024年下半年,有網友稱自己在小紅書上通過賬號矩陣管理軟件同時操控1327個AI美女賬號,沒有任何一個被平臺識別出來。

圖源:微信截圖

如今,很多AI賬號仍在受追捧。有用戶直言,“好看就可以了,難道那些真人博主就長得和照片一模一樣?既然都不真實,是不是AI又有什么所謂?”

于是,“AI數字人”成了很多人“牟利”的手段。有信息流從業者表示,自己通過數字人混剪+真人口播做成廣告素材,在各平臺投放吸引用戶下單,廣告投放金額越高,帶來的收益也越高,不到四天,便有保健品的廣告素材投放突破了30萬元。

圖源:公眾號截圖

除了用“數字人”,還有人通過“AI換臉”技術冒充名人進行帶貨。國家傳染病醫學中心醫生張文宏此前曾表示,短視頻平臺上有很多用AI合成自己臉和聲音的視頻,帶貨蛋白棒等醫藥保健類產品,自己多次向平臺投訴,但仍然層出不窮。

AI換臉內容制作成本低,平臺監管卻不容易。微信和抖音都曾對使用插件、AI等工具生成虛擬形象直播判定違規或封禁處理。資深產業經濟觀察家梁振鵬認為,數字人直播帶貨以及數字人賬號的監管難點,主要在于如何辨別這些數字人是否真實存在,以及它們所宣傳的產品是否真實可靠;此外,監管機構還需要考慮如何處理涉及名人的仿冒行為,以及如何平衡保護消費者權益和促進創新之間的關系。

這些用AI合成的“詐騙視頻”瞄準的通常是辨識能力差、警惕性不高的中老年人。除了張文宏,靳東、雷軍等名人,也是經常被“AI換臉”的對象。前段時間,江西宜春一位老年女性就因“靳東”在網絡上向“借錢拍戲”,險些向對方轉過去200萬元。

圖源:微博截圖

2024年10月,香港警方還曾破獲一起AI換臉的“殺豬盤”,通過偽造條件優越的女性吸引男性轉賬,涉案金額超過3.6億港元。

隨著視頻生成模型的發展,平臺上的內容很可能會更加“真假難辨”。梁振鵬表示,這無疑會加大平臺內容監管的難度;未來,監管機構需要不斷提高自身的技術水平,平臺也需要積極履行社會責任,加強自我約束和自我管理。

值得一提的是,目前至少有60多個國家制定和實施了人工智能治理政策,我國《互聯網信息服務深度合成管理規定》《生成式人工智能服務管理暫行辦法》等規定的相繼落地,也讓剛性治理有了更多具體抓手。

02.智能家電、AI玩具…“沾上”AI就漲價?

2024年是大模型卷應用、卷落地的一年。學習機、眼鏡、玩具、甚至床墊,都紛紛做起了“AI+”,強調自身的“智能化”和“陪伴感”。然而,限于技術的成熟度,過去一年大部分搭載AI的硬件或產品實際上并未帶來顛覆性的使用體驗。

此前,遠程控制、網絡連接、自動識別與控制是家居產品主打的智能化功能,AI概念火了后,家居產品爭相在AI上“整活”:床墊內置AI算法,能根據不同的人體曲線調整高度;洗衣機集成AI智能投放系統,能根據衣物的重量與臟污程度,自動調整洗滌劑的用量……

然而,在很多消費者看來,這些家電的AI功能解決的并不是核心痛點,而且實際使用上也達不到宣傳中的智能。某品牌AI床墊的用戶表示,護腰氣囊晚上間歇性打氣噪音不小,睡眠監測時間也不太準確,“感覺像是交了智商稅”。

圖源:微博截圖

家電行業分析師劉步塵表示,目前家電與AI的結合仍處于初級階段?!斑^去十幾年,家電產品基本上完成了從功能型家電向智能化家電的轉變,但家電產品功能需求的本質未變,對AI的要求沒有想象的那么緊迫,所以家電也很難成為AI技術應用的典范?!?/p>

體驗升級不多,但不少融合AI概念產品的價格卻先漲了上來。有售賣卡薩帝AI冰箱的銷售人員對“搜狐財經”表示,目前AI其實和智能沒有什么區別,暫時還做不到幫助用戶識別食材、記錄保鮮、臨期提醒等等。然而,其店內兩款AI冰箱產品售價分別為6.9萬元和10萬元,相比之下不帶智能大屏的同類型冰箱價格大約2萬到3萬;由此計算,“AI冰箱”的溢價能達到2至5倍左右。

圖源:微博截圖

除了家電,面向兒童、青少年群體的玩具、學習機等產品,結合AI概念后的價格也出現了明顯的上漲。

有AI玩具的從業者對新媒體“Tech星球”表示,毛絨AI玩具的硬件成本一般只占到產品售價的十分之一,甚至更低,其搭載的AI方案才是這類玩具賣到幾百元、上千元的關鍵。

然而,玩具的AI對話功能也是“見仁見智”的地方。有家長表示,AI玩具能回答孩子的“十萬個為什么”,很省心;但也有家長認為,目前所謂的AI功能還配不上這個價格。Haivivi(躍然創新)的一款佩戴式AI玩具的評論區里,有消費者表示,玩具的價格比天貓精靈還貴了不止一倍,但只有對話功能正常使用,播放音樂和講故事的功能都不能滿足孩子需求。

圖源:淘寶截圖

互聯網分析師張書樂曾對“貝殼財經”表示,目前的AI玩具的價值整體上仍然在對話上體現,AI玩具所能提供的教育能力依然還不足以達成真正的教育意義。盤古智庫高級研究院江瀚則認為,AI玩具的優勢在于能夠結合玩具的趣味性和AI的交互性,未來要解決互動體驗和內容創新的問題,使AI玩具能夠更好地理解和回應兒童的指令和情感。

03.AI培訓課,“小白”最好“割”?

每次有新技術出現,比應用跑得更快的往往是“教你如何用”的培訓課程。2024年,AI相關的課程層出不窮,甚至有從業者直言,任何行業都可以用AI來做一遍知識付費。

AI付費課里最熱門的,要屬以AI繪畫、視頻創作為主的AI工具應用類課程。這類課程主要面向渴望提升工作技能和發展副業的年輕人,課程價格大多在千元以上,也是被吐槽“割韭菜”的重災區。

圖源:小紅書截圖

社交平臺上很多網友都提到,付費課里的知識、教程在B站和知乎等都能找到類似的免費內容,這些培訓機構大多只是將免費的素材和教程進行系統整合,其實賺的還是“信息差”的錢。

不擅長信息檢索、又很少體驗知識付費的“小白用戶”,很容易被包裝高大上的課程海報和話術吸引;有網友表示,想報AI課程的主要原因是覺得有老師能答疑,上課互動性更好。這類更習慣傳統教學方式的用戶,也是各類AI付費課程的主力。

小白們學習新技術的需求,養活了不少培訓機構。2024上半年,清華博士李一舟因為違規售賣AI工具類培訓課程被封禁,如今仍有人在這一賽道悶聲賺錢。

“趣解商業”觀察到,如今仍有不少教AI制圖、視頻創作的課程宣稱結課后給學員提供商單幫助變現。例如,有機構的AI繪畫相關課程,價格高達5880元,助教表示,如果順利完成課業測試,學完后100%能接到商單。

圖源:微信截圖

“趣解商業”發現,商單包括室內設計、AI電商換裝圖等多種類型的需求,每單價格在20-30元左右;由此計算,要完成將近近200單需求才能回本學費。對有全職工作的學員而言,這顯然是件相當考驗耐力和興趣的“副業”;還有單親媽媽表示,其實并沒有想象中好學,除了AI工具,也要會用PS,課時和學習時間都比想象中要長,暫時還沒能力接單變現。

在“黑貓投訴”平臺上,消費者投訴AI培訓機構的案例層出不窮,大部分均是針對交費后“老師找不到人”、被誘導付費后難退款、與承諾的效果不符等問題。

04.套殼AI騙融資,“熱錢”涌向大模型?

如果說AI知識付費只是“割韭菜”的初級手段,那用AI概念來圈錢、騙融資,絕對稱得上這一領域的“高級騙局”。

2024年,不止一家AI科技公司被曝出財務造假、業務注水。

近期,美國AI教育科技公司AllHere的創始人兼CEOJoanna Smith-Griffin因涉嫌證券欺詐、電匯欺詐和嚴重身份盜竊被批捕。該公司主推促進家校溝通的聊天機器人,自2020年11月啟動A輪融資以來,直至公司于2024年6月倒閉,其創始人一直向投資者傳遞虛假的財務信息,誤導他們對公司的收入、客戶群體以及現金儲備情況。

圖源:微博截圖

早在2024年6月,國內一家名為“極目銀河”的AI領域明星創業公司“財務爆雷”,CEO陳群在自己租來的別墅中留下一封自白信后消失,信中寫道:“(我)是個詐騙犯……(公司)合計有62億的資金缺口”。根據“36氪”報道,這家公司套殼AI等多個數字科技業務以吸納融資,實際上,公司多年來一直都沒有成熟的產品和業務,項目逐漸無法通過融資獲利,最終整個公司走向破產。

圖源:微博截圖

隨著大模型賽道競爭日益激烈,不少創業公司都被“卷”進了墻角。有從業者表示,2024上半年,投資市場還在為爭搶大模型創業公司的份額頭疼,到了年底,大模型投資人討論的話題已經變成了“如何賣掉部分手里的大模型創業公司股份?”

有參與過大模型企業融資的投資人對新媒體“Tech星球”表示,比起過去投資看好技術、前景、團隊就入手的邏輯,不少機構的內部決策周期越來越長,還會反復計算、評估新錢投出去的回報率。2025年,大模型賽道的融資或許會更加嚴峻。

新技術帶來變革的同時,也會引發亂象和假象。從虛擬人引發的倫理與詐騙問題,到產品借AI之名的價格虛高,再到AI培訓課程的良莠不齊以及創業公司的騙融資行徑,都在提醒著從業者和消費者“AI洶涌”。比追逐浪潮更重要的,是保持清醒––不被短期的利益蒙蔽,也不被誘人的噱頭牽著走。

作者 |?張語格 編輯 | 趣解商業TMT組

本文由人人都是產品經理作者【趣解商業】,微信公眾號:【趣解商業】,原創/授權 發布于人人都是產品經理,未經許可,禁止轉載。

題圖來自Unsplash,基于 CC0 協議。

更多精彩內容,請關注人人都是產品經理微信公眾號或下載App
評論
評論請登錄
  1. 第一批韭菜就是搞不清什么是AI還盲信盲從AI的一批人

    來自廣東 回復
  2. AI“割韭菜”的現象確實存在,提醒大家要理性看待AI技術,避免盲目跟風!

    來自遼寧 回復