AI時代,美女真假難辨,你被“她”騙了嗎?
在AI技術日益成熟的今天,我們正面臨著一個真假難辨的數字世界。本文深入探討了AI生成的美女圖像和視頻如何在網絡上引發關注,并且可能欺騙觀眾。
網絡時代什么最吸引眼球?有人可能會說是美女。
美女確實吸引眼球,但各大平臺的推薦來看,真人是更重要的一點。尤其是身處AI發展階段,各大平臺對于AI圖片、視頻都有著相應的審核制度,為了防止受騙還會進行特殊標注。
但最近的AI已經進化到真假難辨的地步了,你關注的美女博主就有可能是AI生成的,她們不僅騙過了平臺推薦,還騙走各位觀眾老爺的小紅心。
01 1300多個美女都是AI?
曾經有句話叫“跟你聊天的美女背后可能是個摳腳大漢”,現在可能要變成,你百看不厭的美女博主背后可能是一個男人和一堆AI。
近期,網上有人分享了在某平臺用AI批量生成美女照片結果成功騙過平臺做出1300多個賬號的光榮戰績。這里面可能就有令各位觀眾老爺瘋狂心動的那個“她”。
在大多數人的普遍認知中,AI的發展還未到以假亂真的效果,更多的是李逵和李鬼的關系,一眼就能分辨出來。但殊不知,這位網友不但靠AI騙過了平臺更是進一步把各位觀眾老爺的小紅心騙走了。
普通人眼中的AI文生圖效果是什么呢?五官不自然、AI感明顯、六指狂魔等等,我們憑借著引以為傲的眼界一度不把它們放在眼里。此前麥當勞薯條宣傳片中用了11位AI美女,就被不少人吐槽有非常明顯僵硬的AI 臉和違和感。
但有時候,AI的發展遠超我們的火眼金睛。這些能夠騙過平臺的AI圖片和麥當勞AI美女可就不是一個風格和量級的了,來看看你能分辨出來嗎?
怎么看這都只是平平無奇的美顏照片,最多是高P精修圖,但任誰能發現這全都是AI生成的。經過仔細觀察,我們發現可能為數不多的瑕疵在于第一張車座的位置不對,好似人違反物理規則坐在了空氣上,另外兩張照片是一點看不出AI痕跡。
據說,這些真假難辨的AI美女全都來自Flux,之前以生成各種超高擬真度的人物圖片而著稱,核心成員都來自Stable diffusion。當然,告訴大家工具可不是讓大家去模仿,僅僅只是科普,往下看就知道如果用來盈利會發生什么了。
02 AI美女生意火熱,但合法的不多
今年早些時候,一個APP直播推送頁面,有位ID為“靚女百變秀”的賬號正在進行直播。直播間內,一位身穿緊身衣的女主播賣力地扭動著身姿,伴隨背景音樂跳著熱辣勁舞。
直播間內標示有“數字主播一切聽你的”字樣,同時還有“小禮物控制主播”“發以下彈幕調戲主播”的文字提示,所以這位女主播實際上是一個AI虛擬數字人。
據直播間的彈幕互動游戲玩法介紹,用戶通過發送“111”“888”“老婆”,即可“調戲主播”,分別對應“主播喊爸爸”“惡龍咆哮”“主播撒嬌”。此事被曝出后,該賬號已經刪去了相關直播內容,并且疑似注銷了賬號。
我們也曾就此事咨詢過北京鼎世律師事務所合伙人律師李蘇陽,他表示:從報道內容看,該直播的內容及形式,無疑屬于“擦邊”“低俗”,涉嫌“軟色情”,可能被認定為“帶有性暗示、性挑逗等易使人產生性聯想”以及“宣揚低俗、庸俗、媚俗內容”的不良信息,或違反了《網絡直播營銷管理辦法(試行)》《網絡信息內容生態治理規定》等法規的禁止性規定,可能被作為中央網信辦2024年“清朗·網絡直播領域虛假和低俗亂象整治”專項行動的重點打擊對象。
顯然,利用AI主播擦邊賺錢并不是一個好主意。那像上述一樣只發圖片呢?大概率很難賺到錢,畢竟缺乏賬號管理,難以變現。而網上還有許多教大家用AI美女賺錢的,想想也知道這是為了讓你交課時費。
這種AI換臉的生意稍微想想就可能存在各種法律風險,科技旋渦提醒大家,切勿盲目操作,小心因小失大。而提到AI換臉,就不得不說知名歌星泰勒了,幾乎每次AI換臉都讓她遇上了。
03 AI泰勒支持川普,多次換臉受害者
在美國總統候選人卡馬拉·哈里斯與唐納德·特朗普的辯論之后,泰勒·斯威夫特在在Instagram中發布了一條立場鮮明的支持宣言。最近有不實消息稱“她支持特朗普”,為此她在此做出澄清。泰勒·斯威夫特還表示,她將在2024年總統大選中投票給哈里斯,因為她“為權利而戰”。
在帖子中,她表示發現有人利用AI虛假地宣稱我支持唐納德·特朗普競選總統,并將此信息發布在了他的網站上。這讓我對AI和傳播錯誤信息的危險產生了恐懼。這也讓我得出結論,作為選民,我需要非常透明地公開我對這次選舉的實際計劃。打擊虛假信息的最簡單方法就是說出真相。
最后,她還表示,會在社交媒體中附上登記地點、提前投票日期和相關信息。顯然,這次AI換臉把泰勒惹急了,此前她對于有關AI換臉黃色照片的事情反應都沒有此次激烈。
2024年初,泰勒的一些露骨不雅照片在互聯網上瘋傳,其中一張圖片已經被瀏覽了整整四千五百萬次!隨后,這些圖像被驗證是人工智能“深度偽造”技術生成的,用來惡意詆毀泰勒的公眾形象。
科技旋渦認為,雖然利用AI技術制作虛假信息早已有之,但隨著生成式AI在過去一年多時間內的快速發展,對視頻、圖片、音頻進行深度造假技術更加成熟且普遍,造假的成本也更加低廉。
傳播學者羅伯特·切斯尼形象地稱之為,“說謊者的紅利”,前所未有的AI深度偽造焦慮讓那個曾經遙遠的問題,驟然變得現實而緊迫。
04 寫在最后
人工智能技術是一把雙刃劍。在給人類生活帶來便利的同時,它也帶來了諸多倫理困境。自AI飛速發展以來種種詐騙、違法案件提醒著我們直面人工智能帶來的種種挑戰。
不論是虛擬數字主播擦邊還是AI美女以假亂真,其背后都是一群追求利益的人在操縱。AI 大模型是人類的鏡像,人們投喂給它什么,它就會像一潭有魔力的湖水,反射出人們自己的潛意識與欲望。
在發展人工智能的同時,我們有必要為之設置“防火墻”,唯有如此,我們才能真正駕馭這一劃時代的技術,讓它更好地造福和幫助人類。
作者&編輯|孫浩南
本文由人人都是產品經理作者【科技旋渦】,微信公眾號:【科技旋渦】,原創/授權 發布于人人都是產品經理,未經許可,禁止轉載。
題圖來自Unsplash,基于 CC0 協議。
- 目前還沒評論,等你發揮!