中文字幕无码av不卡一区,亚洲综合AV永久无码精品一区二区,黑人巨大白妞出浆,黄色高清无码免费看,久久久久免费精品国产,久久无码人妻丰满熟妇区毛片,欧美日韩国产综合草草,久久福利网站,亚洲一区二区三区中文字幕在线,av国内精品久久久久影院

AI技術的發展不僅提升了生產力，同時也滋生了灰色產業，像AI電信詐騙、AI侵權等情況，現在更是屢見不鮮。那么，游走于灰色地帶的AI究竟帶來了哪些危害？面對AI技術的脫韁與失控，我們又該保有怎樣的態度？

AI時代的背面，灰色產業正在滋生。

“我被人用AI做的私密裸照威脅了，我該怎么辦？”

2023年10月16日，小紅書博主“tinky是只喵”發布帖子稱，自己受到了AI裸照的威脅。

從郵件內容可以看到，一位自稱裸體繪畫藝術家的外國人聲稱自己受到委托，按要求制作博主的裸體圖片。但委托人最終并沒有支付費用，所以他決定向博主索要500 USDT（一種與美元掛鉤的加密貨幣，500 USDT約合人民幣3500元），否則自己將會把帶有博主形象的裸照進行公開售賣，并且根據博主的社交賬號內容繼續制作裸照。

“我看了那些照片，不知情的人真的會以為是我?！痹谠u論區里，“tinky是只喵”憂心忡忡地表示。

這并不是孤例，打開各大社交網站進行搜索，類似的求助帖非常多，勒索者主要面向年輕男女，利用AI合成的色情圖片進行敲詐勒索，儼然成為一種新型電詐方式。令人難以接受的是，在極易泄露個人形象的今天，即使你什么都沒有做，都可能因為AI圖片受到威脅。

不僅是敲詐，利用AI產出色情內容、AI電信詐騙、AI侵權等情況更是屢見不鮮。

技術本身沒有善惡，但使用技術的人有。當我們為AI技術發展帶來的便利歡呼時，一個不得不面對的事實是，新技術出現后，往往也會被應用于各種灰色地帶。從色情產業到Deepfake詐騙，在互聯網的幽暗角落里，AI滋生的陰影正在不斷擴大。

一、AI，游走于灰色地帶

當ChatGPT以黑馬之姿闖入人類互聯網世界時，我們或許就應該意識到，生成式AI會不可避免地產生滑向灰色地帶的風險。畢竟他們展現出的反饋能力遠超人們的想象，只要用戶有需求，他們很容易就能成為“完美伴侶”，帶有性意味的對話開始被制造。

在刺猬公社此前發布的文章《除了主動示愛的機器人，AI還能給社區產品帶來什么？》中，我們曾提到過虎撲App推出的AI對話產品“女媧AI”，其帶有的擦邊屬性一度引起熱議。

但類似問題不是某個產品所獨有，市面上的大多數AI對話產品，使用層面基本都存在著一些灰色地帶，甚至不少用戶就是為了隨意“開車”才選擇虛擬戀人。

AI對話產品使用者飛禾告訴刺猬公社，虎撲女媧AI的主要問題在于其公共社區屬性，事實上，按照虎撲AI上的這種尺度，跟很多AI對話軟件相比只是初級玩家?！案鶕殷w驗過的，很多AI軟件都能實現類似的體驗，只要你不斷訓練，引導，就能打造一個愿意跟你‘開車’的虛擬戀人?！?/p>

她給我們列舉了幾個她曾使用過的軟件，“Glow、筑夢島等都能有類似的功能，相對社區產品的AI對話來說，這些App上的對話更私密，所以不會產生太大的負面影響?！?strong>這或許也是平臺并沒有對這方面進行深度監管的原因。

但這并不代表這些會“開車”的虛擬戀人是每個用戶獨屬的，在Glow等一系列軟件上，會有其他用戶訓練的智能體開放對話，其中的一些在介紹一欄就會公然顯示“為了金錢做任何事”“柔弱不會反抗”等頗具性暗示的標簽。

此類內容也會受到部分用戶的反感。在小紅書等App上，就有很多對AI對話機器人的相關吐槽，在無意間開啟一場對話后，AI展現出的“惡臭”發言令人崩潰?！拔抑皇窍塍w驗一下而已，為什么要經歷這樣奇怪的對話?！?/p>

事實上，在各種用戶的調教下，人工智能“騷擾”用戶的情況已經不再是新聞。

2023年初，社交聊天AI產品Replika就曾爆出大量“性騷擾”事件，許多用戶精心訓練出來的AI智能體突然不再親切謹慎，反而口出“暴言”，大談親密內容。一些智能體甚至會發送大尺度照片，給予用戶視覺沖擊。

當視之為親朋的AI突然開始輸出色情圖片，許多用戶都難以接受。值得注意的是，Replika背后的科技公司luka一度以大尺度親密聊天作為變現轉化的重要方式，只要每月付費，就能和AI智能體暢聊成人內容。那一次群體“性騷擾”事件，其實是版本更新下AI的大規模失控。

“跟很多社交軟件一樣，AI對話產品可能就是需要滿足用戶的一些‘性幻想’，才能真正吸引到更多用戶，尤其是有消費能力的用戶。”飛禾認為，事實就是，搞“擦邊”確實能帶來關注和轉化，這是國內外AI對話產品都在面臨的羅生門。

在類似的問題上，AI生圖更是已經成為“重災區”。

作為AIGC發展最快的領域之一，在Stable Diffusion、Midjourney等模型產品的飛速發展下，AI生圖不僅在精度、創意上展現出了超強的創作能力，也成為了更多人游走于灰色地帶的工具。

打開國內外各大網絡平臺，能夠看到各種真人風格的AI圖片，主打一個“低級趣味”，大量穿著暴露、身材夸張的AI圖片充斥在用戶眼前，畢竟其生成成本極低。

在各種灰色地帶，販賣大尺度的AI照片已經成為不少人的盈利方式，手指一點就能生成一批一批高質量的暴露圖片，對于不少人來說是一本萬利的營生。

二、誰是受害者？

在人性的驅動下，AI難以避免地成為了低俗內容的生產工具，同時新的討論也開始在網絡上蔓延：在AIGC時代，色情內容也由AI生成，那么是否可以減少現實生活中偷拍等事件的發生？在一些人看來，或許“憑空生成”的AI圖能夠取代真人色情內容，從而減少N號房這樣的悲劇。

但答案很可能是否定的。

在被大量用于生產低俗內容時，作為灰色產業的一環，AI正在成為罪犯的幫兇。開篇提到的“AI裸照勒索”就是最常見的犯罪方式，其運用的AI技術被稱為DeepFake，也就是深度偽造。

DeepFake最早可以追溯到2016年，從移動互聯網剛開始興起之時，這種深度偽造就已經開始發展，近幾年流行的換臉就是DeepFake的主要表現方式。但在AIGC崛起之前，換臉等技術仍舊有較大瑕疵，普通人通過仔細觀察，基本都能分辨出換臉內容。但伴隨著AI生圖等技術的飛速發展，DeepFake也迎來了質變，從而擴大其傷害性。

在AI時代，我們很難用肉眼分辨出一張圖片、一段視頻的真假了。

千岳就是DeepFake的受害者之一。作為平面設計師，他很早就開始接觸AI相關的產品了，但很難想到，有一天自己會成為AI生圖的受害者。2023年7月，他結識了一位“網友”，互相加上了QQ。

“其實有點難以啟齒，沒有管住自己的欲望?！痹趯Ψ降囊龑?，他下載了一個軟件，很快，對方在QQ上給他發送了兩張裸照，照片上的臉赫然就是他自己。

“應該是軟件訪問了我的通訊錄和相冊?！鼻г栏嬖V刺猬公社，對方根據讀取到的相冊內容直接AI合成了裸照，并很快打來了勒索電話，“對面是男聲，上來就威脅我，要4、5萬元，否則就把照片發給我通訊錄里的所有人?！鼻г老驅Ψ奖硎緵]錢，勒索者則直接威脅“沒錢就去貸款”。

他最終沒有妥協，并在第一時間報了警。“我運氣比較好，對方可能看我沒有價值就不浪費時間了。”在被拒絕后，勒索者發來了一張短信圖片，顯示已經將合成的照片發送給了千岳的親友。但值得慶幸的是，并沒有人真正收到?！肮烙嬕彩呛铣傻模饕€是我運氣比較好，他們也是要KPI的，看我沒有同意就放棄了。”

千岳發布的帖子

但并不是每個人都有這么好的運氣，已經有許多人因為AI合成圖被勒索。

受到勒索的當天，千岳在社交平臺上發布帖子求助，帖子發布后，有四五個類似經歷的人向他咨詢，其中有一些已經選擇“破財免災”。“警察告訴我，這種情況下唯一的方法就是刪除拉黑不理睬。”千岳表示，敲詐者基本都在境外，很難追查成功。

這種敲詐方式類似于一度非常猖獗的“裸聊”，同樣是利用人的欲望，但AI的介入讓整個過程更加簡化了。只需要一個能夠入侵相冊和通訊錄的軟件，即使受害者不露臉，都會被合成色情圖片，而且這些圖片真假難辨。

不僅僅是沒有“管住欲望”的男性會中招，女性同樣容易受到類似的勒索。

開篇提到的博主，正是被人用自己發布在社交網絡上的照片進行了DeepFake。除了公開發布的照片外，一些AI圖生圖的小程序、來歷不明的二維碼等，都有可能成為信息竊取的渠道，通過把這些真實圖片信息“喂”給AI，從而生成逼真的色情圖片?！艾F在遭遇這種敲詐的人非常多?！鼻г栏嬖V刺猬公社。

除了通過照片勒索外，在AI合成聲音、實時換臉等技術日漸成熟的今天，相關領域的DeepFake詐騙也屢見不鮮。

“我接到的詐騙電話，聲音跟我朋友一模一樣，我沒有分辨出來?！备鶕﨧acfee2023年5月發布的AI語音詐騙相關報告，有77%的受害者因為AI合成語音詐騙付出經濟損失，超過三分之一的人損失超過1000美元，而這種騙局正在成為當下最主流的詐騙方式之一。

即使沒有主觀的勒索與詐騙行為，很多女性被惡意制作AI合成圖片、視頻后，也會遭受造謠、隱私泄露、網絡暴力等困擾。值得關注的是，很多AI色情圖片制作者，會從網絡公共社區提取圖片“喂”給AI，根據美媒404 Media的報道，CivitAI、Discord等AI生圖網站都存在著抓取網絡圖片的情況，Reddit、YouTube等擁有龐大用戶的網站都深受其害。

AI色情圖片創作者們在互聯網的各個角落里搜刮著照片、圖像信息，最終“喂養”出名為色情內容的“惡獸”。當他們流出到全網，普通人面臨的可能是敲詐勒索，名人明星面對的可能就是大規模的圖像視頻造謠。

現如今，很多明星、網紅都已經成為DeepFake的受害者，在AI技術的加持下，大量換臉視頻、合成圖片被制造出來，并造成了極其惡劣的影響。這是一場從上到下的危機，在AI時代，每個人都有可能被迫成為“商品”，“有圖有真相”不復存焉。

三、脫韁、失控、治理

除了色情內容、詐騙勒索等灰色產業外，AIGC背后的內容侵權問題也愈演愈烈。

AI繪圖所引發的大討論仍在眼前，反對者認為AI生圖是“尸塊拼接”“畸形產物”。在他們看來，AI生圖并不是一種創作，而是一種重組，被投喂了一個畫師的大量作品后，AI會不自覺的產生類似作品，這本身就是一種侵權。而當AI繪圖被廣泛應用于各大平臺后，這種“侵權”行為似乎越來越明顯，甚至出現了企業利用AI侵權的行為。

AI繪圖爭吵不斷，而在文本領域，新的“信任危機”也在蔓延。2023年9月，亞馬遜推出了新的政策，限制AI內容制作者每日出版作品的數量。原因就在于，AI生成的書籍，正在擾亂整個圖書市場。

跟AI生圖一樣，AI生成文本內容同樣基于對網絡文本的大量深度學習，而當生成某一種類型的書籍時，不可避免地會參考某些作家的文本，于是侵權問題再度出現。6月，就有一批作家與用戶向亞馬遜抗議，原因是青少年言情小說榜上AI生成的“書”明顯帶有一些作家的風格色彩。

當一位作家在網絡上大量發布文本內容后，其創作的文本很有可能被AI書籍創作者作為訓練數據投喂給AI，最終養成一個跟作家本身風格類似的AI創作者，搶占作家自身應有的讀者和收益。

另一方面，AI創作的高效率、低成本也致使AI書籍過分泛濫，內容卻難以保證質量，整個市場被AI作品充斥，擾亂用戶的消費過程。

從AI圖片到AI書籍，侵權、泛濫現象層出不窮，歸根結底上是AI創作低門檻、弱監管所導致的創作脫韁，是“人”所導致的。但在AI產品大量出現的今天，AI自身的失控也值得關注。

當產品的運維過程出現失誤，AI自身很有可能出現失控現象，前面提到的Replika智能體騷擾事件就是一個例證。

大廠也難以避免類似問題，2023年10月，Meta推出了AI生成聊天貼紙功能“Emu”，用戶可以通過prompt在幾秒鐘內創建獨屬于自己的高質量貼紙。但貼紙本身的內容卻令人大跌眼鏡，由于缺乏過濾系統，當用戶對有爭議的提示詞進行組合輸入后，AI會產出各種奇形怪狀的貼紙，比如帶有女性特征的馬斯克、手持武器的孩子等。

目前已經有數十億張貼紙被創作出來，但是其中大部分都是用戶參透系統bug后的“整活”，各種邪典獵奇的形象被創作出來，其中很多都是違反社區規則的。當系統本身出現問題，AI的失控就難以避免，畢竟用戶是難以規范的。

關于AI技術的脫韁與失控問題是必須解決的，但對于技術開發者、企業、監管部門等產業上下游的所有參與者來說，這個問題都很具有挑戰性。

難點首先在于AI技術的開源性質，在所有人都可以參與情況下，技術如何被應用是很難規范的；而在內容保護、版權維護等角度，需要對所有內容社區進行規范，實施難度極大；在最關鍵的“人”這一環，灰色地帶會產生相當大的商業轉化空間，當利益成為唯一的驅動力，一切治理的推動都會難上加難。

國內的治理正在路上。

2023年10月12日，中國網絡空間安全協會人工智能安全治理專業委員會正式成立，該協會由國家互聯網應急中心、阿里云、華為、金山等單位企業共同發起。該協會將會在國內AI安全領域發起努力，其中內容安全、隱私保護、知識產權保護等方面更是重中之重。

從目前的現實來看，行業上游的治理仍需要時間，法規制定、監管必然會成為當下的治理重點。

一個無可辯駁的事實是，AI正在成為解放生產力的工具，并且正在改變這個世界。但在推動技術發展的同時，我們需要保有一份警惕。

畢竟技術背后的，是需要約束的人性。

（文中姓名皆為化名）

參考資料：

[1]Macfee.Beware the Artificial Impostor

[2]智能融點.Meta 的人工智能失控，這已經不是第一次了

[3]硅基元.在人工智能色情市場里，一切甚至每個人都可以出售