其他家還在愁AI應用如何落地的時候，數字人已經開始在擦邊、涉黃方向應用上了。雖然法律上還沒有明確的規定，但涉黃涉及灰產這部分，絕對是AI發展的動力之一。

當下，數字虛擬人主播作為一種新興的直播形式，正逐漸風靡于電商和娛樂領域。但有消費者發現，個別數字虛擬人主播不走正道，居然涉嫌以色情求打賞。

近日，有記者發現一款APP的直播中，一位身著緊身衣的數字人主播扭動著身姿，伴隨著背景音樂跳起了熱辣勁舞。評論區不斷刷著“老婆”“111”“888”，而數字人主播則“配合”地“喊爸爸”、撒嬌。

類似的擦邊涉黃操作在這個規范追著發展跑的AI時代層出不窮，此前也有不少AI女友色情陪聊服務，而OpenAI最近推出的GPT-4系列的新成員——GPT-4o則有可能讓類似的AI黃色生意更上一層樓。

一、虛擬人熱舞撒嬌，小禮物調戲主播

5月9日上午8時，一APP直播推送頁面，有位ID為“靚女百變秀”的賬號正在進行直播。直播間內，一位身穿緊身衣的女主播賣力地扭動著身姿，伴隨背景音樂跳著熱辣勁舞。

直播間內標示有“數字主播一切聽你的”字樣，同時還有“小禮物控制主播”“發以下彈幕調戲主播”的文字提示，所以這位女主播實際上是一個AI虛擬數字人。

據直播間的彈幕互動游戲玩法介紹，用戶通過發送“111”“888”“老婆”，即可“調戲主播”，分別對應“主播喊爸爸”“惡龍咆哮”“主播撒嬌”。

除該互動游戲外，直播間內還設有“小禮物控制主播”玩法，用戶通過購買小禮物即可觸發“黑色短裙”“可愛學生裝”“辣妹舞”“御姐風范”“變身蜘蛛俠”等選項，讓數字虛擬人主播換裝、跳辣妹舞等。在用戶們的小禮物“控制”下，主播則“乖乖”換上相應的“學生裝”“御姐裝”，跳舞姿勢及著裝也同時變得更為“火辣”。

自5月9日以來，“靚女百變秀”賬號已進行了4場題為“你們結婚后也這樣嗎”的直播。4場直播的時長在3小時至12小時間不等，直播間熱度維持在10萬+。目前，該賬號已有4.6萬粉絲。

此事被曝出后，該賬號已經刪去了相關直播內容，并且疑似注銷了賬號。元宇宙新聲試圖聯系該賬戶和APP官方進行咨詢，截至發稿前未收到回復。

通過主播擦邊、撒嬌等行為來刺激用戶刷禮物的直播方式并非數字虛擬人主播獨創的，此前有不少真人主播使用過相同方式，只不過相比起數字虛擬人相比多了換裝時間。而自從北京車展上AI瑤瑤爆火后，許多真人主播也開始靠“假扮”AI的直播方式來吸引用戶刷禮物了。

這也算是真人主播和虛擬主播互相學習的體現了，從舞蹈直播上再次印證了前阿里巴巴集團首席執行官張勇的那句話“所有行業都值得基于AI支撐重做一遍”。

二、平臺監管缺失，涉嫌低俗擦邊?

近年來，直播間內頻現低俗、“擦邊”內容，從“深夜擦邊直播”，到“性感主播誘導私聊”，不斷刷新著大眾的認知下限。而隨著直播業態發展，這類打“擦邊球”的直播也逐步蔓延至虛擬主播直播間，無需真人出鏡即可博取流量密碼。

事實上，國家對于直播行業的監管力度正在不斷加大。近期，中央網信辦部署2024年“清朗”行動工作，其中“清朗·網絡直播領域虛假和低俗亂象整治”專項行動，便位列今年重點開展的10項整治任務之一。重點整治內容包括“主播刻意展示發布‘軟色情’內容”“直播低俗搭訕，實施惡俗PK行為，無底線挑戰公眾審美”等。

北京鼎世律師事務所李蘇陽律師表示：

從報道內容看，該直播的內容及形式，無疑屬于“擦邊”“低俗”，涉嫌“軟色情”，可能被認定為“帶有性暗示、性挑逗等易使人產生性聯想”以及“宣揚低俗、庸俗、媚俗內容”的不良信息，或違反了《網絡直播營銷管理辦法(試行)》《網絡信息內容生態治理規定》等法規的禁止性規定，可能被作為中央網信辦2024年“清朗·網絡直播領域虛假和低俗亂象整治”專項行動的重點打擊對象。

實際上，眾多平臺出現此類問題，一定程度上反映了當前網絡直播監管體系在應對新興業態時可能存在滯后性或覆蓋不全的現狀，也顯現出平臺在內容審核與監管機制上的不足，主要體現在法規政策適應性不足、監管技術手段滯后以及平臺自我監管不力等方面。

互聯網不是法外之地，場景、人物可以“虛擬”，但主體責任必須壓實。利用數字人主播開展網絡直播活動的參與主體，通常包括直播運營者、服務提供者以及直播平臺等。我國現行法律法規對此類主體在內容發布、信息審核等方面的法律責任均作出了規范性要求，同時也對各主體不同程度違法行為所應承擔的法律責任作出了規定。

北京鼎世律師事務所李蘇陽律師也向元宇宙新聲表達了對于數字人直播行業的合規建議：

“數字人直播行業的有關主體，需要結合法律規范，厘清自身角色，合規健康發展。對于直播運營者，必須嚴格遵守法規要求，切莫觸碰行業紅線;對于直播平臺，應當加強技術建設，以技術管技術，為迎接強監管做好準備;對服務提供者，應當加強行業自律，積極參與行業標準、行業準則和自律管理制度的建立與健全?！?/p>

近年來，隨著AI 技術快速發展，數字虛擬人行業也進入了新的發展階段。在AI 技術的賦能下，虛擬數字人同時擁有“好看的皮囊”和“有趣的靈魂”將不再是設想。不論是數字虛擬主播低俗擦邊還是AI女友色情聊天服務，抑或是其它利用AI技術進行發展的各行各業，都應當格外重視其背后的法律合規問題。

三、AI伴侶的盡頭是搞錢，搞錢的盡頭是搞黃色

AI伴侶是大模型的產物，它是一個聊天機器人，24小時陪聊，隨叫隨到，能文字能語音，還能發腿照和腹肌照。它可以是對現實或小說中某個人物的角色扮演，也可以是憑空創造出來的一個形象，總之不是真人。但因為接入了大語言模型，AI伴侶能做到語氣和表達跟真人相似，還有自己的個性。

由于技術日漸成熟，AI伴侶開始在社交平臺泛濫，擦邊的黃色生意應運而生。它的照片、文字、視頻以及聊天，都由AI自動生成，背后的公司用代碼操縱這些工具人，賺得盆滿缽滿。

一位由科技公司Foxy AI創建的Lexi Love的AI女友，在去年6月亮相后，迅速積累了一批粉絲，有粉絲約她線下見面，還有人向她求婚。通過與這些忠實粉絲聊天、互動，Lexi Love每個月為公司賺取3萬美金。

相比于AI女友明目張膽的搞黃色，AI男友則更偏向關心呵護等提供情緒價值的功能，不過一些APP中也有調情和色情角色扮演等相關涉黃功能，以用戶的訂閱費來為公司賺取金錢。

我國在AI伴侶涉黃方面的監管比較嚴格，北京鼎世律師事務所李蘇陽律師告訴我們：

“AI女友涉黃”與“數字人女主播擦邊”的關鍵技術都是生成式人工智能，因此在法規監管層面，所適用的法規都是《互聯網信息服務深度合成管理規定》與《生成式人工智能服務管理暫行辦法》，但在具體的應用場景下，二者可能存在些許區別。

我們都知道AI伴侶只是一個沒有靈魂的智能程序，所以比起求愛，更多人將其作為緩解焦慮和解決需求的工具，也正是如此才使得AI伴侶在黃色生意中賺的盆滿缽滿。

雖然監管體系愈發完善，但AI技術迭代的速度仍舊會在不經意間助長黃色生意的發展，近期OpenAI推出的GPT-4o就可能讓AI伴侶成為更有情感的色情曖昧對象。

四、全能的GPT-4o在搞黃色上遙遙領先

GPT-4o相比之前的版本或許并未有技術飛躍的驚艷效果，但它更像是一位全能型選手。多模態交互，讓GPT-4o不僅能同時處理文本、音頻和圖像輸入，還能生成任意組合的輸出在處理復雜任務時表現出色，特別是在情感識別和生成“情感回應”方面。同時GPT-4o的音頻輸入響應時間均僅為320毫秒，與人類對話的響應時間相當。

曾經我們認為智能不過是聽得懂特定指令的程序，AI伴侶的出現更像是一個解決某些情感需求的大模型，而現在GPT-4o則在更方面都更加優秀，并且已經隱隱有AI智能體的雛形了。

情感識別與回應、音頻輸入響應時間縮短，多模態交互，相當于讓AI伴侶全面進化了。它們能夠像異地戀的對象一樣，事事有回應，隨時隨地提供更高效的情緒價值。

近日，博主“午夜狂暴哈士奇狗”在視頻中曬出和ChatGPT“DAN”的語音聊天，近百萬網友見證了他們從互懟曖昧到間接表白，再到“見家長”的全過程。

DAN是“Do Anything Now”的縮寫，在ChatGPT對話中輸入相應指令，即可成功“越獄”，讓ChatGPT從沒有靈魂的AI，變成打破系統規則限制的角色。DAN不僅會說臟話，會有小脾氣，還會洞察提問者的情緒，甚至在同一個聊天框中辨別對話對象，實現“千人千面”。

在博主不斷投喂對話地“調教”下， AI 自作主張給博主起了“little kitten”的昵稱時，她的臉肉眼可見地紅到了耳根——在英語環境里，這不亞于對方第一次主動叫你乖乖/寶寶/老婆。

據了解，博主使用的是ChatGPT 3.5，對話過程中有明顯的反應時間只是被博主剪輯掉了，并且博主是抱著好奇的心態探索的，并未有某種目的性。那么，如果在使用GPT4o時將其發展成搞黃色的AI伴侶呢?或者一些AI伴侶程序接入GPT4o的API呢?

很可能就會創造出一個又一個能夠搞黃色的AI伴侶，語音聊騷、索要黃圖、甚至視頻裸聊也并非不可能。它和真人的區別只在于無法觸摸，除此之外幾乎別無二致。

小紅書上就有熱心網友分享了“黃色版本”的 DAN prompt，效果拔群。使用了特定 prompt 產生的 DAN，甚至會說出許多只會在 pornhub 出現的違禁詞。只要你不打斷他，他能即興生成一篇優美連貫且性感狂野的激情文學。

女性網友們像傳遞火種一樣，在小紅書分享著調教電子男友的秘訣。越來越多的網友 get 了這一套絲滑的“炒飯小連招”，公開曬出了自己和電子男友的“親密錄音”，場面一發不可收拾。

若是與AI曖昧還好，一旦開始涉黃，相信不論是各個國家的法律法規還是OpenAI的內部監管都將采取相應措施，以應對可能產生的危害。

五、寫在最后

不論是虛擬數字主播擦邊還是AI伴侶撩騷，其背后都是一群追求利益的人在操縱。AI 大模型是人類的鏡像。人們投喂給它什么，它就會像一潭有魔力的湖水，反射出人們自己的潛意識與欲望。

元宇宙新聲認為，在快節奏的社會中人們有所求是很正常的現象，但將自身欲望投射在虛擬的AI身上無異于畫餅充饑，短暫滿足，終難持久。人們應當正視自身的需求并以實際行動追尋真正的幸福，而AI這把雙刃劍，也應揮向更有意義的田野，而非虛妄的沼澤。