9.9元AI寫真“敲醒”了三群人,一次公眾隱私意識的覺醒
最近,不少網友都上手測試了“妙鴨相機”這款AI寫真應用,而就在這款應用刷屏社交平臺的時候,與應用相關的隱私安全保護也被擺到了臺面上,行業人士則討論起了AIGC應用的商業化可能。具體這款“妙鴨相機”引發了哪些維度的討論,一起來看看吧。
已經很久沒見到朋友圈刷屏相似風格的照片,證件照、古風照、港風照……成片效果甚是精美逼真,還以為是海馬體、天真藍出寫真拍攝優惠套餐了,沒想到是9.9元就能擁有的AI寫真,出自一款叫“妙鴨相機”的小程序之手。
其實,這是一款用AI生成風格化照片的應用,上傳20張正臉高清照片,支付9.9元,AI就能幫你生成數字分身,然后挑選不同風格,一鍵生成寫真風的照片,如果需要下載原圖或生成高清版照片需要耗費2鉆石,1鉆石折合0.1元,鉆石6元起充。
“妙鴨相機”小程序在7月17日上線,微信指數顯示,從7月18日開始,“妙鴨相機”這一關鍵詞的搜索指數便直線上升,7月24日指數為688萬,日環比247.15%。
可能連它自己都沒預料到,以致于算力準備不充分,高峰期排隊制作時間長達十幾小時,四五千人排隊,這幾日排隊時長已縮短到幾小時。
“妙鴨相機”的刷屏,“敲醒”的第一群人是海馬體、天真藍等連鎖寫真攝影機構。
不需要花一兩小時化妝換裝,不需要等幾天的修片時間,最重要的是,不用支付100至500元的昂貴費用,用戶可以收獲同樣精致的寫真照,而且離逼真已不遠。這些攝影機構雖然已經開始采用AI修圖工具,但它們沒有預料到,AI寫真這一“價格屠夫”來得如此快。
如出一轍的證件照生意搶定了,流水線生產的寫真照搶定了,也許結婚照、婚紗照的生意也快被搶。生成不同風格的模板并不難,稍有難度的是雙人、多人頭像的處理。
其實,最有危機感的是第二群人——數字人圈、元宇宙圈,甚至AIGC(生成式人工智能)圈。
圈內人表面平靜,私底下已吵翻天,沒想到打開C端市場的AIGC應用是一個如此簡單的應用。也許,簡單、剛需、門檻低就是現象級產品的王道。
讓數字人圈甚至元宇宙圈忌憚的是,阿里大文娛的野心。沒錯,“妙鴨相機”主體是未序網絡科技(上海)有限公司,也是土豆網的主體公司,而優酷土豆早就被阿里大文娛收購。
細讀“妙鴨相機”的用戶服務協議,可以讀出不少門道,首先,阿里大文娛的野心很大,準備把數字分身搬到元宇宙,這就涉及到2D照片轉換成3D形象,從技術上來說,還需一段時間的沉淀,但讓用戶用起來是最重要的,阿里大文娛至少邁出了第一步。
當年,微信革了中國移動“飛信”的命只是開端,固定電話、移動電話等社交方式都發生了巨大的變革;外賣革了方便面的命只是開端,到店就餐等生活方式也發生了巨大變革。
“妙鴨相機”革了海馬體等連鎖攝影機構的命只是一個開端,創意圖庫、視頻制作等行業都將很快被“革命”,速度取決于AIGC圈的合規工作,C端產品將更快點燃市場。一個重要的節點是,8月15日起,《生成式人工智能服務管理暫行辦法》將正式施行,一場AIGC改變社交、生活方式的變革正在醞釀。
比起優酷土豆抓住了生成式AI的財富密碼,更令人欣喜的是,這是一次公眾隱私保護的覺醒。
在“妙鴨相機”走紅后,其過度索取隱私數據的“霸王條款”便引發爭議。最初的用戶協議顯示,用戶需授權“妙鴨相機”在全世界(包括元宇宙等虛擬空間)范圍內享有永久的、不可撤銷的、可轉讓的、可授權的、免費的和非獨家的許可,使得“妙鴨相機”可以任何形式、任何媒體或技術(無論現在已知或以后開發)使用用戶的內容?!懊铠喯鄼C”系為了能夠提供、確保和改進本服務(包括但不限于使用AI生成內容作為再訓練數據等)。
初版用戶協議
最終,用戶的質疑促使“妙鴨相機”修改了用戶協議和隱私條款并發布聲明,表明用戶上傳照片只用于數字分身制作,不會提取也不會用于識別和其他用途,且分身制作完后自動刪除。
用修改后的協議來看,“妙鴨相機”確實刪除了不可撤銷的授權許可,以及過度索取授權等問題。
修改后協議
曾記得,在用戶換臉 “出演”電影經典片段刷屏時,只有媒體或安全圈人士在呼吁用戶注意個人隱私保護,絕大多數用戶并沒有意識到隱私泄露的嚴重性。這幾年,《個人信息保護法》、《數據安全法》等法案的出臺,也漸漸喚醒了用戶、相關公司的隱私保護意識。
多位從事安全工作的“白帽子”對記者說,還是不敢輕易嘗試這類制作數字分身的工具,“20張高清正臉照片,可以做很多事了?!薄?0%以上的信息泄露都是監守自盜,而不是黑客攻擊,公司可能沒有主觀惡意,但對員工沒有很好的約束力?!币豢吹揭蟼鞲咔逭樥掌?,他們的腦海里就會閃過深度偽造技術和無數的案例。
前不久,10分鐘被騙430萬元、9秒鐘被騙245萬元等巨額詐騙,都是受害者在微信視頻通話后,才將錢轉給了所謂的“好友”,詐騙分子極有可能利用了AI換臉、AI換聲等技術。一位大學教授最近也跟記者說起,自己經歷了類似的AI換臉騙局,詐騙分子盜用的是一位地方領導的微信,所幸這位教授識破了騙局。
在此之前,詐騙分子甚至用假人臉騙過了安全防范等級極高的銀行App。國內安全團隊瑞萊智慧RealAI就曾通過對抗樣本攻擊,破解19款安卓手機的人臉識別解鎖系統。即便是搭載了交互式活體檢測功能的十余款金融和政務服務類App,也都被輕易破解。
連安全專家也沒有很好的技術手段來規避這類騙局,但都提醒道,普通人盡量不要在社交媒體上大量曬個人及家人的照片、視頻等,因為深度偽造視頻的原材料就是這些,數據越多,訓練出來的視頻越逼真。
待到C端用戶的AIGC應用百花齊放時,隱私安全、版權保護等問題必將涌現。微信、抖音包圍人生的時代,即將發生變化,AIGC會創造一個新時代,顛覆總發生在意想不到的邊緣,誰會是下一個微信、抖音?
作者:孫妍;編輯:孫妍
來源公眾號:IT時報(ID:vittimes),做報紙,也懂互聯網。
本文由人人都是產品經理合作媒體 @IT時報 授權發布,未經許可,禁止轉載。
題圖來自Unsplash,基于 CC0 協議
該文觀點僅代表作者本人,人人都是產品經理平臺僅提供信息存儲空間服務。
- 目前還沒評論,等你發揮!