AI換臉詐騙,戳中了人臉識別企業的哪些軟肋?
AI換臉技術的造假成本相對較低,且難以辨別。然而,人工智能鑒偽技術的發展是否能成為應對之策?目前,AI鑒偽技術仍在發展中,但愿未來,這場“貓鼠游戲”會越來越公正。
在這場造假與鑒偽的“貓鼠游戲”中,AI換臉這類造假技術的成本,相比AI鑒偽技術的研發成本要低得多。
最近,關于AI換臉詐騙的新聞火了。4月20日,福州市某科技公司法人代表郭先生,突然接到好友的微信視頻,好友告訴郭先生,自己的朋友在外地投標,需要430萬元保證金。
由于在視頻中看到了好友的樣貌,聽到了聲音,于是郭先生就放心地將錢轉了過去。
可后來他卻發現,自己竟然遇上了“高端”騙局,對方通過智能AI換臉技術,佯裝成好友對他實施了詐騙……
這類消息,著實引起人們心中一陣恐慌。
因為身為凡胎肉體的你我,僅憑肉眼是很難看出這些偽造視頻的破綻的。
那豈不是意味著,遇到這樣的“AI騙術”,普通人受騙的幾率近乎100%了?
且慢,話說魔高一尺,道高一丈,既然AI換臉都發展到這地步了,那與之針鋒相對的“AI鑒偽”技術,又發展得怎樣了?
一、造假VS鑒偽
談到這個問題,身為“防守方”的AI鑒偽技術團隊,似乎有一種難以言說的艱辛。因為在這場造假與鑒偽的“貓鼠游戲”中,AI換臉這類造假技術的成本,相比AI鑒偽技術的研發成本要低得多。
這就導致了許多研發AI鑒偽技術的企業、機構,從決定和造假者們死磕的那天起,就注定了要打一場十分艱難的戰爭。
1. 換臉技術成本
就目前來看,AI換臉技術的成本主要包括以下幾個方面:
1)數據采集和處理的成本
AI換臉技術需要大量的人臉圖像或視頻作為訓練數據,但這些數據大部分都可以從互聯網上免費獲取,也可以通過付費購買或定制。
甚至有時候,定制一個AI換臉視頻幾乎是“九塊九包郵”。
2)算法開發和優化的成本
AI換臉技術主要基于深度學習和計算機視覺的算法,雖然這個過程需要一定的專業知識和技能,但是并不是特別高。
- 一方面,有很多開源平臺,如Faceswap、DeepFaceLab等,本身就提供了現成的算法代碼,用戶只需要下載使用即可,無需自行開發或改進。
- 另一方面,即使用戶需要自行開發或改進算法,也可以借鑒已有的算法框架和思路,無需從零開始。
3)硬件設備和運行環境的成本
一般來說,一臺配置稍好的個人電腦就可以滿足需求,不需要特別昂貴的專業設備。
舉例來說,一種比較流行的AI換臉軟件DeepFaceLab,僅需要一張NVIDIA RTX系列或GTX系列的獨立顯卡,且顯存為6GB就可運行。
這樣的一臺個人電腦,其成本大約在數千元左右。
與AI鑒偽技術所需的各種成本相比,這些偽造技術的成本簡直低得如同兒戲。
2. AI鑒偽成本
具體來說,AI鑒偽的成本大致包括了以下部分:
1)數據標注和篩選的成本
AI鑒偽技術需要大量的圖像或視頻作為訓練數據,這些數據需要經過人工標注和篩選。
然而,這一過程的難度可能超出了很多人的想象。
舉個例子,如果要對一小時的視頻進行人臉識別的標注,需要先將視頻分割成幀,然后對每一幀中的人臉進行定位、標識、分類等操作,還要考慮人臉的遮擋、模糊、光照等影響因素,以及人臉的姿態、表情、年齡等屬性信息。
這樣一來,一小時的視頻可能需要幾十個小時甚至幾百個小時才能完成標注。
其次,數據標注不僅僅是簡單地給圖像或視頻打上標簽,不同的任務和場景需要不同的標注規則和方法,標注人員需要掌握相關的領域知識和技術能力,才能保證數據的質量和有效性。
2)算法設計和測試的成本
AI鑒偽技術主要基于深度學習和計算機視覺的算法,這些算法需要根據不同類型和質量的偽造內容進行設計和測試,以提高檢測的覆蓋率和魯棒性。
算法設計和測試是一個復雜且持續更新的過程,需要專業的團隊和資源。算法設計和測試的成本取決于算法的復雜度、性能、效率等因素,但一般來說,每個算法項目的研發成本至少在幾十萬到幾百萬美元之間。
3)硬件設備和系統的成本
但凡了解過大模型訓練成本的朋友,都知道這一過程對硬件的高昂要求。即使今天的機器視覺技術經過了層層優化,但一個完整的機器視覺系統的價格至少在幾萬到十幾萬元之間,包括硬件成本、軟件成本、計算成本以及存儲成本。
綜上所述,由于AI造假技術天然所具備的成本優勢,使得目前這場造假VS鑒偽的戰爭,呈現出了一種“正規軍圍剿游擊隊”的態勢。
在這樣的較量中,受害最多的“災區”,往往是高成本AI鑒偽技術難以覆蓋的地方。
二、鑒偽技術的軟肋
回顧這些年見諸于各大媒體的AI詐騙事件,我們不難發現,這類事件中最常見的受害者,往往是作為個體的普通民眾,而非企業、政府或金融機構。
例如,5月22日,安徽安慶的何先生接到熟人視頻電話,讓他幫忙轉一筆賬?!耙驗榇蛄艘曨l電話,又是熟人,我就沒多想,就轉賬了”。事發時,何先生放松了警惕,向對方轉了245萬元。
同樣地,2023年3月,陜西的一名女子被騙子利用AI換臉技術冒充其女兒,通過視頻通話詐騙了不少錢。騙子先是通過微信添加了女子為好友,并自稱是其女兒的同學。
之后,騙子再通過AI換臉技術,將自己的面部替換成女子女兒的面部,并以女兒出車禍為由,又騙走了一筆錢。
其實,出現這類現象的原因不難理解,由于目前AI鑒偽技術的研發成本較為高昂,因此大部分擁有此類技術的公司,都只將這些技術向企業、政府或金融類客戶開放,而無法覆蓋到普通個人用戶。
以百度為例,雖然其在自身的AI開放平臺上,推出了人臉深度鑒偽接口,用于準確鑒別Al換臉技術生成的人臉圖像,但是這一接口卻存在著一定的使用門檻。
使用者需要在百度AI開放平臺注冊賬號,并申請使用該接口。其次,該接口是收費的,根據調用次數和服務質量的不同,有不同的收費標準。
而同樣地,百度旗下的產品度小滿,雖然也推出了自身的防深偽技術,但這一技術主要覆蓋的群體,是金融領域的客戶,其涉及的場景主要是借貸、投資、理財等業務。
雖然各大企業,基于微表情分析、圖卷積(GCN)技術以及基于重建的自監督預訓練方法,對目前的AI鑒偽技術進行了大幅升級。但在大模型愈發普及的當下,AI詐騙的技術,也開始呈現出一種更加低廉化、普遍化的趨勢。
除非這些嚴密而高效的鑒偽技術,能夠普及到每個個人用戶的微信上,并且調用起來跟小程序一樣毫無門檻和難度。否則,那類通過“微信好友”的方式進行詐騙的AI技術,就永遠有機可乘。
事情發展到這一步,AI技術與倫理、法律之間的糾葛,似乎到了某個比較關鍵的轉折點。
倘若這些低成本,針對個人的AI詐騙事件屢禁不止,甚至借著這波大模型的“東風”,進一步席卷全國。那么就會有更多不法分子肆無忌憚,如法炮制,進而引起民眾的進一步恐慌。
而在AI鑒偽技術得不到下沉的情況下,監管部門為了防范此類事件的頻發,只能進一步收緊對AI技術使用的審核機制,而嚴格的審核機制,則會間接降低AI生態的活躍度和市場的繁榮度。
很多原本能制造奇跡的創意或項目,也許還沒開始,就被卡死在了繁雜的審核階段。
但除了這類悲觀的前景外,現實還存在著另一種可能,那就是更多企業和機構,在這類AI詐騙的壓力下,開始尋求突破和創新,形成一種創新驅動的機制。
三、魔高一丈,道高一尺
盡管AI鑒偽技術,面臨著成本高企,難以下沉的局面,但破局之道其實并非不存在。因為一種技術的升級,所帶來的影響可能不是垂直和單一的,而往往有可能是多維和廣闊的。
例如:AI鑒偽所涉及的計算機視覺、圖像識別等底層技術,就有著十分廣闊的應用范圍,和巨大的發展空間。
例如:在智能駕駛方面,目前的計算機視覺、圖像識別等技術還不能完全替代人類的駕駛,還需要結合其他傳感器、雷達、地圖等信息,提高感知的準確性和魯棒性,同時還需要解決道路復雜多變的情況,提高決策的智能性和安全性。
在智慧農業領域,通過提高圖像識別的覆蓋率和及時性,可以實現對農作物、土壤、病蟲害等的更全面和更實時的監測和診斷,從而提高農業生產的質量和效率。
類似受益的領域,還有交通、醫療、文娛等等。
從更長遠的角度來看,這一下沉過程造成的技術外溢,將會使得更多的經濟主體能夠獲取和使用先進技術,從而促進創新活動的多元化和活躍化。
同時,技術門檻的降低,也必然會導致生產成本和價格的下降,使得企業能夠進一步擴大市場規模,促進了經濟增長。
從這樣的角度來看,目前的AI詐騙事件,只是大模型在走向下沉過程中,所必然要遭受的一種劫難或磨礪。唯有經過了這樣的考驗,AI所帶來的各種技術,才能真正地在法律、倫理上,被社會大眾廣泛地接納。
作者:舉大名耳
來源公眾號:AI新智能
本文由人人都是產品經理合作媒體 @AI新智能 授權發布,未經許可,禁止轉載。
題圖來自 Unsplash,基于 CC0 協議
該文觀點僅代表作者本人,人人都是產品經理平臺僅提供信息存儲空間服務。
- 目前還沒評論,等你發揮!