中文字幕无码av不卡一区,亚洲综合AV永久无码精品一区二区,黑人巨大白妞出浆,黄色高清无码免费看,久久久久免费精品国产,久久无码人妻丰满熟妇区毛片,欧美日韩国产综合草草,久久福利网站,亚洲一区二区三区中文字幕在线,av国内精品久久久久影院

AI技術(shù)的成熟不僅帶來了降本提效，也帶來了一些潛在的風(fēng)險(xiǎn)，因?yàn)橛行┤丝赡軙?huì)借用AI技術(shù)來行不法之事，比如這篇文章所提到的AI換臉詐騙。

日前，有外媒報(bào)道，韓國(guó)一女子被冒充埃隆·馬斯克的社交媒體賬號(hào)詐騙7000萬韓元（約合36萬元人民幣）。

進(jìn)入到2024年，AI技術(shù)越來越成熟，也在更多行業(yè)中助力人們降本增效。但隨著生成式AI技術(shù)的快速發(fā)展，也讓人們眼見也未必為實(shí)。不法分子借助智能AI換臉和擬聲技術(shù)，融合他人面孔和聲音、制造虛假圖像和音視頻，就可仿冒他人身份，輕松實(shí)現(xiàn)遠(yuǎn)程視頻詐騙，給不少人造成很大的經(jīng)濟(jì)損失。

AI技術(shù)的迅猛發(fā)展，其潛在危害也逐漸顯現(xiàn)，給人類社會(huì)帶來了前所未有的挑戰(zhàn)。那我們應(yīng)該怎樣應(yīng)對(duì)呢？

一、冒充馬斯克，詐騙7000萬韓元

在去年7月17日，受害女子A某在社交軟件上被一個(gè)自稱是埃隆·馬斯克的賬號(hào)添加為好友。為了證明其身份，該賬號(hào)向A某發(fā)送工作照片和身份證件的照片，并詳細(xì)描述了一系列私人活動(dòng)，例如“孩子們每周末都會(huì)去SpaceX玩”和“乘坐私人直升機(jī)前往特斯拉工廠所在的得克薩斯州”等。

而且，該賬號(hào)還通過視頻通話進(jìn)一步誘導(dǎo)信任。據(jù)A某透露，視頻中“和馬斯克長(zhǎng)相非常相像的男性”向她表達(dá)愛意，說道：“你好！我愛你，你知道嗎？”

據(jù)報(bào)道，沒過多久，該賬號(hào)就開始對(duì)A某說：“我很高興我的粉絲能通過我成為富翁”，暗示投資能帶來財(cái)富，并提供了一個(gè)銀行的賬號(hào)信息?；谶@些信息，去年8月，A某多次向指定賬號(hào)匯款，累計(jì)達(dá)到7000萬韓元（約合人民幣36萬）。

在韓國(guó)媒體與這個(gè)冒充馬斯克的賬號(hào)進(jìn)行電話溝通，不過對(duì)方以“美國(guó)現(xiàn)在是清晨，太早了”為理由，提議改用短信方式交流。

最后，為安撫受害者，該賬號(hào)還發(fā)送了一段錄音，聲稱“我是埃隆·馬斯克，希望聽到這個(gè)錄音文件后能放心”，但專業(yè)人士分析這段錄音后確認(rèn)其由AI合成。

其實(shí)不僅在韓國(guó)，在我國(guó)也出現(xiàn)了不少AI詐騙的現(xiàn)象。近期，香港警方披露了一起震驚全球的“AI換臉”詐騙案，涉案金額高達(dá)2億港元。案件中，受害者參加了一個(gè)所謂的“多人視頻會(huì)議”，但他卻未曾料到，除了自己之外，其他所有參會(huì)人員都是由AI技術(shù)生成的虛假形象。

元宇宙新聲認(rèn)為，AI技術(shù)的發(fā)展雖然帶來了許多便利和福祉，但其潛在危害也不容忽視。我們需要在享受科技帶來的好處的同時(shí)，保持警惕和理性思考，加強(qiáng)對(duì)AI技術(shù)的監(jiān)管和管理，在確保其不會(huì)對(duì)人類安全造成威脅的前提下進(jìn)行發(fā)展。

二、AI換臉案件逐漸提升，AI合成語音更難辨別

新近的案例中，我們發(fā)現(xiàn)在視頻通話中利用AI換臉的案件數(shù)量逐漸變多。AI實(shí)時(shí)換臉的方式是利用人臉識(shí)別模型和攝像頭來獲取人臉的關(guān)鍵特征點(diǎn)。這些特征點(diǎn)被用來在視頻中跟蹤人臉輪廓、眼睛、眉毛等區(qū)域的位置。

理論上，面部特征點(diǎn)越多，AI換臉的效果越好。因而，為了打造一個(gè)逼真的AI換臉騙局，犯罪分子通常會(huì)廣泛搜集與被害人有關(guān)親友的視頻、照片等作為換臉?biāo)夭摹?/p>

在論文Joint Multi-view Face Alignment in the Wild展現(xiàn)了人臉識(shí)別模型在不同人臉截面的特征點(diǎn)識(shí)別效果。從圖中可以看到，正臉特征點(diǎn)的識(shí)別效果遠(yuǎn)比側(cè)臉要好。

這可以成為我們破解AI換臉的辦法之一。metaphysic.ai的一項(xiàng)研究指出，在視頻通話等實(shí)時(shí)視頻場(chǎng)景中，AI換臉效果會(huì)因?yàn)槊娌空趽趸騻?cè)臉轉(zhuǎn)向而大打折扣。

與AI換臉視頻相比，AI合成語音在詐騙中其實(shí)更難辨別。

全球安全技術(shù)公司邁克菲（McAfee）在2023年發(fā)布的調(diào)查報(bào)告中指出，只需提供3—4秒的錄音，網(wǎng)絡(luò)上的免費(fèi)AI工具就能生成相似度達(dá)到85%的克隆人聲。在參與調(diào)查的七千多位全球受訪者中，有70%的人不確定是否能分辨AI合成語音，而大約有10%的人遭遇過AI語音詐騙。

在社交媒體上，許多留學(xué)生發(fā)帖表示曾遇到利用AI合成本人語音，對(duì)在國(guó)內(nèi)的父母進(jìn)行的詐騙。這些詐騙以綁架為名，放出AI合成的求救語音，同時(shí)利用時(shí)空差，在造成恐慌的心理下騙取大量金額。

那么，面對(duì)技術(shù)的升級(jí)，AI詐騙的案例逐漸增多，我們面對(duì)這種新型詐騙就沒有更好的辦法了嗎？

三、AI時(shí)代，避免詐騙我們需要做什么

詐騙分子往往換臉偽裝成親人、朋友、同事、領(lǐng)導(dǎo)等，虛構(gòu)一個(gè)緊急事由后，利用被騙目標(biāo)的急迫心理實(shí)施詐騙行為，在情急之下，受害人往往容易放松警惕。

騙子會(huì)通過多種渠道收集被騙目標(biāo)的親友照片、視頻、聲音等生物信息以及姓名、電話、社交賬號(hào)等個(gè)人信息，通過AI換臉偽裝成目標(biāo)對(duì)象的親友。

因此，要加強(qiáng)個(gè)人信息保護(hù)，盡量避免個(gè)人信息過多暴露，大家在社交媒體分享含有清晰人臉的照片和視頻時(shí)，一定要謹(jǐn)慎，因?yàn)檫@些照片可能會(huì)被生成之后用于人臉識(shí)別驗(yàn)證，或者其他一些非法目的。此外，一定要保護(hù)好兩類敏感信息：一類是我們的人臉、虹膜、聲紋、指紋等生物特征信息，還有一類是身份證號(hào)、銀行卡號(hào)、體檢報(bào)告等重要個(gè)人信息。

AI詐騙分子十分注重“效率”，因?yàn)橐坏r(shí)間過長(zhǎng)將露出破綻。在涉及對(duì)方要求轉(zhuǎn)賬匯款交易時(shí)，要再次通過電話等形式詢問具體信息，多重驗(yàn)證對(duì)方是否為本人，最好向?qū)Ψ姐y行賬戶轉(zhuǎn)賬，避免通過微信等社交軟件轉(zhuǎn)賬，并將轉(zhuǎn)賬時(shí)間設(shè)定為“24小時(shí)到賬”，以預(yù)留處理時(shí)間。

那么，能否應(yīng)用AI技術(shù)來反“AI人臉”詐騙呢？

近年來，確實(shí)有很多技術(shù)企業(yè)已經(jīng)開始嘗試不斷優(yōu)化檢測(cè)模型，探索將反欺詐模型部署在手機(jī)、電腦或社交、會(huì)議軟件中，但網(wǎng)絡(luò)信號(hào)與算力仍是待解決的難題。我們看到，防范“AI換臉詐騙”的規(guī)則和技術(shù)現(xiàn)在還不是特別成熟，目前呼吁民眾要增強(qiáng)防范意識(shí)，呼吁出現(xiàn)更好的反欺詐技術(shù)，呼吁政府層面從企業(yè)監(jiān)管、法律等層面制定更細(xì)致的條例來預(yù)防。

元宇宙新聲認(rèn)為，技術(shù)發(fā)展帶來的問題，還要靠發(fā)展技術(shù)來解決。AI偽造后的通話和視頻雖然能夠逼真地模仿人物的語言和行為，但仍存在破綻。例如眨眼頻率過低、面部表情較為單一、唇形不匹配、手部動(dòng)作僵硬等。要加快相關(guān)技術(shù)研發(fā)，開發(fā)更為先進(jìn)的反欺詐系統(tǒng)，利用大數(shù)據(jù)與機(jī)器學(xué)習(xí)算法來識(shí)別和攔截詐騙信息，以眼還眼，以AI反制AI。

寫在最后

隨著AI技術(shù)的發(fā)展，其雙面性就凸顯出來，AI詐騙作為新型的網(wǎng)絡(luò)犯罪威脅，我們每個(gè)人都應(yīng)該增強(qiáng)安全意識(shí)，學(xué)會(huì)識(shí)別和防范此類詐騙行為，共同營(yíng)造一個(gè)更加安全的網(wǎng)絡(luò)環(huán)境。在期待廠商們推出更多安全應(yīng)用的同時(shí)，我們也希望通過科普知識(shí)的分享，讓更多人了解AI詐騙的危害，增強(qiáng)網(wǎng)絡(luò)安全意識(shí)，保護(hù)自己免受網(wǎng)絡(luò)犯罪的侵害。