起點(diǎn)課堂會(huì)員權(quán)益
職業(yè)體系課特權(quán)
線下行業(yè)大會(huì)特權(quán)
個(gè)人IP打造特權(quán)
30+門(mén)專(zhuān)項(xiàng)技能課
1300+專(zhuān)題課程
12場(chǎng)職場(chǎng)軟技能直播
12場(chǎng)求職輔導(dǎo)直播
12場(chǎng)專(zhuān)業(yè)技能直播
會(huì)員專(zhuān)屬社群
榮耀標(biāo)識(shí)還在為人臉識(shí)別擔(dān)憂？是時(shí)候了解一下人臉偽造了
編輯導(dǎo)讀：AI面相識(shí)別、AI測(cè)膚、人臉識(shí)別解鎖，人臉識(shí)別運(yùn)用的范圍越來(lái)越廣泛，但這背后的“人臉信息安全”問(wèn)題也需要大家關(guān)注。本文對(duì)網(wǎng)絡(luò)上泛濫的“人臉偽造”現(xiàn)狀展開(kāi)了梳理盤(pán)點(diǎn)，對(duì)其存在的問(wèn)題進(jìn)行了討論，一起來(lái)看看~
全世界有76億人口，但是在“查無(wú)此人”的網(wǎng)站上，你能看到的人臉遠(yuǎn)不止這個(gè)數(shù)字。
網(wǎng)站全拼是ThisPersonDoesNotExist.com，網(wǎng)頁(yè)里并無(wú)其它信息，只有一張人臉——每刷新一次，就會(huì)有一張新的臉出現(xiàn)，發(fā)色發(fā)型、膚色臉型、瞳孔的顏色和皺紋全是新的，每一張照片似乎都暗示背后存在一個(gè)真人?？扇缇W(wǎng)址所言，“查無(wú)此人”。
網(wǎng)站是優(yōu)步的軟件工程師菲利普·王（Philip Wang）所搭建，背后是最近幾年炙手可熱的生成式對(duì)抗網(wǎng)絡(luò)（GANs）。
GANs的神奇之處，在于它同時(shí)擁有一對(duì)圖片偽造者和甄別者，一個(gè)負(fù)責(zé)生成盡可能逼真的圖像，另一個(gè)負(fù)責(zé)判別生成的圖片與原始真實(shí)圖像的區(qū)別，然后將結(jié)果反饋給圖片生成者。在二者的競(jìng)爭(zhēng)里，圖片不斷重新生成、判定、修改，直到真假難辨。
臉書(shū)的首席AI科學(xué)家嚴(yán)·勒存（Yann LeCun）稱(chēng)，GANs是過(guò)去20年里深度學(xué)習(xí)領(lǐng)域最酷的想法，而百度前首席科學(xué)家安德魯·吳（Andrew Ng）說(shuō)，這是“重大而根本性的進(jìn)步”。學(xué)者們說(shuō)，當(dāng)未來(lái)的技術(shù)歷史學(xué)家回首往事，可能會(huì)認(rèn)為GANs是通往類(lèi)人工智能之路上的重要一步。
在”查無(wú)此人“網(wǎng)站上，每刷新一次，就會(huì)有一張新的人臉生成。（圖源：網(wǎng)站截圖）
但在科技發(fā)展之前，這項(xiàng)技術(shù)已經(jīng)走向了另一個(gè)令人擔(dān)憂的方向。在過(guò)去的兩年間，不停有媒體曝出，這些圖片被附加一系列身份信息，偽裝成媒體或者社交平臺(tái)上的用戶(hù)，發(fā)布信息、影響輿論。
在臉書(shū)上搜索阿方索·馬西亞斯，能找到不少于500個(gè)搜索結(jié)果，這些同名的男性遍布西班牙、墨西哥、哥倫比亞、委內(nèi)瑞拉等西語(yǔ)國(guó)家。
搜索者或許無(wú)法注意到其中那個(gè)中年的阿方索，他的面容并不顯眼，嘴邊一圈胡子，頭頂是稀疏的黃褐色頭發(fā)，微笑著露出幾顆牙齒。他是親特朗普的媒體The BL（美麗人生）某個(gè)臉書(shū)興趣小組的管理員，有時(shí)會(huì)點(diǎn)擊鏈接，為網(wǎng)站帶來(lái)流量。
但如果仔細(xì)看他的頭像，專(zhuān)業(yè)人士會(huì)發(fā)現(xiàn)一些端倪——眼鏡框并不左右對(duì)稱(chēng)，而且在右耳邊有一處詭異的扭曲，而他背后的風(fēng)景則更加模糊，似乎是建筑，但顏色與線條都難以辨認(rèn)。社交媒體情報(bào)集團(tuán)Graphika和大西洋理事會(huì)數(shù)字取證研究實(shí)驗(yàn)室為這個(gè)用戶(hù)身份出具報(bào)告，他們認(rèn)為，這個(gè)人的圖像資料是偽造的。
而與阿方索并肩作戰(zhàn)的幾十個(gè)假賬戶(hù)被用來(lái)運(yùn)營(yíng)幾十個(gè)支持特朗普的臉書(shū)群組，名稱(chēng)包括“美國(guó)需要特朗普總統(tǒng)”和“我們與特朗普和彭斯站在一起”。
阿方索的照片里，眼鏡框與背景泄露了他的AI身份。（圖源：FT）
這個(gè)問(wèn)題從2018年6月開(kāi)始發(fā)酵，當(dāng)時(shí)美聯(lián)社在領(lǐng)英上發(fā)現(xiàn)了一個(gè)偽裝成智庫(kù)員工的賬戶(hù)。而2019年12月，Graphika和大西洋理事會(huì)的數(shù)字取證研究實(shí)驗(yàn)室發(fā)布了一份關(guān)于一個(gè)由900多個(gè)頁(yè)面、小組和賬戶(hù)組成的網(wǎng)絡(luò)的報(bào)告，這些頁(yè)面、組和賬戶(hù)與某右翼新聞機(jī)構(gòu)有關(guān)?！八麄兝眠@些假面孔來(lái)增強(qiáng)影響力，并向更多的受眾傳遞他們的信息，”實(shí)驗(yàn)室工作人員說(shuō)。
上述主頁(yè)被發(fā)現(xiàn)后，都被臉書(shū)封禁，但由假面孔生成的假新聞不會(huì)只出現(xiàn)在臉書(shū)平臺(tái)上。深度造假檢測(cè)平臺(tái)Sensity的首席執(zhí)行官喬治·帕特里尼（Giorgio Patrini）表示，GAN生成的面孔也出現(xiàn)在企業(yè)界，截至目前，他們發(fā)現(xiàn)了一家軟件公司使用假面孔假扮用戶(hù)推薦產(chǎn)品，一家營(yíng)銷(xiāo)公司使用該技術(shù)生成其“團(tuán)隊(duì)”的照片。
在今年7月，路透社報(bào)道了一位偽造得更為精致的AI記者。他叫奧利弗·泰勒（Oliver Taylor），稱(chēng)自己畢業(yè)于伯明翰大學(xué)，是個(gè)咖啡愛(ài)好者和政治迷，在一個(gè)傳統(tǒng)的猶太家庭長(zhǎng)大。他的六篇自由撰稿的社論和博客文章表明他對(duì)反猶太主義有著濃厚的興趣，在《耶路撒冷郵報(bào)》和《以色列時(shí)報(bào)》上都有署名。
但伯明翰大學(xué)并沒(méi)有他的學(xué)籍記錄，他只在問(wèn)答網(wǎng)站Quora上有一個(gè)賬戶(hù)，3月時(shí)活躍過(guò)2天，除此以外沒(méi)有任何網(wǎng)絡(luò)痕跡；他留給編輯的英國(guó)電話是假的，也從不回復(fù)核查者們發(fā)給他的郵件。至于他提供給報(bào)社的照片，牙齒上有明顯的重影，照片背景也有失真——這是多個(gè)圖像重合時(shí)留下的痕跡。
路透社無(wú)從得知這位假記者的真實(shí)身份，但假記者的言論卻在產(chǎn)生真實(shí)的影響——他稱(chēng)一位巴勒斯坦權(quán)利運(yùn)動(dòng)家“同情恐怖分子”，這個(gè)指控令后者感到十分不安，隨后他向兩家報(bào)紙?zhí)岢隹棺h，只有《以色列時(shí)報(bào)》刪除了文章。
而在得知這位作者的假身份時(shí)，《以色列時(shí)報(bào)》的編輯也對(duì)未來(lái)產(chǎn)生了擔(dān)憂，不只因?yàn)樗鼈兛赡軙?huì)扭曲公共話語(yǔ)，更是因?yàn)檫@可能會(huì)使編輯們?cè)诓恢淖髡呱砩媳в懈蟮囊蓱]，從而使新的作者、新的言論被發(fā)表的可能性降低，“我并不想，但或許不得不，阻止某些聲音被人們聽(tīng)見(jiàn)?！?/p>
奧利弗·泰勒的頭像里，兩側(cè)的牙齒和背景都有明顯的模糊。（圖源：路透社）
在過(guò)去的一年里，圖像偽造技術(shù)已經(jīng)拓展向視頻，大西洋理事會(huì)數(shù)字取證研究實(shí)驗(yàn)室的研究者利茲圖（Rizzuto）指出，去年三星公司進(jìn)行的深度偽造研究將蒙娜麗莎變成了一個(gè)逼真的會(huì)說(shuō)話的頭。他說(shuō)，這項(xiàng)技術(shù)有朝一日可以應(yīng)用于創(chuàng)造更逼真的假檔案，創(chuàng)造出各種角度和表情的照片。
去年，當(dāng)人工智能創(chuàng)造的假臉和假人開(kāi)始在社交網(wǎng)絡(luò)上遍地開(kāi)花時(shí)，事實(shí)核查組織已經(jīng)開(kāi)始介入。事實(shí)核查組織Snopes和Lead Stories持續(xù)地報(bào)道類(lèi)似的問(wèn)題，Snopes還發(fā)布一篇報(bào)道，批評(píng)臉書(shū)的不作為。
對(duì)抗的第一步是發(fā)現(xiàn)。在這些假臉里往往存在類(lèi)似的問(wèn)題，大西洋理事會(huì)數(shù)字取證研究實(shí)驗(yàn)室的研究者利茲圖（Rizzuto）說(shuō)，盡管GANs技術(shù)取得了顯著的進(jìn)展，但仍有一些蛛絲馬跡——例如，受試者的頭部可能是傾斜的，而鼻子和牙齒仍然是直的，該算法在納入背景物體和其他人時(shí)也會(huì)很吃力，有時(shí)會(huì)無(wú)意中創(chuàng)造出扭曲或模糊的眼鏡。還有專(zhuān)家指出，GANs生成的人臉里，眼睛都會(huì)出現(xiàn)在圖像內(nèi)的同一個(gè)地方——無(wú)論“人”面向哪個(gè)方向。
而達(dá)特茅斯學(xué)院研究數(shù)字取證學(xué)的漢尼·法里德（Hany Farid）正在研究更好的方法來(lái)發(fā)現(xiàn)假視頻，比如檢測(cè)吸氣和呼氣引起的臉部顏色的輕微變化，而GANs很難精確模仿。
但未來(lái)似乎并不樂(lè)觀，利茲圖說(shuō)，AI潛在的欺騙能力已經(jīng)超過(guò)了要識(shí)破它所需的工作量，而法里德的擔(dān)憂則更為長(zhǎng)遠(yuǎn)——GANs的技術(shù)本身，就包含著發(fā)現(xiàn)自己的弱點(diǎn)、進(jìn)行提升的功能，這意味著人類(lèi)的識(shí)別工作或許不過(guò)是在幫助GANs完成它自己的工作，“我們從根本上來(lái)說(shuō)處于弱勢(shì)地位，”法里德說(shuō)。
作者：龐礡；公眾號(hào)：全現(xiàn)在
來(lái)源：https://mp.weixin.qq.com/s/gm2BkuNQIBoGPi6n6pHMOg
本文由 @全現(xiàn)在 授權(quán)發(fā)布于人人都是產(chǎn)品經(jīng)理，未經(jīng)作者許可，禁止轉(zhuǎn)載。
題圖來(lái)自Unsplash，基于CC0協(xié)議
- 目前還沒(méi)評(píng)論，等你發(fā)揮！
