AI 眼鏡的終局會讓個人隱私無處遁形嗎?
隨著AI技術(shù)的不斷進(jìn)步,智能眼鏡逐漸成為我們?nèi)粘I钪械囊徊糠?。然而,這種高科技產(chǎn)品在帶給我們便利的同時,也引發(fā)了關(guān)于個人隱私保護(hù)的擔(dān)憂。哈佛大學(xué)生的一項(xiàng)實(shí)驗(yàn)展示了AI眼鏡可能帶來的隱私泄露風(fēng)險,引發(fā)了公眾對于隱私權(quán)的關(guān)注和討論。
眾所周知,雷朋Meta和雷朋合作的Ray-Ban Meta 智能眼鏡在今年早些時候就已經(jīng)售出了 100 多萬臺,這也讓Meta有信心在9月份發(fā)布首款A(yù)R智能眼鏡Orion。
許多人都認(rèn)為眼鏡是未來AI最好的載體之一,但兩位哈佛大學(xué)生用一個實(shí)驗(yàn)無情的揭示了AI眼鏡最大的風(fēng)險——隱私泄露。
AI眼鏡識別,隱私不復(fù)存在
兩位哈佛大學(xué)生,AnhPhu Nguyen 和 Caine Ardayfio,做了一個有趣的實(shí)驗(yàn)。他們戴著 Meta 的智能眼鏡 Meta Ray-Ban,在校園、地鐵等隨機(jī)識別了數(shù)十個陌生人。拍下某人的一張照片,幾秒之后,這個人的信息就會出現(xiàn)在手機(jī)上。
當(dāng)然,Meta的智能眼鏡本身并沒有如此強(qiáng)大的功能。之所以會產(chǎn)生這樣的節(jié)目效果是因?yàn)樗麄冏隽艘恍┘夹g(shù)上的改動。先通過 Meta 智能眼鏡的直播功能,將視頻實(shí)時傳輸?shù)?Instagram,然后用一個計(jì)算機(jī)程序監(jiān)控這個視頻流,并使用 AI 進(jìn)行人臉識別。
隨后,在互聯(lián)網(wǎng)上搜索到某個人的更多照片,以及基于公共數(shù)據(jù)庫,查找這個人的姓名、住址、電話號碼,甚至親屬信息。最后,這些信息會傳送到他們編寫的一個手機(jī) app,方便查看。
只是兩個高材生為了視頻效果就能夠做到這種程度,那如果是不法分子呢?或許隱私問題將讓所有人頭疼,甚至于連外出都不敢以真面目示人。
如果再搭配上各類AI換臉工具,或許每個人都將“赤裸”的活著。此前,在僅三萬人居住的西班牙阿爾門德拉萊霍 (Almendralejo) ,一個話題正在以“病毒”似的速度傳播著,網(wǎng)上有學(xué)校里三十多名女孩子們的裸照。
西班牙國家司法警察總署就對此案作出了一些解釋和報告:涉案人員總共有十人,其中三人使用了ClothOff,這是一款免費(fèi)的人工智能應(yīng)用程序,它可以讓用戶“脫掉”任何想要的人的衣服,這也意味著任何人都可以通過這樣一款A(yù)I應(yīng)用,以極低的成本來實(shí)施犯罪。
包括很早之前的案例,一位廣州女生在地鐵拍的美照,被個別網(wǎng)友,用AI一鍵脫衣軟件生成了裸體照片。換臉的前提是需要拍下照片,普通手機(jī)舉起的瞬間就有很大概率被注意到,而眼鏡則可以悄無聲息的進(jìn)行拍攝。
AI眼鏡正趨向于日常化、普通化,它長得像普通墨鏡,讓偷拍更加方便。Meta Ray-Ban 實(shí)際上是有提醒功能的,它有一個 LED 指示燈,當(dāng)用戶錄制視頻,它就會自動打開,提醒旁邊的路人,但是,誰會去特地注意他人眼鏡上的細(xì)節(jié)是個問題。
之前外媒The Verge 測評發(fā)現(xiàn),在明亮的室外,Meta Ray-Ban 的 LED 和快門聲都不明顯,在擁擠嘈雜的公共場所,很多人往往不會注意到這種細(xì)節(jié)。
科技旋渦認(rèn)為,AI眼鏡正在拋棄臃腫的外形輪廓,向著輕量化、日?;?,本意是為了讓人們更容易適應(yīng)產(chǎn)品形態(tài),但同時也暴露了隱私問題。
警惕但不必過于擔(dān)心
當(dāng)然,上述的情況也并非能夠輕易達(dá)成的,畢竟主人公是兩位哈佛高材生。兩位學(xué)生是把各種現(xiàn)有的、成熟的技術(shù)組合在了一起,連生成式 AI 也參與了,才能實(shí)現(xiàn)隱私泄露。
智能眼鏡:配備攝像頭的智能眼鏡,在公共場合捕捉人臉圖像。
反向面部識別:通過 PimEyes 等人臉?biāo)阉饕妫瑢⑷四槇D像與互聯(lián)網(wǎng)的公開圖像進(jìn)行匹配,并返回這些圖像的網(wǎng)頁鏈接。
爬蟲工具:使用 FireCrawl 爬蟲工具,從這些網(wǎng)頁鏈接中抓取所需的數(shù)據(jù)。
大語言模型:大語言模型從抓取的、雜亂的數(shù)據(jù)中推斷出姓名、職業(yè)等細(xì)節(jié)。
數(shù)據(jù)庫:在 FastPeopleSearch 等網(wǎng)站輸入姓名,從公開記錄、社交媒體中查找家庭住址、電話號碼和親屬姓名等個人信息。
隱私泄露老生常談,面部識別并不新鮮,偷拍問題也不是出現(xiàn)一天兩天,大模型在兩年間已經(jīng)成了很多人離不開的生產(chǎn)力工具。彼此之間強(qiáng)強(qiáng)聯(lián)合的化學(xué)反應(yīng),才導(dǎo)致了一個細(xì)思極恐的結(jié)果——僅憑大街上偶然的相遇,我們的個人信息就可能被有心人提取。兩位學(xué)生沒有對外公開技術(shù)細(xì)節(jié),做這個實(shí)驗(yàn)的目的,是為了提醒人們保持警惕。
事實(shí)上,隨著各類技術(shù)飛躍式的發(fā)展,許多國家都已經(jīng)注意到了隱私問題。2016年以來,各國陸續(xù)發(fā)布相關(guān)政策法規(guī),但進(jìn)展仍趕不上技術(shù)的進(jìn)步。去年10月,拜登簽署美國首項(xiàng)人工智能監(jiān)管行政令,為人工智能建立安全和隱私保護(hù)標(biāo)準(zhǔn),但被指缺乏強(qiáng)制執(zhí)行效能。
歐盟方面,雖然歐洲議會于3月13日通過《人工智能法案》,但是法案中的相關(guān)條款將分階段實(shí)施,部分規(guī)則要到2025年才生效。日本執(zhí)政黨自民黨直到最近才宣布計(jì)劃在年內(nèi)提議政府引入生成式人工智能立法。
近年來,我國也出臺了《關(guān)于加強(qiáng)科技倫理治理的意見》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等多項(xiàng)法規(guī)和政策,一方面給AI有關(guān)技術(shù)的創(chuàng)新發(fā)展“鼓勁兒”,一方面又給其“立規(guī)矩”“劃紅線”,以確保相關(guān)技術(shù)的開發(fā)和使用遵守法律法規(guī)、尊重社會公德和倫理道德。
科技旋渦認(rèn)為,隱私泄露問題確實(shí)值得注意,但也無須過度焦慮。如同時代的發(fā)展,人類社會也在自我調(diào)節(jié)中不斷適應(yīng)著新的變化,新技術(shù)短時間打破平衡,很快在社會的自我調(diào)節(jié)下恢復(fù)平穩(wěn)。
寫在最后
傳播學(xué)者羅伯特·切斯尼形象地稱之為,“說謊者的紅利”,前所未有的隱私泄露和AI偽造問題讓那個曾經(jīng)遙遠(yuǎn)的問題,驟然變得現(xiàn)實(shí)而緊迫。
隱私和便利,在很多時候都是相伴而生的,當(dāng)我們享受各種 AI 產(chǎn)品的趣味和個性化時,風(fēng)險也如影隨形。但我們也不能因噎廢食,或許未來的AI眼鏡會像如今的日版iPhone一樣,拍攝或錄制時強(qiáng)制開啟快門聲,或是其它手段最大限度防止隱私泄露。
編輯|孫浩南
本文由人人都是產(chǎn)品經(jīng)理作者【孫浩南】,微信公眾號:【科技旋渦】,原創(chuàng)/授權(quán) 發(fā)布于人人都是產(chǎn)品經(jīng)理,未經(jīng)許可,禁止轉(zhuǎn)載。
題圖來自Unsplash,基于 CC0 協(xié)議。
AI 興起,確實(shí)使我們的生活更加方便了,但是冰冷的機(jī)器一但有了感情,便不再是冰冷的數(shù)據(jù),它了解了我們的喜好,讓我們在它面前沒有了偽裝,我認(rèn)為它窺探了我的隱私