你在交友軟件“右滑”了一個(gè)人,可能受到了推薦算法的鼓勵(lì)
編輯導(dǎo)讀:“左滑不喜歡,右滑喜歡”,這是很多交友軟件的常見(jiàn)功能。但是,右滑就代表著你喜歡這個(gè)人嗎?不一定,你有可能受到了推薦算法的鼓勵(lì)。本文作者對(duì)此展開(kāi)了分析,與你分享。
馬上就是五一小長(zhǎng)假了,補(bǔ)班的痛苦就快要被五天假期拯救了。
小長(zhǎng)假來(lái)臨,相信也有不少人和文摘菌一樣準(zhǔn)備回家吧。
每每這種時(shí)候,就最怕朋友突然的關(guān)心,“你對(duì)象呢,怎么不帶回來(lái)看看”。
不是文摘菌不想,實(shí)在是沒(méi)時(shí)間去結(jié)交新朋友。
于是文摘菌最近也是研究起了線上交友軟件,還別說(shuō),使用交友軟件的人不在少數(shù)。
根據(jù)2019年美國(guó)的一項(xiàng)統(tǒng)計(jì),30%的美國(guó)成年人使用了約會(huì)軟件(網(wǎng)站),另外,有12%的美國(guó)成年人表示,他們通過(guò)在線約會(huì)找到了長(zhǎng)期戀愛(ài)關(guān)系。
但是,讓文摘菌疑惑的是,線上交友遇到照騙還算小事,每次右滑就代表了我真的喜歡屏幕前的這個(gè)人嗎?
還真不一定。
最近,就有一項(xiàng)研究指出,你的右滑可能受到系統(tǒng)潛在的推薦算法影響,正如西班牙杜斯托大學(xué)的Helena Matute說(shuō)到,“我們可能一直在使用一種推薦算法,但是沒(méi)人告訴我們它有何效果”。
這種推薦算法不只體現(xiàn)在交友軟件上,在對(duì)政治人物的印象和選擇上同樣有著舉足輕重的作用。
這項(xiàng)研究也以論文的形式進(jìn)行了發(fā)表,鏈接如下:
論文鏈接:https://journals.plos.org/plosone/article?id=10.1371/journal.pone.0249454
01 算法正在潛移默化地影響我們的選擇
為了研究清楚這個(gè)問(wèn)題,Helena Matute和同事Ujué Agudo就做了一個(gè)實(shí)驗(yàn)。
她們?cè)O(shè)計(jì)并進(jìn)行了一系列4個(gè)實(shí)驗(yàn),在Twitter和調(diào)查平臺(tái)Prolific召集到了參與者,根據(jù)實(shí)驗(yàn)的不同,共有218到441人參與其中。
在這些實(shí)驗(yàn)中,參與者被明確告知,他們正在與一個(gè)算法互動(dòng),該算法會(huì)根據(jù)互動(dòng)判斷他們的個(gè)性。
但實(shí)際上,這只是個(gè)模擬算法,也就是說(shuō),這個(gè)“算法”并不會(huì)進(jìn)行智能判斷,無(wú)論參與者給予的信息是怎樣的,算法都以同樣的方式做出反饋。
在參與者回答了模擬算法的問(wèn)題后,算法隨即向他們展示了他們可能約會(huì)的對(duì)象,以及他們可能會(huì)投票支持的政治領(lǐng)導(dǎo)人照片。
有時(shí)候,該模擬算法還會(huì)明確地鼓勵(lì)參與者選擇照片上的一個(gè)人。例如,它可能會(huì)說(shuō),經(jīng)過(guò)計(jì)算后發(fā)現(xiàn),用戶與照片中的潛在對(duì)象或政治家之間有90%的兼容性匹配。
在其他情況下,該算法會(huì)通過(guò)頻繁地展示某一個(gè)人的照片來(lái)進(jìn)行這樣的暗示。
隨后,當(dāng)這些參與者被問(wèn)及,在展示的照片中他們更喜歡誰(shuí)時(shí),在絕大多數(shù)的情況下,他們會(huì)選擇模擬算法推薦的政治人物,也更希望與那些被推薦的對(duì)象約會(huì)。
“也許我們會(huì)傾向于認(rèn)為算法是客觀、中立和高效的,畢竟它們總是以數(shù)字和規(guī)則的形式展示出來(lái)”,Agudo說(shuō),至于為什么人們會(huì)更喜歡算法推薦的對(duì)象,“這是一個(gè)不涉及感情的決定”。
出于這個(gè)原因,當(dāng)涉及到內(nèi)心選擇的問(wèn)題時(shí),我們可能需要去傾向于質(zhì)疑算法的建議。
“作者提出了一個(gè)真正重要和可怕的觀點(diǎn),即人工智能、大數(shù)據(jù)和廣泛的用戶群給私人公司提供了前所未有的機(jī)會(huì),以完善他們對(duì)說(shuō)服力的理解和應(yīng)用?!眲虼髮W(xué)的Ella McPherson說(shuō)。
英國(guó)布里斯托爾西英格蘭大學(xué)的Steven Buckley表示:“這項(xiàng)研究加強(qiáng)了對(duì)Facebook和谷歌等平臺(tái)的呼吁,要求它們對(duì)自己的算法更加透明?!?/p>
02 讓現(xiàn)實(shí)社會(huì)和數(shù)字世界都朝著更公平的方向發(fā)展
說(shuō)到這里,相信還有不少朋友記得日本推出的AI婚配計(jì)劃。
和大多數(shù)交友軟件不同,這個(gè)AI系統(tǒng)做出匹配的依據(jù)更多是來(lái)自雙方價(jià)值觀的匹配程度。
相比于長(zhǎng)相、學(xué)歷、收入等外在條件之外,在AI婚配系統(tǒng)中,AI還會(huì)針對(duì)使用者的價(jià)值觀進(jìn)行詢問(wèn)。比如,根據(jù)日本一檔節(jié)目報(bào)道,使用者會(huì)經(jīng)常被問(wèn)到這樣的問(wèn)題,“以下哪個(gè)選項(xiàng)更符合你的期望:A能擁有超越常人的智力;B能夠朋友一起度過(guò)快樂(lè)時(shí)光”。
在收集到使用者的相關(guān)數(shù)據(jù)之后,AI會(huì)進(jìn)行一系列的推論和判斷,對(duì)系統(tǒng)內(nèi)的各種綜合信息進(jìn)行邏輯化的分析。隨后,在分析結(jié)果的基礎(chǔ)上,為你匹配三觀和性格相似,同時(shí)可能對(duì)你產(chǎn)生好感的人,雙方的投緣度還會(huì)以一星、兩星、三星進(jìn)行評(píng)價(jià)。
就使用成效來(lái)看,2018年就導(dǎo)入該AI系統(tǒng)的埼玉縣,38對(duì)夫妻中有21對(duì)新人都是通過(guò)AI的推薦而成為的情侶。在愛(ài)媛縣,在引入AI之后,該縣的結(jié)婚率也從13%提高到了29%。
如此看來(lái),日本的這個(gè)AI系統(tǒng)似乎要顯得更“理智”一些,但從另一個(gè)角度講,這在一定程度上進(jìn)一步佐證了上述實(shí)驗(yàn)的結(jié)論。
不只是在交往方面,AI在塑造我們的行為、選擇,甚至是想法上,都有著潛移默化的作用。
其中,近年來(lái)飽受詬病的當(dāng)屬算法偏見(jiàn)的問(wèn)題了。最為人印象深刻的當(dāng)屬去年杜克大學(xué)科學(xué)家發(fā)表了能夠?qū)⒛:掌逦乃惴≒ULSE,但是當(dāng)輸入美國(guó)前總統(tǒng)奧巴馬的模糊照片后,系統(tǒng)處理生成的卻是一張清晰的白人圖片。
正如一位MIT研究員Joy Buolamwini表示,“人工智能是基于數(shù)據(jù)的,而數(shù)據(jù)是我們歷史的反映”。但是每個(gè)人的歷史卻是無(wú)法被簡(jiǎn)單地用數(shù)據(jù)來(lái)概括和總結(jié)的,就如上述實(shí)驗(yàn)一樣,在選擇交往對(duì)象時(shí),我們更多是憑借的“感覺(jué)”。
在美劇《老爸老媽浪漫史》中,AI告訴男主角,有一個(gè)女孩和他的匹配度是95%,和未婚夫的匹配度只有90%。但男主角和女孩并沒(méi)有因此而在一起。
如果我們就以算法偏見(jiàn)為例,歸根結(jié)底,算法背后是人,算法偏見(jiàn)背后其實(shí)就是人的偏見(jiàn),算法的選擇也就是在大數(shù)據(jù)處理之后人的選擇。在針對(duì)此進(jìn)行批評(píng)時(shí),我們也需要關(guān)注現(xiàn)實(shí)世界中存在的偏見(jiàn),保持內(nèi)省,然后在能力范圍之內(nèi),讓現(xiàn)實(shí)社會(huì)和數(shù)字世界都能朝著更公平的方向發(fā)展。
這對(duì)我們每個(gè)人來(lái)說(shuō),都極為重要。
作者:Caleb,微信公眾號(hào):大數(shù)據(jù)文摘
來(lái)源:https://mp.weixin.qq.com/s/QcBtul7zndCebU_Uig0gPQ
本文由 @大數(shù)據(jù)文摘 授權(quán)發(fā)布于人人都是產(chǎn)品經(jīng)理,未經(jīng)作者許可,禁止轉(zhuǎn)載。
題圖來(lái)自Unsplash,基于CC0協(xié)議。
- 目前還沒(méi)評(píng)論,等你發(fā)揮!