你會被大數據歧視嗎?
泰勒·羅德里格斯(TaylorRodriguez)準備乘飛機出外,她把行程都輸進了云端,接下來一切都實現了自動化:
門外的行李由智能路燈負責看守;隱形眼鏡配有顯示器,指引她進入車輛指定位置;車輛實現無人駕駛,自動駛往機場。這一切是如此的簡單快捷,各種設備對泰勒進行貼身監控,以第一時間發現她臉部、情緒或行走時的不正常跡象。
上述情景出自白宮之手,準確來說,應該是美國總統科技顧問委員會。最近,該委員會發表了一份報告,對人類可能面臨的大數據情景進行分析。
一同發布的,還有一份“90天大數據”實踐評估,主要負責人為白宮顧問約翰·波德斯塔(JohnPodesta)。
大數據為眾多領域帶去了奇跡,這其中包括衛生保健、罪案調查、智能家居、教育、執法、就業等。
但是,為了便捷而犧牲隱私(如上文所述的泰勒·羅德里格斯),這就是我們真正想要的東西嗎?如果是,我們又該如何保證個人信息的自主控制權?
你也許覺得事不關己,無需過于擔心。但在將來,大數據或許會通過以下三種方式影響到你的生活。
職業歧視
我們來看看美國的案例。達內爾(Darnell)和杰弗里(Geoffrey)正競爭著同一崗位。老板為了做進一步的了解,到谷歌上去搜他們的名字。
當搜索“達內爾”時,頁面出現大量關于大頭照搜索與犯罪背景查詢的廣告;當搜索“杰弗里”時,則出現一些無傷大雅的廣告,例如食品處理器與火奴魯魯旅行。
白宮在評估中指出,據研究表明,在網絡搜索典型的黑人名字,如達內爾和拉坦婭·斯威尼(LatanyaSweeney,美國聯邦貿易委員會首席技術專家),大頭照搜索與犯罪背景查詢廣告的數量會比搜典型白人名字時多。
基于算法的廣告投放看似無害,但第一印象是非常重要的,類似的廣告投放優化技術會把一整個族群陷于不利境地。
基于姓名的廣告歧視是如何實現的?個中原理我們不得而知。然而,類似的營銷手段已經出現,并帶來一定的消極影響。以銷售數據為生的企業,如Experian和Acxiom,會把數以千計的消費者檔案打包起來,形成人口統計圖,然后賣給營銷人員或其他客戶。
美國參議院委員會的一項調查表明,數據銷售商在出售消費者檔案時,會為檔案貼上各類標簽,例如“二類城市其他族裔掙扎者”,以方便營銷人員找準自己的目標。
數據行業是一個價值數十億美元的產業。業內企業聲稱,他們出售的數據(如網上購物信息和健康狀況)不包含姓名。但多項研究表明,不含姓名的信息經過處理,可輕易重構出完整的個人檔案。
可以想象,一旦你的個人信息落到用人單位、零售商或貸款人手里,他們便會利用這些信息,滲入你生活的各個方面。
司法歧視
應聘失敗后,達內爾徑直回家,卻發現警察早已在門口等著他。警方想讓他協助調查,因為根據犯罪現場留下的DNA,達內爾及其家人有作案嫌疑。
美國一些執法部門吸取了英國警方的經驗,在調查案件時利用大數據技術,一旦發現犯罪現場的DNA與刑事司法數據庫里的類似,執法人員便會采取行動。
刑事司法數據庫里的基因數據是從罪犯那里采集而來的,但在某些州,因為輕罪被捕者也會被采集。執法人員會對基因部分吻合者進行調查,這就是所謂的家族性排查。
此舉有利有弊,一方面它有助于迅速鎖定罪犯;另一方面,它會把很多無辜的人當成嫌疑犯,例如被采集基因者的親人。
在美國不少州,如加利福尼亞和紐約,警方已開始采用類似手段進行調查,結果時好時壞。
還有,利用DNA部分比對技術,警方將可能實現對某個族群的重點排查,這跟傳統的攔截盤問手段很不一樣。一旦刑事司法系統內的小數族裔比例過重,DNA數據庫將產生更大規模的司法歧視。
美國警方還曾利用大數據來預測汽車盜竊案的地理“熱點”。凱特·克勞福德(KateCrawford)是微軟和麻省理工學院的研究員,她指出,類似基于算法的預測行為會對一整片區域的居民產生歧視。她說:“從司法公正的角度看來,警方的這種行為應引起我們的警惕。”
消費歧視
經歷面試失敗、警察調查以后,達內爾決定跑步輕松一下。為了記錄跑步路徑,他打開了一個手機App。跑步結束后,達內爾終于開心起來了,不料那個App卻彈出一條廣告,說前面士力架正在打折促銷。
美國大學華盛頓法學院助理教授瑞恩·卡羅(RyanCalo)表示,上述情景雖讓人忍俊不禁,本質上卻是一種不道德的行為。這種基于移動端和網絡追蹤的歧視,終有一天會在現實發生。
在掌握消費者習慣的基礎上,零售商能就不同人定下不同的銷售方案。如果任由商家這樣做,會對社會產生怎么樣的影響?
“我擔心,商家會利用大數據,在弱勢消費者身上謀求利益。商家既能摸清消費者的底細,又能創造互動的機會,這將促使侵權行為的發生。”卡羅說。
來源:中國統計網
會被歧視
啊