相比《西部世界》,《黑鏡》更有可能是我們的未來
最近有兩部劇都特別火,一部是《西部世界》,另一部是《黑鏡》。我很喜歡前者的劇情,探討人與即將覺醒的機(jī)器人之間的糾葛。但后者描述的那些黑色幽默,由于萬物互聯(lián)的網(wǎng)絡(luò)、完善的大數(shù)據(jù)或者先進(jìn)的人工智能引發(fā)的種種危機(jī),卻更有可能成為現(xiàn)實,而且是馬不停蹄正在接近我們的現(xiàn)實。
人工智能的幾種形式
說到人工智能,大家往往會想到比較遙遠(yuǎn)的未來。常見的想象有幾種形式:
1. 第一種形式
具有特殊功能的機(jī)器人。這種能滿足我們某些特殊需求。它們雖然沒有意識、完全在人的控制之下,但也可以比較精準(zhǔn)地完成很多任務(wù)。
像軍用的拆彈機(jī)器人:
(http://digi.163.com/16/0717/09/BS5SD7FT00162Q5T.html)
或者是醫(yī)用的納米機(jī)器人:
(http://it.sohu.com/20160818/n464870772.shtml)
2. 第二種形式
第二種是人形的機(jī)器人,他們不僅能完成基本的任務(wù),還具有了自主意識。
在各種文學(xué)、影視、游戲作品中,有自主意識的機(jī)器人幾乎也已經(jīng)是科幻題材必備的存在了。
像這貨:
(http://sd.china.com.cn/a/2016/keji_0928/727664.html)
或者這貨:
《終結(jié)者5》
這樣的想象就跟我們對外星人的想象一樣,認(rèn)為人工智能的外在形式會跟我們差不多。他們是各自有意識、有同樣外形(頭、軀干、四肢等)的個體。個體之間也會產(chǎn)生很多交互,從而也會存在社會屬性。
這些機(jī)器人的意識里進(jìn)化出了情感、有了喜怒哀樂,所以才發(fā)生了更多有意思的情節(jié)……但我覺得這純粹都是為了故事創(chuàng)作所做的牽強附會。
之所以人成為現(xiàn)在這樣,是進(jìn)化而來的,人體的功能是為了更好地生存和繁衍才出現(xiàn)的。機(jī)器人如果有了自己制造(繁衍)的能力,何必還跟我們一樣?
第三種形式
想象到的形式是沒有實體存在,全世界的智能設(shè)備甚至聯(lián)網(wǎng)的電子設(shè)備都是它的一部分。全世界的人都是無數(shù)個體,但全世界的智能設(shè)備都有同一個意識。
在守望先鋒的基本設(shè)定里,就是人類和人工智能中樞(智械)爆發(fā)了毀滅性的戰(zhàn)爭。終結(jié)者講述的也是人類對抗人工智能中樞(天網(wǎng))的故事。這些故事里,人工智能中樞和個體都是存在的,一個是神的化身,另一個是人的化身。
類似的,還有黑客帝國里的矩陣,以及復(fù)仇者聯(lián)盟里的奧創(chuàng)。
藍(lán)色的同學(xué)是奧創(chuàng)
第四種形式
可以參照知乎著名的那篇文章「為什么最近有很多名人,比如比爾蓋茨,馬斯克、霍金等,讓人們警惕人工智能?」中,講到的是很多科學(xué)家和學(xué)者,對人工智能的想象:以我們的認(rèn)知,無法想象它的存在形式,但它也可能是全知全能的。
這是真正的神一般的存在。在它出現(xiàn)后,我們除了能永生,就是要滅絕。
對人工智能來說,第二種(自主意識機(jī)器人)和第三種(自主意識的智能中樞)存在不太可能。最主要的原因是:人工智能是快速發(fā)展、指數(shù)升級的,不可能穩(wěn)定在一個跟人差別不大的狀態(tài)上。也就是說,要不就是人工智能為人服務(wù),要不就是瞬間遠(yuǎn)超人的能力,成為了神的存在。
我們以為的人工智能發(fā)展階段可能是這樣(所謂強人工智能,就是智力水平跟人差不多的人工智能,就是擁有了自主意識,同時又不夠「特別特別」聰明):
但真正的人工智能發(fā)展階段可能是這樣:
我們根本就來不及,甚至說「配得上」跟人工智能對抗,就瞬間被超越了。這種超越,可能是很可怕的。想想看,黑猩猩的大腦只是比我們輕了那么點、皮層比我們小了那么些,在我們眼里,他們就是野蠻的動物,跟弱智一樣。那有強大學(xué)習(xí)能力、在「大腦」進(jìn)化中并沒有「硬件限制」的人工智能,看我們也許就像看低幾個維度的生命了。
圖片來自《人工智能的未來》
說了這么多,我下面不想詳細(xì)闡述強人工智能的不可能性,或者超人工智能的神奇/可怕未來,我想說的,正是可能很快會大大改變我們生活的——弱人工智能。
弱人工智能其實早已融入我們生活,而且正在潛移默化影響我們的生活。比較麻煩的是,大部分人都沒有意識到這一點。在警惕著機(jī)器人、矩陣或者外星人的時候,我們都很可能全被弱人工智能所「統(tǒng)御」。這種統(tǒng)御并不是有意識的,而是無意識的。
弱人工智能之所以被大家忽視,有兩點主要原因:
- 弱人工智能一般很少被大家認(rèn)為是人工智能本身,而覺得只是人工智能的分支或者技術(shù)。這些技術(shù)知名之后,都不叫人工智能了,比如 Siri(語音識別&自然語言處理)和今日頭條(個性化推薦)。前幾天錘子發(fā)布會上演示的訊飛語音輸入(語音識別)和 Big Bang 的功能(中文分詞),也看起來不太像那么高級的人工智能,而只是比較先進(jìn)的技術(shù)而已。人工智能這個詞的發(fā)明者 John McCarthy 就說到,一樣?xùn)|西如果是人工智能實現(xiàn)的,那人們就不再叫他人工智能了。
- 相較強人工智能和超人工智能來說,弱人工智能看似完全在掌控之中。同時,弱人工智能又沒有自主意識,并不會刻意去改變什么預(yù)設(shè)之外的工作,只是在執(zhí)行人類給它寫好的代碼、編好的邏輯。既然是這樣,拆彈機(jī)器人就永遠(yuǎn)只會拆彈,不會做出炸彈來;納米機(jī)器人就永遠(yuǎn)只會治病,不會制造生化武器。好像沒什么可怕的。但事情真的是這樣的嗎?
弱人工智能的技術(shù)實際已經(jīng)相當(dāng)成熟,相關(guān)的科技公司也已經(jīng)逐步崛起。許多生活中你尚未意識到的地方,其實都已經(jīng)有了它們的身影。
(https://www.linkedin.com/pulse/hitchhiker-guide-ai-ed-fernandez)
弱人工智能可能制造一些麻煩
下面我會講到很多弱人工智能下,我們會遇到的一些麻煩。說麻煩可能是謙虛了,這些問題搞不好真的會影響到整個人類文明。
1. 信息壟斷
我們已經(jīng)習(xí)慣了:打開搜索引擎,找想要的信息;打開新聞客戶端,看看新聞;打開朋友圈,了解下朋友的動態(tài)。這么簡單的、已經(jīng)習(xí)以為常的場景,實則暗藏巨大的隱患。
現(xiàn)在紙媒很快要被淘汰,手機(jī)成了真正人人必備的信息入口,而互聯(lián)網(wǎng)則逐漸成了唯一的信息平臺——這在人類歷史上絕無僅有。在很多人眼里,我們看到的信息變得多了,我們變得更加自由,但從另一方面來說,我們想要的信息被壟斷和控制也變得更容易了。
想想看,我們想知道這個世界在發(fā)生什么,是不是已經(jīng)完全依賴互聯(lián)網(wǎng)了?
在慣常思維中,互聯(lián)網(wǎng)應(yīng)該是打破了信息壟斷的,但為什么說現(xiàn)在的互聯(lián)網(wǎng)又在變得壟斷了?
康奈爾的計算機(jī)教授 Thorsten Joachims (巧的是,他也是人工智能學(xué)者)曾經(jīng)做過一個實驗,觀察用戶點擊 Google 搜索結(jié)果的情況。其中第一條結(jié)果有 42% 的點擊率,而第二條則是 8%。也就是說,不管剩下的結(jié)果怎么樣,前兩條結(jié)果已經(jīng)占據(jù)了 50% 的注意力。
接著,他們互換了前兩條的位置,結(jié)果變成了 34% 和 12%。這也就是說,不管結(jié)果本身是怎樣的,用戶仍然只關(guān)心最開始的那條。
是不是跟想象的不太一樣?
百度、Google 這樣的公司,正在牢牢把控著目前我們的信息入口(當(dāng)然,未來入口可能是多樣的,但也存在同樣的問題)。雖然我們搜出來了 1000000 個結(jié)果或者 5000 個結(jié)果,有種世界盡在掌握的感覺,但實際上很遺憾的是,對絕大多數(shù)用戶來說,不管是 1000000 個還是 5000 個結(jié)果,他們只會點擊第一頁最頂上的幾條而已。
說到這里,估計不用提示你也能想到在信息壟斷方面,他們能做什么了吧。他們其實已經(jīng)做了一些。百度今年某個事件,就是在知乎醞釀發(fā)酵的,而這個事件,恰恰就是百度利用了信息壟斷來獲利,在某些用戶獲取信息的過程中夾了私貨(廣告)導(dǎo)致的。
Google 也經(jīng)常在這個方面出事情,比如 2011 年的非法醫(yī)藥廣告以及今年疑似為希拉里站臺。(不管影響谷歌的搜索結(jié)果是不是真的,希拉里競選團(tuán)隊的技術(shù)負(fù)責(zé)人的確是前谷歌的高管)
凡是在獲取信息通路上,處于入口地位的產(chǎn)品,都有壟斷信息的可能。
當(dāng)你隨手點擊了一家看似不錯的餐廳的外賣時,也許不會意識到他們是花了錢的、是被平臺塞到前面的;當(dāng)你津津有味地閱讀某個新聞客戶端的推薦文章時,也估計不知道有些文章其實是軟文或者公關(guān)文。
我們以為有了全新的信息入口、選擇變得更多了。但其實我們選擇變得更少了。
2. 過濾泡沫
我們享受著個性化的服務(wù):搜索引擎都在提供我們最有可能點擊的網(wǎng)頁;今日頭條在說我們關(guān)心的才是頭條;網(wǎng)易云音樂努力讓我們總是聽到喜歡的歌……
第二個要說的麻煩同樣存在于看似更便捷和舒適的人工智能技術(shù)里——個性化推薦。
近幾年隨著機(jī)器學(xué)習(xí)的發(fā)展,個性化推薦愈發(fā)有效。我們能用新聞客戶端看到更喜歡的資訊、能用音樂客戶端聽到更喜歡的歌。在這之前,我們都疲于從無數(shù)的資訊和歌曲中分辨哪些才是我們喜歡的。
似乎很美好,畢竟我們能夠找到自己更喜歡的了。
但這正是陷阱所在:我們喜歡的,就是我們需要的嗎?
就好像說,我們喜歡甜,就每頓飯只吃白砂糖?喜歡美女,就每天混跡于紅燈區(qū)嗎?如果只顧著享受快感,那么毒品就會是正確的選擇。
當(dāng)這些個性化推薦系統(tǒng)逐漸明白我們的喜好后,就會很精準(zhǔn)地給我們最喜歡的,而且永遠(yuǎn)都是最喜歡的。
協(xié)同過濾是最常見的個性化推薦算法,亞馬遜、Facebook、今日頭條、網(wǎng)易云音樂、豆瓣都采用了這種算法。
我們喜歡搖滾樂,系統(tǒng)搞明白后,我們就永遠(yuǎn)聽不到其它的音樂風(fēng)格了,并且會錯失跟它們邂逅的機(jī)會。(就像我一個朋友說的,他在聽了一個星期民謠以后,想聽幾首流行歌,在每天的推薦歌單里已經(jīng)找不到了。)
我們喜歡小米手機(jī),系統(tǒng)搞明白后,我們也就永遠(yuǎn)看不到其它手機(jī)的資訊了。我們會認(rèn)為全世界都在議論小米,卻意識不到在三四線城市,仍然是 vivo 和 OPPO 的天下。
互聯(lián)網(wǎng)觀察家 Eli Pariser 在 2011 年的 Ted 演講上,把這樣的現(xiàn)象叫做 The Filter Bubble,也就是過濾泡沫。
過濾泡沫讓我們只關(guān)心世界的一小塊,而且是越來越窄的一小塊。更可怕的是,由于我們自己并不清楚過濾泡沫的存在,所以我們也不知道自己不知道。
在未來各種互聯(lián)網(wǎng)服務(wù)成為常態(tài)后,即使沒有人去操縱,在個性化推薦的「協(xié)助」下,我們也會變得越來越狹隘。
我們訂的推薦的外賣,都是一個口味的;我們喜歡的歌,都是一個類型的;我們看的新聞,都是關(guān)于某一些事情的;我們到淘寶買的排序在前的東西,都是一樣風(fēng)格的。
這可能是我們會遇到的第二個麻煩。
3. 數(shù)據(jù)風(fēng)險
我們在享受著數(shù)據(jù)的便利。淘寶能夠依據(jù)我們的個人數(shù)據(jù)推薦最合適的商品;餐廳能夠根據(jù)我們的喜好推薦最合適的菜單;醫(yī)生可以根據(jù)我們的歷史病歷數(shù)據(jù)來得到更準(zhǔn)確的診斷;連家里的智能溫度系統(tǒng)知道我們回家了都會把溫度調(diào)整到最適宜的狀態(tài)。
在《1984》里,電子屏無處不在。老大哥依靠這個監(jiān)視著每個人。如今的城市里,公共場合攝像頭也是無處不在的,雖然目的不是為了監(jiān)視我們,但至少提供了監(jiān)視我們的途徑。
數(shù)據(jù)將通過三個途徑變得更加完善:
(1)主動提供
既然要有個性化推薦,既然我們要享受其它各種大數(shù)據(jù)帶來的福利,那么我們就要提供很多個人的信息和數(shù)據(jù)。你可能沒注意很多軟件注冊時的聲明,但在讀下這些文字時,你估計已經(jīng)默認(rèn)同意過幾十個甚至上百個產(chǎn)品的隱私協(xié)議了,這些協(xié)議確保他們能夠合法獲取你的各種信息和數(shù)據(jù)。
凱文·凱利在《必然》中說過:
人們總會為了享受服務(wù)而放棄部分隱私。
(2)被動監(jiān)視
智能設(shè)備在逐步變多,也就意味著攝像頭、各種傳感器和監(jiān)視器都變得多了起來。當(dāng)你家里布滿各種各樣的智能設(shè)備、或者你身上在用各種設(shè)備,并且它們都接入了互聯(lián)網(wǎng)時,它們也就同時帶來了泄露你各種隱私的風(fēng)險。
(3)間接收集
科技進(jìn)步使得很多過去在檔案里、在紙質(zhì)手冊里的很多信息得以電子化。我們在醫(yī)院的病歷數(shù)據(jù),在公安局的登記數(shù)據(jù),在學(xué)校的教育數(shù)據(jù),在公司的工作數(shù)據(jù),在銀行的信用數(shù)據(jù),原本只是在限定的時空里存儲,現(xiàn)在則會存入聯(lián)網(wǎng)的數(shù)據(jù)庫。遲遲沒有破案的白銀連環(huán)殺人案,就是因為公安局的 DNA 檢測能夠聯(lián)網(wǎng)匹配,在 Y-STR 數(shù)據(jù)庫里發(fā)現(xiàn)了兇手的堂叔。
由于這些變化,我們的數(shù)據(jù)逐步變得完整。這些數(shù)據(jù),遲早可以描述我們每個人(就像《黑鏡》第 2 季第 1 集里所講的那樣,死者的社交信息已經(jīng)可以重塑他本人了),并且實時、動態(tài)地「監(jiān)視」我們每個人(參考:我們自己終會成為大數(shù)據(jù))。
這些數(shù)據(jù)如果被濫用,后果不堪設(shè)想。
如果被政府濫用,那就是像《1984》里描述的那種場景。我們所見到的每個攝像頭、每塊屏幕都是監(jiān)視器,我們所撥出的每個電話、發(fā)的每條消息都被竊聽。
蘋果的經(jīng)典廣告里,拿著錘子的女模特?fù)羲榱死洗蟾绲钠聊?。而現(xiàn)在,蘋果變成了新的老大哥,擁有全世界無數(shù)用戶的個人信息。好在他們暫時還沒有向政府妥協(xié)。
除了提供給政府,還有種可能是數(shù)據(jù)庫的泄露。這樣的事情發(fā)生過不止一次兩次了,經(jīng)常有賬號密碼泄露,就有大量的用戶隱私被傳出,有些非常嚴(yán)重。
這世界上不會存在完美的安全措施?;ヂ?lián)網(wǎng)的地下世界有著無數(shù)黑客,他們可以來去無蹤地搞到這些數(shù)據(jù)(可自行搜索「中國黑客傳說」),不留任何痕跡。
科幻短劇《黑鏡》第 3 季第 3 集講的就是主人公和其他幾個人被人盜取了隱私數(shù)據(jù),被抓住了把柄所以言聽計從、毫無還手之力,結(jié)局凄慘。
(主人公收到的短信里,對方讓他打開定位、保持開機(jī)狀態(tài),就能了解他的位置信息,從而威脅和操縱他。)
遲早有一天,我們每天的一舉一動,都能夠記錄在案。我們買了什么、吃了什么、用了什么、看了什么……想成為老大哥的人只要技術(shù)到家,都會有辦法都獲取到。
除此之外,在某些人工智能技術(shù)足夠成熟后,數(shù)據(jù)可能有更重要的意義。目前的數(shù)據(jù)也許只是個人用途,但未來的數(shù)據(jù)可能是社會性的,比如交通數(shù)據(jù)、金融數(shù)據(jù)或者軍事數(shù)據(jù)。
萬一這些數(shù)據(jù)被人竊取甚至操縱,那后果不堪設(shè)想。就像一個連環(huán)殺人案,兇手的 DNA 在數(shù)據(jù)庫里被人修改掉,那無辜的人就可能被當(dāng)做殺人犯;或者有的人病歷數(shù)據(jù)被惡意改掉,結(jié)果醫(yī)生開了對他來說可能會過敏致死的藥……
未來的智能交通系統(tǒng)、醫(yī)療系統(tǒng),在工廠里的各種智能機(jī)械……但凡是有殺人放火能力的,并且在依照我們設(shè)定的數(shù)據(jù)按部就班工作的智能系統(tǒng),都有可能因為數(shù)據(jù)篡改而造成天災(zāi)人禍。
《黑鏡》第3季第6集里,原本用來維持生態(tài)平衡的電子蜜蜂被人修改了智能模塊的數(shù)據(jù),變成了可怕的殺人兇器。
4. ?真假陷進(jìn)
有了 AR 之后,我們的未來會大不一樣。我曾經(jīng)寫過一段類似的想象:
想清晨跟遠(yuǎn)在海外的老同學(xué)打聲招呼,只需通過眼鏡或者播放器說一句“呼叫馬丁”,馬丁的身影就浮現(xiàn)在你面前了,無論刷牙洗臉,還是讀書看電影,他都可以在一旁跟你無縫聊天。
未來如果能在家里,能感受到在任何其它環(huán)境中相似的體驗,那干嘛還要出門呢?佛教中有所謂五感(色聲香味觸),這些感知都能用先進(jìn)的科技完成的話,我們是不是就省去了很多麻煩呢?
問題就來了:你怎么知道你所看到的、感覺到的是真的還是假的呢?
快速發(fā)展的人工智能技術(shù)會讓造假變得有可能。
我們用 AR 的工具跟朋友聊天、談笑風(fēng)生,但其實跟你聊天的,會不會只是一個機(jī)器人?那些影像會不會只是制作出的 CG?
你在路上看到每個路標(biāo)、行人或者遠(yuǎn)處的高山,會不會是全息投影出來的假象?你坐在火車?yán)?,以為是一直駛向北方的,但車窗會不會是投射虛假風(fēng)景的電子屏、你其實繞路去了另外的地方?
隨著 AR 技術(shù)的發(fā)展,我們也許都會戴上像 Google Glass 那樣的工具(當(dāng)然肯定沒有它那么笨拙)。有可能就像一個隱形眼鏡一樣方便,戴上去就能看到更多智能系統(tǒng)提供的視聽內(nèi)容;甚至有可能會直接植入什么芯片和納米設(shè)備。
如果是這樣,我們以為只是增強了現(xiàn)實的 AR 技術(shù),就有無數(shù)種方法來操縱我們、混淆我們了。
《黑鏡》第 3 季第 5 集里的大兵,都植入了稱為「Mass」的視聽增強系統(tǒng),用來輔助他們的軍事行動。他們可以直接取用無人機(jī)的視角、看到系統(tǒng)發(fā)來的信息以及地圖。同時,這個系統(tǒng)也可以屏蔽掉很多聲音、改變看到的畫面,制造出虛假的內(nèi)容,用來誤導(dǎo)和操縱大兵。
5. 智能助理
起初我們只是從個性化推薦中得到信息,決策還是我們自己做的。等到它們逐漸變得更加智能、更加優(yōu)秀,我們就會直接聽從它們的建議。
每天起床,我們會先聽一下智能助理對日程的安排。洗漱的時候,智能助理會讀給我們最恰當(dāng)?shù)男侣劇N覀儠俗扑]的交通工具。中午會去它說好的餐廳吃飯。傍晚,會直接下單買它說好的衣服和日用品。下班后,會經(jīng)過他的提醒給家人打個電話,然后去它安排好的健身房鍛煉。
為什么要聽它的?因為你發(fā)現(xiàn),它永遠(yuǎn)都能做出比你更準(zhǔn)確、更理性、更完美的決策。因為它手里有你的各種數(shù)據(jù),知道你的生活習(xí)慣、性格特點、身體狀況甚至 DNA 序列。
智能助理是個性化推薦的升級版本。
如果說目前的個性化推薦,縮小了我們可選的范圍、給了我們一些選項,最終決定還是我們自己做的話:
那么,等到智能助理真的可以安排我們的生活和工作后,我們自己做的部分就會被壓縮:
如果說信息的錯漏會導(dǎo)致我們做出不完善的推斷和決策,讓我們的決斷變得片面和不完善,那么決策層面的錯漏會直接影響到我們的生活。
這些錯漏造成的原因,會跟剛才說的類似,有兩種可能:系統(tǒng)的不完善;惡意篡改。暫且拋開系統(tǒng)的不完善,就說惡意篡改這個可能。
如果是現(xiàn)在的黑客攻破你的手機(jī),大概最危險的就是偷點艷照或者盜取銀行賬號。但未來我們對智能系統(tǒng)言聽計從的話,黑客修改了我們的智能系統(tǒng),就會變得非常危險了。
我們非常信任智能系統(tǒng),于是它買的食物我們不會仔細(xì)研究就會吃下去;我們非常信任智能系統(tǒng),所以它導(dǎo)航的路、讓我們?nèi)サ牡胤剑覀兌疾粫岩伞N覀儠兊萌菀撞倏v。
同樣麻煩的是,我們在被操縱的同時,完全不會意識到這一點。我們都沒有能力去追究智能助理背后的算法和數(shù)據(jù)究竟是不是對的。
智能助理未來不僅可以解決個人問題,也許還能解決更多社會性的問題。那就是下面要說的大麻煩了。
如果人工智能真的可以根據(jù)各種數(shù)據(jù)和有效的算法來協(xié)助我們做政府、企業(yè)和組織的決策,那我們也會對智能系統(tǒng)產(chǎn)生依賴。畢竟很多復(fù)雜的問題交給一個兩個人去做總是會有錯漏,但足夠強大的智能系統(tǒng)則看起來比較保險。
這樣以來,人工智能的數(shù)據(jù)和算法一旦被人有心篡改,可能波及范圍就變成了全世界。
不要以為這樣的智能助理很遙遠(yuǎn),作為認(rèn)知計算系統(tǒng)的代表,IBM Watson 已經(jīng)是應(yīng)用層級的人工智能專家系統(tǒng)了。采用了大量人工智能技術(shù)的 Watson,目的不在于成為全能的機(jī)器人,而是成為協(xié)助人完成很多事務(wù)的專家。
目前 Watson 技術(shù)基礎(chǔ)上的相關(guān)產(chǎn)品有:
- Watson Virtual Agent
- Watson Explorer
- Watson Analytics
- Watson Knowledge Studio
- Watson Commerce
- Watson Education
- Watson Financial Services
- Watson Health
- Watson IoT
- Watson Marketing
- Watson Supply Chain
- Watson Talent
- Watson Work
( http://www.ibm.com/watson/products.html)
可以看到,已然涉及了我們生活和工作中的各種領(lǐng)域。
我曾經(jīng)假想過一個驚悚故事的提綱。
在未來的某個時代,人工智能已經(jīng)參與到人類方方面面的決策中。有一批水平高超的程序員,他們合伙攻破了各處的智能系統(tǒng),并且篡改了其中的算法和數(shù)據(jù),使得他們能夠人為操縱人工智能提供的決策結(jié)果。由于他們始終沒有暴露,全世界實際上是不知情的情況下成為了他們的游戲沙盤。
雖然不能直接發(fā)起戰(zhàn)爭,但間接的一些手段,比如給軍隊虛假的敵方數(shù)據(jù),就可以誤導(dǎo)他們盡快發(fā)起進(jìn)攻。雖然不能直接殺掉某個人,但像上文提到的,只要誤導(dǎo)他吃會過敏致死的食物也能間接除掉他。于是,他們開發(fā)出了一套可視化的系統(tǒng),能夠快捷地對世界上大到國際政局、小到某個人生活的事項施加影響。
這個可視化系統(tǒng)是不是覺得很熟悉?
本質(zhì)上,把信息整理和過濾的環(huán)節(jié)讓渡給了人工智能,我們就會有一些風(fēng)險;再把思考和決策的環(huán)節(jié)也讓渡給人工智能,我們就會有更大的風(fēng)險。
從這個維度考慮,人類的活動大概就分為獲取信息、思考決策和執(zhí)行三個步驟。
那么,要是把幾乎所有我們在做的事情、嫌麻煩的事情都讓渡給人工智能呢?
6. 智能烏托邦
全世界的所有資源,比如食物、能源,都在智能系統(tǒng)掌控的全自動化工廠下運行,也不需要我們的操心。社會在智能系統(tǒng)的安排下,變得井井有條。
我們一出生,人工智能系統(tǒng)就會根據(jù)我們的基因選擇了最優(yōu)的成長路徑。
我們會閱讀最合適的讀物、觀看最合適的娛樂作品。衣食住行也都不用操心,全被安排得妥當(dāng)。
到了適婚的年齡,智能系統(tǒng)會推薦最匹配的情侶,無論怎么算,我們的性格和其它個人條件都跟對方最搭。
智能系統(tǒng)知道怎樣讓每個人開心,他會定時定量地給我們一些刺激。有時候是直接吃藥,有時候是看一段有趣的視頻,有時候是推薦給我們幾個好玩的朋友。
所有的痛苦都被抹殺。在這個烏托邦里我們只享受快樂。
總之,每個人的一生都會高高興興地度過。根據(jù)智能系統(tǒng)的測算,這個時代的人類,在整個歷史上都是最幸福的。
看似美好,但像豬一樣被圈養(yǎng)起來,會是我們想要的未來嗎?
這樣的未來并不是臆想出來的。在《必然》里,凱文·凱利提到,所有的集體智能和機(jī)器,都會融合為一個被他稱為「Holos」的整體。這個整體,目前尚屬不完美的階段,以互聯(lián)網(wǎng)的形態(tài)覆蓋著 510 億公頃的土地、觸及 150 億的機(jī)器,占據(jù) 40 億人類的心智,消耗地球 5% 的電能。
不過,跟凱文·凱利樂觀的預(yù)測不同(他認(rèn)為未來我們會跟這樣的人工智能生態(tài)形成良好的關(guān)系),我覺得一旦人類活動幾乎都移交給人工智能來完成了,那很快人類也就喪失價值,成為被照顧、被撫養(yǎng)的對象了。
《機(jī)器人總動員》里被撫養(yǎng)得妥帖的人類
以上,就是弱人工智能可能制造的麻煩。這些麻煩,都不需要人工智能產(chǎn)生自主意識,也不需要人工智能比人類高超多少段位。所需要的,都是我們平時習(xí)以為常的語音識別、自然語言處理、圖像識別、機(jī)器學(xué)習(xí)、工業(yè)機(jī)器人、專家系統(tǒng)等等。
#專欄作家#
劉飛,微信公眾號:劉言飛語,人人都是產(chǎn)品經(jīng)理專欄作家?;ヂ?lián)網(wǎng)產(chǎn)品經(jīng)理,先后在錘子科技、嘟嘟美甲和點我吧任產(chǎn)品經(jīng)理,知乎產(chǎn)品經(jīng)理領(lǐng)域最佳回答者之一。豆瓣閱讀《最好的時代》作者。
本文原創(chuàng)發(fā)布于人人都是產(chǎn)品經(jīng)理,未經(jīng)許可,不得轉(zhuǎn)載。
等機(jī)器人能夠獨立思考而不是靠人類設(shè)定的指令了再說吧