硅谷深處的憂慮:誰喚醒了惡魔?
我想先從一個流傳的故事來開始今天的探討: “在山里,住著一個農夫,靠自耕自種為生,但有一群野豬,經常出來啃吃農夫的莊稼,農夫試圖消滅這些野豬,便購買了獵槍,整夜地守在田地旁邊,一俟發現野豬,便開槍射擊。但這種方法起到的作用微乎其微,因為田地很大,野豬又非常狡猾,不會固定地出現在同一個地點。農夫偶爾能打死一只野豬,但依然無法避免農田被啃的悲劇。 后來,農夫想出了一個高明的辦法。他把農田里最好最甜的玉米,摘下來,堆放在一個固定的地方,引誘野豬來“免費”吃。起初,野豬們很有戒心,但吃了幾個月的甜玉米之后,發現非常安全省力,既不需要自己去“摘”玉米,又沒有農夫來襲擊,于是野豬們放心大膽地吃了起來。又過了幾個月,農夫準備收網了。 他開始在外圍筑起高大厚實的木板,每天只筑一個木板,野豬們也沒有意識到危機。直到某一天,農夫把最后一個木板釘在地上,形成了一個封閉的圓形豬圈。此時,野豬們知道中計,想從豬圈里逃出來,但為時已晚。更何況,經過幾個月的飽食,野豬都變成了肥大笨拙的家豬,喪失了一切的戰斗能力。剩下的事情,就是,農夫一天拖一只出來…” 這個故事試圖說明一個道理:天下沒有免費的午餐。如果一件事情,在表面上看起來是“免費”的,那么它一定隱藏了某種代價。 現在,我們來體會一下正在互聯網行業里大行其道的“免費”模式。這種新型的商業模式,正被一些大佬贊許為顛覆性的“互聯網思維”。然而,在我看來,這種商業模式是建立在一種“虛偽”之上。所謂“虛偽”,是指互聯網企業把“追求商業利益”的本質多繞了幾個圈圈,隱藏到消費者的視野之外。當然,這種“虛偽”并無任何貶義,只是一種客觀的描述。 其實,這種免費模式也并不新鮮熱辣,它在第一代互聯網公司誕生的 1994 年(以 Yahoo 為代表),就存在了。當時,人們不需要付費購買報紙,就可以自由地從 Yahoo 網站上獲取最及時的新聞。隨著 Google 的出現,這種模式被發揚光大。人們不僅可以從 Google 那里看到免費的新聞,更能獲得免費的郵箱、免費的云存儲、免費的視頻、免費的辦公軟件、免費的操作系統、免費的地圖……Google 幾乎免費了一切。當然,這些“免費”是有代價的:人們需要把自己的“隱私”交給 Google 來管理,更準確地說,是交給 Google 那龐大的計算機系統來管理。 從模式識別的角度來看,一個人的某種“隱私”,相當于這個人的一種“特征”(feature)。一個真實世界里的人,在虛擬的計算機世界里,完全是由他的特征來表述。在理想情況下,如果獲得了足夠多的特征,那么計算機便可以完全洞悉一個人的內心世界。通俗地說,計算機具備了讀心之術。順其自然的下一步,就是計算機的“控制之術”了。 幾天之前,Elon Musk(特斯拉汽車 CEO)在麻省理工學院的一個講座上,說出了他的擔憂:人工智能技術有可能喚醒一個無法控制的惡魔 [2]。(With artificial intelligence we’re summoning the demon. There’s the guy with the pentagram, and the holy water, and he’s like — Yeah, he’s sure he can control the demon? Doesn’t work out:我們正在用人工智能召喚起一個惡魔。就像有一些家伙,覺得自己能夠通過圣器和圣水來控制住惡魔,但實際上,這不可能。) 在我看來,Elon Musk 的話并不是危言聳聽,而是一種真實存在的可能。 其實,我們現在的許多行為,都已經被計算機所掌控。我每天收看的新聞,是 Google 推薦的,我網購的商品是 Google 推薦的,我預訂的旅館是 Google 推薦的,我去的餐館是 Google 推薦的,我開車的路線是 Google 推薦的,甚至連我旅游的日期也都是 Google 根據機票價格來優化安排的。我不費心,很省力,基本上快成為一頭“家豬”了。假如,我是說假如,Google 想謀殺我的話,它只需要把我導航到懸崖上就行了 :< 如果說,第一代的 Yahoo 還只是把“玉米”堆放起來的話,那么第二代的 Google 已經開始在玉米周圍建筑“木欄”了。當然,現在離最后一塊木板還有很長的時間,但這種趨勢卻是潛在的,甚至是無法扭轉的。 我們不妨進一步思考。表面上看來,是人工智能技術喚醒了惡魔,但人工智能技術是要建立在我們隱私的大數據之上,而獲取我們的隱私是要建立在所謂的“免費”模式(互聯網思維)之上。但,為什么“免費”模式會興起呢?這是因為我們人性深處的潛藏之惡嗎?(比如,懶惰,逐利,虛偽)當我們體察到了人性深處的“邪惡”時,還會指責那個遙遠的“惡魔”嗎? 或許,是我們喚醒了惡魔;也或許,我們自己就是那個惡魔。 該故事出自《洛克菲勒留給兒子的 38 封信》一書。這本書有可能是偽作,但本文只是想講述一個故事,而并不去考證這本書的真偽,也無意以洛克菲勒來妝點門面。 來源:36氪
- 目前還沒評論,等你發揮!