中文字幕无码av不卡一区,亚洲综合AV永久无码精品一区二区,黑人巨大白妞出浆,黄色高清无码免费看,久久久久免费精品国产,久久无码人妻丰满熟妇区毛片,欧美日韩国产综合草草,久久福利网站,亚洲一区二区三区中文字幕在线,av国内精品久久久久影院

編者按：人們常常對(duì)人工智能能否發(fā)展出比人類更聰明的智慧而進(jìn)行辯論。本文作者Fran?ois Chollet在“The impossibility of intelligence explosion”一文中論述了智能爆炸的不可能性，在他看來智能的發(fā)展是一個(gè)經(jīng)由環(huán)境、文化、大腦等共同進(jìn)化所合力完成的過程。

1965年，I.J.古德首次提出“智能爆炸”概念，它與人工智能有關(guān)：

讓我們將那種超級(jí)智能機(jī)器（ultraintelligent）定義為智力遠(yuǎn)超任何人類的機(jī)器。因?yàn)闄C(jī)械設(shè)計(jì)是這個(gè)超級(jí)智能機(jī)器的其中一種功能，所以它可以設(shè)計(jì)出更優(yōu)秀的機(jī)器；毫無疑問，這將是一次將人類智慧遠(yuǎn)遠(yuǎn)被甩在后面的“智能爆炸”。假如這部機(jī)器足夠順從而告訴我們?nèi)绾慰刂扑?，那么第一個(gè)超級(jí)智能機(jī)器也即是人類所需要的最后一項(xiàng)發(fā)明。

幾十年過去了，能夠使“超級(jí)智能”突然崛起而人類將意外終結(jié)的“智能爆炸”概念在人工智能領(lǐng)域內(nèi)占據(jù)了主導(dǎo)地位。著名商界領(lǐng)袖將其視為一個(gè)比核戰(zhàn)爭(zhēng)和氣候變化更為嚴(yán)重的重大風(fēng)險(xiǎn)。機(jī)器學(xué)習(xí)領(lǐng)域的研究生都贊同這一觀點(diǎn)。2015年針對(duì)人工智能研究人員的電子郵件調(diào)查顯示，有29%的受訪者認(rèn)為，智能爆炸“很可能”或是“極有可能”發(fā)生。另有21%的人認(rèn)為這種可能性需要嚴(yán)肅對(duì)待。

而其最基本的前提是，第一個(gè)“種子人工智能”在不久的將來騰空出世，其解決問題的能力會(huì)略高于人類。這個(gè)種子人工智能將開始設(shè)計(jì)更好的人工智能系統(tǒng)，通過遞歸式的自我完善循環(huán)在短時(shí)間內(nèi)以數(shù)量級(jí)的方式超越人類智慧，將其留在塵埃之中。這一理論的支持者也將智能視為一種超級(jí)力量，如同科幻電影《超驗(yàn)駭客》中所展示的那樣，賦予其持有者塑造生存環(huán)境的近乎超自然的能力。因此，超級(jí)智能意味著近乎于無所不能，并將對(duì)人類的生存構(gòu)成威脅。

這一科幻式論述引發(fā)了關(guān)于人工智能風(fēng)險(xiǎn)與監(jiān)管的必要性的危險(xiǎn)且誤導(dǎo)性的公眾辯論。在本篇文章中，我持智能爆炸不可能發(fā)生的觀點(diǎn)，智能爆炸的概念來自于對(duì)智能本質(zhì)與遞歸式自我完善系統(tǒng)行為的深刻誤解。我嘗試將自己的觀點(diǎn)基于對(duì)智能系統(tǒng)與遞歸系統(tǒng)的具體觀察之上。

一種源于對(duì)于智能誤解的缺陷推理

智能爆炸背后的邏輯，與20世紀(jì)60年代和70年代興起的人工智能理論相似，是詭辯式的：人們以一種完全抽象的方式考慮“智能”，并不聯(lián)系前后情境，也忽略了關(guān)于智能系統(tǒng)與遞歸式自我完善系統(tǒng)的有效證據(jù)。我們不一定非得如此。畢竟，我們身處一個(gè)充斥著智能系統(tǒng)（包括人類自己）和自我完善系統(tǒng)的星球之上，因此我們可以通過簡(jiǎn)單觀察并向其學(xué)習(xí)找到解決那些即將到來的問題的方法，而不是提出無證據(jù)的循環(huán)推論。

為了討論智能以及可能的自我完善問題，我首先需要介紹必要的背景與情境信息。當(dāng)我們?cè)谟懻撝悄艿臅r(shí)候，我們?cè)谡務(wù)撌裁?？?zhǔn)確定義智能本身就是一次挑戰(zhàn)。有關(guān)智能爆炸的敘述是將智能等同于由目前人類大腦或未來電子大腦所代表的個(gè)人智能代理用以解決一般問題的能力。這并不是關(guān)于它的完整描述，所以我將以這一定義為一個(gè)切入點(diǎn)，并展開論述。

智能是情景式的

關(guān)于智能爆炸理論的第一個(gè)問題是它沒有認(rèn)識(shí)到智能必然是更廣泛系統(tǒng)的一部分，應(yīng)該視智能為“罐子里的大腦”，它可以在某種條件下獨(dú)立隨意地使用。大腦只是生物組織的一部分，里面不存在任何內(nèi)在的智能。除了人的大腦之外，人的身體和感覺，人的感覺運(yùn)動(dòng)能共性，也是大腦中的基本組成部分。人所處的環(huán)境是大腦的基本組成部分。人類文化是思想的基本組成部分。這些都是人類所有思想的來源之處。因而不能把智能從它所表達(dá)的環(huán)境中分離出來。

尤其需要提到，不存在“一般”智力這種東西。在抽象層面上，我們通過“沒有免費(fèi)午餐”定理知道這一點(diǎn)，意即在沒有實(shí)際情境的語(yǔ)境下，沒有一種算法比隨機(jī)猜測(cè)的效果好。如果智能是一種解決問題的算法，那么它應(yīng)該關(guān)于處理一個(gè)特殊問題。更具體的說，通過經(jīng)驗(yàn)觀察我們可以了解到所有智能系統(tǒng)都是高度專業(yè)化的。我們今天所創(chuàng)建的人工智能系統(tǒng)基于超專業(yè)極其細(xì)化的任務(wù)，比如玩圍棋，或者是把圖像歸類為10000個(gè)已知類別。章魚的智能是專門用來處理章魚的問題。人類的智能是專門用來處理人類的問題。

如果我們?cè)谡卖~的身體里放入一個(gè)新鮮的人類大腦并將其放歸海底，情況會(huì)如何呢？它能學(xué)會(huì)使用它那八條腿的身體嗎？它能活幾天？我們無法完成這個(gè)實(shí)驗(yàn)，但是我們知道人類與動(dòng)物的認(rèn)知發(fā)展是由硬編碼固定式的、先天動(dòng)力所驅(qū)動(dòng)的。人類的嬰兒天生就有一套先進(jìn)的反射行為和天生的學(xué)習(xí)模板，從而促使其早期的感覺運(yùn)動(dòng)的發(fā)展，這與人類感覺運(yùn)動(dòng)空間的結(jié)構(gòu)有著本質(zhì)的聯(lián)系。大腦擁有硬編碼就相當(dāng)于有了一個(gè)可以抓東西的手，一個(gè)可以吮吸的嘴巴，一個(gè)可以用來視覺跟蹤的基于頭部移動(dòng)的眼睛，這些預(yù)先置入的概念需要通過人類的智能來控制身體。它甚至由喬姆斯基令人信服地論證了，人類的高級(jí)認(rèn)知特征，比如語(yǔ)言能力，是天生的。

同樣，人類可以想象章魚有著一套自己的硬編碼認(rèn)知原語(yǔ)用來學(xué)習(xí)如何使用自己的身體，并在章魚的環(huán)境中生存。人類的大腦在人類的生存條件下極其具有特殊性，這是一種天生的專業(yè)化，并可能延伸到社會(huì)行為、語(yǔ)言與常識(shí)領(lǐng)域，而章魚的大腦同樣也非常專注于章魚的行為。人類嬰兒的大腦即使被正確地移植到章魚的身體里，也可能無法充分控制其獨(dú)特的感覺運(yùn)動(dòng)空間，并且會(huì)很快死掉。

如果我們將一個(gè)人的大腦和身體放入一個(gè)我們不了解的環(huán)境中，會(huì)發(fā)生什么呢？被一群狼養(yǎng)大的毛克力，長(zhǎng)大后會(huì)比他的犬類兄妹更聰明嗎？還是會(huì)像我們一樣聰明？如果我們用小愛因斯坦來代替小毛克力，他最終會(huì)致力于發(fā)展宇宙大理論嗎？我們的經(jīng)驗(yàn)性證據(jù)相對(duì)缺乏，但是就目前所了解的而言，脫離人類文化環(huán)境而成長(zhǎng)起來的孩子并沒有發(fā)展出任何人類智慧。幼年時(shí)期開始在野外長(zhǎng)大的野生孩子們實(shí)際上成為動(dòng)物，并且在回歸文明之后也無法習(xí)得人類的行為和語(yǔ)言。在南非，被猴子撫養(yǎng)長(zhǎng)大的Saturday Mthiyane五歲時(shí)被人類發(fā)現(xiàn)，他在成人后也一直表現(xiàn)得像猴子，一直用四肢跳躍行走，沒有語(yǔ)言能力并拒絕吃熟食。那些至少在某些性格形成時(shí)期與人類進(jìn)行過接觸的孩子，在再教育方面的運(yùn)氣會(huì)稍好一些，盡管他們不能完全掌握人類的機(jī)體應(yīng)用。

如果智能從根本上來說與特定的感覺運(yùn)動(dòng)方式、特定的環(huán)境、特定的成長(zhǎng)過程與特定的待解決問題有關(guān)，那么人類就不可能僅僅通過調(diào)整大腦來武斷地增加替代型智能，好似通過給傳送帶提速來提高工廠生產(chǎn)力一樣。智能的擴(kuò)張只能來自于思維、感覺運(yùn)動(dòng)方式與環(huán)境的共同進(jìn)化。如果說人的大腦是判斷解決問題能力的決定性因素，那么那些智商遠(yuǎn)遠(yuǎn)超過正常范圍的人就會(huì)生活在正常情況之外，他們會(huì)解決那些之前無法解決的問題，并將接管世界，就像某些人害怕比人類更聰明的人工智能會(huì)做的那樣。而事實(shí)上，擁有超長(zhǎng)認(rèn)知能力的天才通常生活在平庸的環(huán)境中，很少有人去做那些引人注目的事情。在特曼里程碑式的“天才遺傳學(xué)研究”中，他指出，那些特別有天賦的實(shí)驗(yàn)對(duì)象，大多會(huì)追求“像警察、海員、打字員和檔案管理員一樣較低下”的職業(yè)。目前大約有700萬人的智商高于150，他們比其余的99.9%的人類有更好的認(rèn)知能力，但是大多數(shù)不是你在新聞里讀到的那些人。在那些真正想要征服世界的人中，幾乎沒有人有著過人的才智。據(jù)說，希特勒高中輟學(xué)，兩次進(jìn)入維也納藝術(shù)學(xué)院的嘗試均失敗了。那些最終在困難問題上取得突破的人，是在環(huán)境、性格、教育與智力的綜合基礎(chǔ)上完成突破的，他們站在巨人的肩膀之上。閃爍著智慧光芒的成功是在恰當(dāng)?shù)臅r(shí)間擁有解決重大問題的能力。這些突出問題的解決者大多都那么聰明，他們的技能似乎只針對(duì)某一專業(yè)領(lǐng)域，并不會(huì)在自己的領(lǐng)域之外表現(xiàn)得超過平均水平。有些人獲得了更好的成就更多是因?yàn)樗麄冇懈鼉?yōu)秀的團(tuán)隊(duì)，或者是有更多的勇氣和職業(yè)道德，或者是有更大的想象力。有些人只是碰巧生活在正確的情境中，在合適的時(shí)間進(jìn)行恰當(dāng)?shù)慕煌?。智能是基本情境?/p>

我們身處的環(huán)境嚴(yán)重限制了我們的個(gè)人智能

智能不是超級(jí)力量，擁有非凡的智能本身并不能使一個(gè)人在所處的環(huán)境中擁有超乎尋常的力量。然而，有充分的證據(jù)證明，雖然具有爭(zhēng)議性，但是用智商可以衡量原本的認(rèn)知能力。這在特曼的研究中首次得到證實(shí)，后來又相繼被其他人證實(shí)，如2006年一項(xiàng)大規(guī)模研究發(fā)現(xiàn)，智商與社會(huì)經(jīng)濟(jì)層面上的成功之間存在著明顯的相關(guān)性。因此，一個(gè)智商為130的人在統(tǒng)計(jì)學(xué)概率上比智商為70的人更有可能成功地解決生活中的問題，雖然在個(gè)人層面上無法保證。但是事實(shí)卻是如下情況：這一相關(guān)性在達(dá)到某一點(diǎn)之后就會(huì)失效。沒有相關(guān)證據(jù)表明智商為170的人比智商為130的人更有可能在自己的領(lǐng)域取得更大的成就。事實(shí)上，許多有影響力的科學(xué)家智商往往在120-130之間，費(fèi)曼為126，DNA的共同發(fā)現(xiàn)者詹姆斯·沃森為124，這處于眾多平庸科學(xué)家的范圍值之內(nèi)。與此同時(shí)，今天仍有大約5萬人的智商達(dá)到170或是更高，而其中有多少人能像沃森教授一樣解決了非常重要的問題？

為什么原有的認(rèn)知能力的實(shí)際效用會(huì)停滯在某個(gè)臨界值上呢？這指向了一個(gè)非常直觀的實(shí)時(shí)：取得高成就的確需要足夠的認(rèn)知能力，但是目前解決問題的瓶頸并不在于潛在的認(rèn)知能力本身，瓶頸在于我們所處的環(huán)境。那些決定了我們的智力表現(xiàn)如何的環(huán)境因素限制了大腦能做什么的可能性，包括我們能長(zhǎng)成為多么具有智慧的人，如何能有效利用所開發(fā)的智能，以及解決問題的能力。所有證據(jù)表明，我們當(dāng)前的環(huán)境，就像過去20萬年包括史前時(shí)期的整個(gè)歷史環(huán)境一樣，不允許高智商的個(gè)體充分開發(fā)和利用自己的認(rèn)知潛能。1萬年前，一個(gè)具有高潛力的人類在低復(fù)雜度的環(huán)境中長(zhǎng)大，會(huì)用少于5000個(gè)單詞說著一種語(yǔ)言，從來沒有人教他讀或?qū)懀佑|的知識(shí)有限，受到的認(rèn)知挑戰(zhàn)也很少。對(duì)于大多數(shù)當(dāng)代人來說，情況可能會(huì)稍微好一些，但是沒有跡象表明我們的認(rèn)知潛能已經(jīng)超出了我們所生存的環(huán)境。

“不知怎么的，我對(duì)于愛因斯坦的大腦重量與復(fù)雜程度并不感興趣，而對(duì)于那些懷有同樣天賦的在棉田和血汗工廠里工作與死亡的人們更感興趣?！薄沟俜摇そ堋す艩柕?/p>

在叢林中長(zhǎng)大的聰明人不過是無毛猿類。同樣，將一個(gè)擁有超級(jí)人類大腦的人工智能放置在一個(gè)現(xiàn)代人的身體里，很可能不會(huì)比聰明的當(dāng)代人有能力激發(fā)出更大的能力。如果這種情況可能出現(xiàn)，那么擁有極高智商的人類的個(gè)人成就將在統(tǒng)計(jì)學(xué)意義上表現(xiàn)得超乎尋常，他們會(huì)實(shí)現(xiàn)對(duì)環(huán)境的強(qiáng)力控制，并能夠解決現(xiàn)實(shí)實(shí)踐中并不存在的重大的突出問題。

大多數(shù)人的智力并不是憑借我們的大腦，而是在我們的文明中具象化

問題不僅僅是關(guān)于我們的身體、感覺和環(huán)境在多大程度上決定了大腦的智力發(fā)展程度，關(guān)鍵是，我們的生物大腦只是我們整個(gè)智力的一小部分組成。認(rèn)知修復(fù)術(shù)外在于我們，它通過人類大腦而強(qiáng)化解決問題的能力。智能手機(jī)、筆記本電腦、谷歌搜索、你在學(xué)校里獲得的認(rèn)知手段、書本、其他人、數(shù)字符號(hào)、編程。在所有認(rèn)識(shí)修復(fù)邏輯中，最基本的是語(yǔ)言本身，它本質(zhì)上是一種認(rèn)知操作系統(tǒng)，沒有它我們就無法思考。這些東西并不僅僅是被灌輸進(jìn)大腦然后被使用，這實(shí)際上是一種外部認(rèn)知過程，通過時(shí)間、空間以及更為重要的個(gè)性等非生物方式來運(yùn)行思維和尋找解決問題的方法。是這些認(rèn)知修復(fù)術(shù)而不是我們的大腦，在我們認(rèn)知能力中扮演著重要角色。

我們身體本身就是工具。一個(gè)個(gè)體從物理學(xué)意義上來說幾乎是無用的，因此，人類只是兩腳猿類。是那些經(jīng)過數(shù)千年知識(shí)與外部系統(tǒng)集體積累的被我們稱之為“文明”的東西使我們超越了動(dòng)物的本性。當(dāng)一位科學(xué)家的研究取得進(jìn)展時(shí)，他們大腦中所運(yùn)行的思維過程只是這個(gè)方程式的一小部分，整個(gè)解決問題的過程將擴(kuò)大至計(jì)算機(jī)、其他研究人員、論文筆記、數(shù)學(xué)符號(hào)等范圍。他們之所以成功是因?yàn)檎驹诹司奕说募绨蛑?，而自己所做的工作只不過是跨越了幾十年，跨越了成千上萬的人而走完了解決問題的最后一個(gè)子程序。他們自身之于整個(gè)問題解決的意義并不比單個(gè)晶體管在芯片上所扮演的角色重要。

個(gè)體大腦無法實(shí)現(xiàn)遞歸式智力增強(qiáng)

大量證據(jù)指向這個(gè)簡(jiǎn)單的事實(shí)：?jiǎn)螒{一個(gè)人的大腦無法設(shè)計(jì)出比自己更強(qiáng)大的智慧體。以下是純粹的經(jīng)驗(yàn)之談：數(shù)以十億計(jì)的生命個(gè)體如過眼云煙來來去去，始終沒有一人成功過。結(jié)論顯而易見，一個(gè)人無法在自己的一生中創(chuàng)造出智慧體。也可以這么說，只有將數(shù)十億視為基數(shù)，那么就可能成功。

這些在幾千年的時(shí)間中積累了知識(shí)并發(fā)展出外部智能過程的數(shù)十億大腦產(chǎn)生了一個(gè)系統(tǒng)——文明，它最終會(huì)使人工大腦比人類個(gè)體更聰明。是整體的文明，不是你，不是我，也不是其他任何人，將創(chuàng)造出超級(jí)人工智能。這是一個(gè)我們甚至無法理解的涉及無數(shù)人類，涉及無數(shù)時(shí)間跨度的過程。它不僅與生物智慧有關(guān)，而且更多與外部化的智慧有關(guān)，這涉及書籍、計(jì)算機(jī)、數(shù)學(xué)、科學(xué)、互聯(lián)網(wǎng)等。在個(gè)人層面上，我們是文明的載體，站在前人的肩膀上工作，并將我們的發(fā)現(xiàn)向下傳遞。我們是文明體系中解決問題的一小粒晶體管。

經(jīng)過幾個(gè)世紀(jì)以來的共同研究，未來的超級(jí)人工智能是否有能力創(chuàng)造出比自己更強(qiáng)大的人工智能？不，人類無法超越。記住，沒有人，沒有任何智慧體能成功設(shè)計(jì)出比自己更聰明的東西。我們所要做的是，逐漸地、集體地建立起超越自我解決問題能力的外部系統(tǒng)。

然而，未來的人工智能，包括那些模仿人類以及迄今為止所生產(chǎn)的其他智能系統(tǒng)在內(nèi)，將有助于我們的文明發(fā)展，而人類的文明將反過來不斷擴(kuò)大其生產(chǎn)人工智能的能力。在這個(gè)意義上，人工智能與計(jì)算機(jī)、書籍和語(yǔ)言本身沒有什么不同：它是一種賦予我們文明力量的技術(shù)。因此，超級(jí)人工智能的出現(xiàn)被作為一個(gè)奇點(diǎn)與計(jì)算機(jī)、書籍和語(yǔ)言的出現(xiàn)并無特殊之處。文明將發(fā)展出人工智能，并將繼續(xù)前進(jìn)。文明終究會(huì)超越我們現(xiàn)在的樣子，就像它超越一萬年前時(shí)我們的樣子。這是一個(gè)漸進(jìn)的過程，不是一個(gè)突變。

那么，智能爆炸的基礎(chǔ)前提，即具有比人類更強(qiáng)大的解決問題的能力并導(dǎo)致突變式的、遞歸式的、失控的“種子人工智能”的說法是錯(cuò)誤的。人類解決問題的能力，尤其是我們創(chuàng)造人工智能的能力，已經(jīng)在不斷提高，這些能力并不主要存在于我們的生物大腦中，而是存在于外部的、集體式的工具中。遞歸式循環(huán)長(zhǎng)久以來就存在，“更棒的大腦”的崛起并不會(huì)對(duì)其產(chǎn)生質(zhì)的影響，也不會(huì)超過以往任何一種提高智力的技術(shù)。人類的大腦本身并不是創(chuàng)造人工智能過程中的重要瓶頸。

那么就這一點(diǎn)，你可能會(huì)問，文明本身不就是一個(gè)正在運(yùn)轉(zhuǎn)的進(jìn)行自我完善的大腦嗎？那么我們的文明智慧會(huì)發(fā)生大爆炸嗎？不會(huì)。因?yàn)橹陵P(guān)重要的是，文明智慧水平的循環(huán)提升只會(huì)出現(xiàn)明顯的線性進(jìn)步，不會(huì)出現(xiàn)大爆炸。但是原因是什么呢？難道不是數(shù)學(xué)意義上遞歸式的增強(qiáng)X會(huì)導(dǎo)致X的指數(shù)級(jí)增長(zhǎng)嗎？不會(huì)的。簡(jiǎn)言之，因?yàn)闆]有一個(gè)復(fù)雜的真實(shí)系統(tǒng)可以被簡(jiǎn)單建模為`X(t + 1) = X(t) * a, a > 1`。任何系統(tǒng)無法在真空模式中生存，智能尤甚，更不用說人類文明。

我們對(duì)于遞歸式自我完善系統(tǒng)的了解

我們不必猜測(cè)“爆炸”是否會(huì)發(fā)生在智能系統(tǒng)有能力優(yōu)化自身智能的時(shí)刻。當(dāng)這種情況發(fā)生時(shí)，大多數(shù)系統(tǒng)也是在進(jìn)行著遞歸式自我完善。而人類被這些變化包圍。因此我們能夠確切的知道這些系統(tǒng)在各種各樣的環(huán)境中，在各種各樣的時(shí)間尺度上如何運(yùn)作。你自己就是一個(gè)遞歸式自我完善系統(tǒng)：教育使你更聰明，從而反過來使你更有效地教育自己。同樣，人類文明也在更長(zhǎng)的時(shí)間跨度中進(jìn)行遞歸式自我完善。機(jī)械電子化也會(huì)發(fā)生遞歸式自我完善，用更好的生產(chǎn)機(jī)器人制造出更好的生產(chǎn)機(jī)器人。軍事帝國(guó)同樣也會(huì)進(jìn)行遞歸式自我擴(kuò)張，帝國(guó)越大，軍事力量就越強(qiáng)。還有個(gè)人投資的遞歸式自我提高，你的錢越多，你賺的錢就越多。各種例子比比皆是。

以軟件為例。編寫軟件顯然可以增強(qiáng)軟件編寫能力：首先，我們編輯可以執(zhí)行“自動(dòng)編程”的編譯器。之后，我們使用編譯器開發(fā)出實(shí)現(xiàn)更強(qiáng)大編程功能的新語(yǔ)言。我們使用調(diào)試程序、IDEs、linters、bug predictors這些語(yǔ)言開發(fā)出高級(jí)開發(fā)工具。在未來，軟件甚至?xí)孕袝鴮憽?/p>

那么，這個(gè)遞歸式自我完善過程的最終結(jié)果是什么？你能用自己的電腦軟件把工作效率提高一倍嗎？明年呢？可以說，軟件的適用性一直在以可測(cè)量的線性速度提高，與此同時(shí)我們已經(jīng)投入了指數(shù)級(jí)的努力在改善它。幾十年來，軟件開發(fā)人員的數(shù)量一直呈指數(shù)級(jí)增長(zhǎng)，而我們所運(yùn)行軟件晶體管數(shù)量也在不斷增長(zhǎng)，這與摩爾定律相符。但是，我們的電腦變得有用只是相對(duì)于2012年、2002年或者是1992年。

原因是什么呢？首先是因?yàn)檐浖挠杏眯允艿搅藨?yīng)用情境的根本限制，就像智力一樣，它被其所表達(dá)的情境所定義與限制。軟件只是我們的經(jīng)濟(jì)、我們的生活這個(gè)更大過程中的一個(gè)齒輪，就像個(gè)體的大腦只是人類文化這個(gè)更大進(jìn)程中的一個(gè)齒輪一樣。這一情境嚴(yán)苛地限制了軟件發(fā)揮其最大潛在的可能性，就像我們所處的環(huán)境嚴(yán)苛地限制了個(gè)體的智力發(fā)展程度，即使是擁有超級(jí)大腦的天才。

除了前后情境的限制，即使系統(tǒng)的某個(gè)部分具有遞歸式自我完善的能力，系統(tǒng)的其他部分也可能成為瓶頸。在軟件中，對(duì)抗性過程會(huì)出現(xiàn)在其進(jìn)行自我完善的過程中，這可能是由資源消耗問題、特征蠕動(dòng)問題、或是用戶體驗(yàn)問題所引起。當(dāng)涉及個(gè)人投資的問題時(shí)，你自己的支出率就存在這樣一個(gè)對(duì)抗過程，你擁有的越多，花的錢就越多。而提到智力問題，系統(tǒng)間的交流會(huì)阻礙針對(duì)基層模塊的任何改進(jìn)行為，因?yàn)橹悄懿考竽X在進(jìn)行協(xié)調(diào)時(shí)會(huì)遇到太多麻煩。一個(gè)擁有更聰明人士的社會(huì)體系需要投入更多的聯(lián)系與交流。高智商的人也更容易患上某些心理疾病，這也許不是巧合。過去的軍事帝國(guó)在超過一定規(guī)模之后走向崩潰也可能不是偶然事件。指數(shù)級(jí)的增長(zhǎng)，會(huì)遇到指數(shù)級(jí)的摩擦。

一個(gè)值得我們注意的具體議題是科學(xué)進(jìn)步，因?yàn)樗诟拍钌戏浅＝咏谥悄鼙旧?。作為一種解決問題的科學(xué)非常接近于與正在運(yùn)行中的超級(jí)人工智能。當(dāng)然，科學(xué)也是一種進(jìn)行遞歸式自我完善的系統(tǒng)，科學(xué)的進(jìn)步會(huì)導(dǎo)致工具的發(fā)展，從而賦予科學(xué)以力量，比如實(shí)驗(yàn)室硬件（如量子物理學(xué)發(fā)現(xiàn)了激光，從而使得新量子物理實(shí)驗(yàn)成為可能）、概念工具（如新定理、新理論）、認(rèn)知工具（如數(shù)學(xué)符號(hào)）、軟件工具、通信協(xié)議，這使得科學(xué)家能更好的彼此合作（比如因特網(wǎng)）……

然而，現(xiàn)代科學(xué)卻是以可測(cè)量的線性方式進(jìn)步。我在2012年的一篇題為《奇點(diǎn)不會(huì)來》的文章中詳細(xì)描述了這一現(xiàn)象。物理學(xué)在1950-2000年期間所取得的進(jìn)步速度并沒有超過1900-1950年?？梢哉f，兩個(gè)階段的進(jìn)步近乎相同。今天數(shù)學(xué)領(lǐng)域的發(fā)現(xiàn)并沒有比1920年變快。幾十年來，醫(yī)學(xué)從所有指標(biāo)來看呈線性發(fā)展模式。盡管我們?cè)诳茖W(xué)上投入了大量的精力，科研人員的數(shù)量以15-20年增加一倍的速率變化，這些研究人員還正在使用那些以指數(shù)級(jí)優(yōu)化的計(jì)算機(jī)來提高科學(xué)生產(chǎn)力。

結(jié)果如何？是什么瓶頸和對(duì)抗反應(yīng)正在減緩科學(xué)的遞歸式自我提升？原因有很多，我根本數(shù)不清楚。而下文將提到其中一些。重要的是，提到的每一點(diǎn)都適用于處于遞歸式自我完善的人工智能系統(tǒng)。

• 隨著時(shí)間的推移，在某一特定領(lǐng)域進(jìn)行科學(xué)研究的難度會(huì)成倍增加。該領(lǐng)域的開創(chuàng)者收割了大多數(shù)唾手可得的成果，而在之后取得類似的成就需要付出更多的努力。沒有一位研究人員能像香農(nóng)1948年的論文那樣，在信息理論方面取得如此進(jìn)展。
• 當(dāng)某一領(lǐng)域范圍更廣時(shí)，研究人員之間的分享與合作會(huì)變得更加困難。要跟上新出現(xiàn)的思想越來越難。記住，有N個(gè)節(jié)點(diǎn)的網(wǎng)絡(luò)一共有N * (N – 1) / 2條邊。
• 隨著科學(xué)知識(shí)的擴(kuò)展，需要在教育與培訓(xùn)上投入的時(shí)間和精力也在增加。而單個(gè)研究人員的研究領(lǐng)域也變得越來越窄。

在現(xiàn)實(shí)世界，系統(tǒng)瓶頸、收益遞減與對(duì)抗性反映最終會(huì)圍繞在所有遞歸式自我完善的周圍進(jìn)行干擾。自我完善的確會(huì)帶來進(jìn)步，但是進(jìn)步往往是線性的，或者是S型的。你所投入的第一枚“種子美元”通常不會(huì)帶來“財(cái)富爆炸”。相反，投資回報(bào)與不斷增長(zhǎng)的支出之間的平衡通常會(huì)使你的儲(chǔ)蓄隨著時(shí)間的推移而大致呈線性增長(zhǎng)狀態(tài)。這些是比思維的自我完善以數(shù)量級(jí)程度簡(jiǎn)單化的系統(tǒng)。

同樣地，第一個(gè)超級(jí)人工智能只是一個(gè)我們?cè)缇鸵呀?jīng)開始攀登的線性進(jìn)步的又一個(gè)腳印。

總結(jié)

智能的發(fā)展只能來自于大腦、感覺運(yùn)動(dòng)能供性、環(huán)境與文化的共同進(jìn)化，而不僅僅是在一個(gè)封閉的罐子中某些大腦齒輪孤立地發(fā)展。這種共同進(jìn)化自宇宙大爆炸開始就緩緩啟動(dòng)，隨著智能越來越基于數(shù)字化，它將繼續(xù)存在。由于這個(gè)過程的進(jìn)展大致呈線性模式，因而不會(huì)發(fā)生所謂的“智能爆炸”。

記?。?/strong>