從硅谷到浦東,看人工智能ChatGPT利弊

0 評論 5279 瀏覽 5 收藏 16 分鐘

從閑聊到幫程序員解決程序bug等,ChatGPT的能力讓不少人驚嘆。然而,事物總有兩面性。當(dāng)ChatGPT的能力為人們帶來便利時,ChatGPT的能力也給人們帶來了不可忽視的問題。本文就此分析了人工智能ChatGPT的利與弊,一起來看看吧。

2022年12月,微軟投資的AI實驗室OpenAI發(fā)布ChatGPT,立刻火遍全網(wǎng),短短5天內(nèi)吸引了100萬名用戶。在北密歇根大學(xué)的一門課程論文評分時,用ChatGPT撰寫的論文甚至得到了A+的評分,被教授認(rèn)為是“全班最好的論文”。其出現(xiàn)對很多教學(xué)活動產(chǎn)生了巨大沖擊,讓教師們不得不對課堂做出調(diào)整。

官方描述,這是一個“可以連續(xù)回答問題、承認(rèn)錯誤、挑戰(zhàn)不正確的前提并拒絕不適當(dāng)要求”的對話模型。從閑聊、回答問題到寫小說、寫詩歌、幫程序員解決程序bug等,ChatGPT的能力讓不少人驚嘆。

信息化專家張禮立,1995年在美國Sun微系統(tǒng)公司做IT架構(gòu)師;同年,計算機(jī)科學(xué)家理查德·華萊士開發(fā)了聊天機(jī)器人ALICE,這時的人工智能機(jī)器人已經(jīng)可以讀懂樂譜、解釋圖片和表達(dá)人性化推理,而這樣的變化距離1964年世界上第一個聊天機(jī)器人ELIZA的誕生,只過去了30年。

最近幾年,AI生成內(nèi)容(AIGC)突飛猛進(jìn),OpenAI發(fā)布了GPT-3模型,而ChatGPT就是基于GPT-3引入“強(qiáng)化學(xué)習(xí)”的進(jìn)一步創(chuàng)新,其大幅提高了AI在人機(jī)對話時的準(zhǔn)確度和可控性。

然而,盡管GPT-3有1750億個參數(shù)用于“記憶”和“提煉”人類知識的規(guī)律,但是ChatGPT在使用當(dāng)中,還是很快暴露出了弊端。比如給出的答案并非完全準(zhǔn)確,甚至對于一些有準(zhǔn)確答案的常識問題,也會出現(xiàn)漏洞,以至于知名程序員問答網(wǎng)站Stack Overflow緊急發(fā)布公告,宣布暫時封禁ChatGPT。

面對這一現(xiàn)象,《新周刊》采訪了曾在美國硅谷的科技公司工作了10余年的張禮立,針對AIGC在當(dāng)下的應(yīng)用狀況和難題,以及新技術(shù)的迭代可能產(chǎn)生的新的創(chuàng)業(yè)熱潮展開了討論。

2022年3月,上海市政府發(fā)布了“城市數(shù)字化轉(zhuǎn)型”的建設(shè)實施方案。上海作為全國首個實施數(shù)字化轉(zhuǎn)型的城市,面對著數(shù)字技術(shù)人才需求的龐大缺口。而張禮立擔(dān)起了首批數(shù)字技術(shù)應(yīng)用工程師考級的課程講授。

“未來的人工智能應(yīng)用,究竟需要培養(yǎng)出什么樣的人,來對機(jī)器‘發(fā)號施令’”,這是張禮立經(jīng)常思考的問題。

一、ChatGPT是一項重大的技術(shù)創(chuàng)新嗎?

2006年,張禮立從美國硅谷歸國,加入上海市海促會。此后,他長期在世界500強(qiáng)企業(yè)擔(dān)任高管,并從事信息化和企業(yè)科技管理工作,這使得他對城市數(shù)字化的切身感受非常之深——ChatGPT火爆的背后,對于未來社會的發(fā)展究竟利弊幾何,恐怕才是各界應(yīng)該關(guān)注的問題。

如今,有不少人在使用過ChatGPT之后認(rèn)為,未來這樣的技術(shù)不僅可以吊打谷歌的人工智能,還可能迫使一些編程問答網(wǎng)站面臨極大威脅,甚至有用戶與ChatGPT就現(xiàn)代物理學(xué)的歷史進(jìn)行對話后發(fā)出驚呼:以后大學(xué)都可能不復(fù)存在。然而,在張禮立看來,這些說法多少有些“過度吹捧”之嫌。

2018年,張禮立開始在浦東創(chuàng)業(yè),出于對產(chǎn)業(yè)結(jié)構(gòu)頂層設(shè)計的敏感,他發(fā)現(xiàn)在城市的數(shù)字化轉(zhuǎn)型中,除了科技創(chuàng)新本身是一個挑戰(zhàn)之外,更大的挑戰(zhàn)在于如何“定義”創(chuàng)新。

奧地利經(jīng)濟(jì)學(xué)家約瑟夫·熊彼特曾在《經(jīng)濟(jì)發(fā)展理論》一書中提出“創(chuàng)新理論”:“只要發(fā)明還沒有得到實際上的應(yīng)用,那么在經(jīng)濟(jì)上就是不起作用的?!睂Υ?,張禮立提出了自己的解讀:新工具或新方法要在經(jīng)濟(jì)發(fā)展中起作用,最重要的含義就是能夠創(chuàng)造出新的價值,而所謂的創(chuàng)新,最后一定具有普遍性,而且能夠給人類帶來福祉。

在張禮立看來,要判斷ChatGPT是不是一項技術(shù)創(chuàng)新,首先要肯定ChatGPT確實是一項技術(shù)突破。

1997年超級電腦“深藍(lán)”擊敗國際象棋世界冠軍卡斯帕羅夫、2016年3月AlphaGo在“人機(jī)大戰(zhàn)”中擊敗圍棋世界冠軍李世石,這些案例在細(xì)分垂直的領(lǐng)域當(dāng)中,只是把算力、算法、模型集中化,但是卻并沒有更廣泛的橫向擴(kuò)展。而ChatGPT則更像是“萬寶全書”,它把一個可以“強(qiáng)化學(xué)習(xí)”的龐大數(shù)據(jù)模型,放入了一個問答系統(tǒng),但是怎么能確保它永遠(yuǎn)不出錯呢?

“1750億個參數(shù)當(dāng)然是可控的,就好比在醫(yī)療上將已知的干細(xì)胞植入人體,但是讓器官再生這個過程卻是不可控的。AIGC生成的內(nèi)容也是一樣的道理,你永遠(yuǎn)不知道它的嘴里會吐出什么象牙來?!睆埗Y立表示,我們之所以覺得它有趣,可以寫詩、寫文章,就是因為它的結(jié)果是不可控的。

ChatGPT確實推動了狹義上的人工智能進(jìn)步,但核心問題是,大規(guī)模的信息輸出還處于“黑匣子”狀態(tài),未來如何讓它的結(jié)果更可控,將影響到每個產(chǎn)業(yè)的發(fā)展。

二、AIGC究竟該如何應(yīng)用?

科技的每一次進(jìn)步甚至迭代,都會引發(fā)不少創(chuàng)業(yè)者和企業(yè)家思考,如果一項技術(shù)既可以產(chǎn)生經(jīng)濟(jì)效益,又可以造福社會,那為什么不去做呢?實際上,人工智能普及和應(yīng)用,往往面臨著不少困難,畢竟智能產(chǎn)品的更新?lián)Q代,需要的是人們對使用習(xí)慣和舊觀念的打破。

如今,人工智能需要獲取使用者越來越多的個人信息,這顯然涉及隱私保護(hù)的“科技道德”問題,再加上人工智能解決方案的成本往往也令人望而卻步——人類通過互聯(lián)網(wǎng)和軟件,已經(jīng)基本可以滿足所有的生活需求,這種更具成本效益的方式,不免將人工智能推向了“邊緣”。

但這并不代表人工智能發(fā)展到ChatGPT,供人“娛樂”一番后,就算是走到了頭。2022年8月,張禮立在上海市海促會的換屆選舉中,當(dāng)選為第六屆海促會會長。除了經(jīng)常要作為客座教授去上海交大授課,他平時也格外關(guān)注醫(yī)療衛(wèi)生與健康產(chǎn)業(yè)。

在張禮立看來,自新冠疫情暴發(fā)以來的三年里,人工智能在生物醫(yī)藥方面發(fā)揮的效能可謂不小。由于生物醫(yī)藥需要做大量化學(xué)分子的適配,人工智能似乎找到了用武之地,甚至在未來國內(nèi)醫(yī)療產(chǎn)業(yè)的應(yīng)用,前景也不可小覷。

從長遠(yuǎn)角度來看,人工智能勢必會對人類的生活產(chǎn)生長期影響,且不是任何年齡代際所能限制的。張禮立指出,比如成長于手機(jī)支付的一代人,很少有對貨幣的概念,如果讓他們?nèi)ヒ恍┻€在使用紙幣的國家,他們反而會覺得不適應(yīng)。

“為什么許多歐洲國家不去使用線上支付?而將來所謂的互聯(lián)網(wǎng)原住民、元宇宙原住民,在未來的全球化當(dāng)中,是不是會同世界上的許多人產(chǎn)生鴻溝?從這個角度來看,他們不見得一定就是引領(lǐng)者?!睆埗Y立表示。對于AIGC的應(yīng)用,他也始終保持著客觀審慎的態(tài)度。

據(jù)張禮立判斷,未來AIGC或許會在科技企業(yè)的應(yīng)用場景當(dāng)中率先發(fā)力。原因在于企業(yè)本身就屬于投資主體,擁有支出成本的能力。比如說在一場數(shù)十人的工作會議中,AIGC能夠根據(jù)大家討論的話題和發(fā)言,自動整理生成一份會議紀(jì)要,甚至把統(tǒng)計數(shù)據(jù)也都制成表格,這無疑會更大地提高企業(yè)的工作效率。

此外,譬如中國政府提出的“3060碳達(dá)峰和碳中和”的承諾已是迫在眉睫,假設(shè)我們想知道中國當(dāng)下不同行業(yè)的零碳標(biāo)準(zhǔn),AIGC是不是能很快地檢索出這些標(biāo)準(zhǔn)?在未來數(shù)字城市轉(zhuǎn)型中,當(dāng)人工智能重新將制造業(yè)的供應(yīng)鏈進(jìn)行數(shù)字化,那對于今后的國民經(jīng)濟(jì),以及為全球化發(fā)展作出的推動,都將是不容小覷的。

張禮立認(rèn)為,如果將人類創(chuàng)造的知識分為社會科學(xué)和自然科學(xué),上述提出的應(yīng)用基本上都是建立在自然科學(xué)的前提之下對數(shù)據(jù)進(jìn)行的收集整理工作。但是如果涉及文學(xué)、音樂、繪畫等社會科學(xué)領(lǐng)域的內(nèi)容生產(chǎn),還是要“點(diǎn)到為止”,因為如果人類連想象和思考都丟失的話,最終的結(jié)果可能是人類會變得越來越愚蠢。

三、人類是否需要走過“人工智能冬季”?

1984年,由斯蒂夫·巴倫執(zhí)導(dǎo)的電影《電腦夢幻曲》上映。情節(jié)圍繞著男人、女人和一個名為“埃德加”的有感知的個人電腦之間的三角戀情展開了一場愛恨糾葛。人類似乎從上世紀(jì)開始,就在幻想聊天機(jī)器人能夠產(chǎn)生自我意識。

但是在人工智能促進(jìn)協(xié)會(AAAI)上,美國人工智能理論家羅杰·尚克(Roger Schank)和“人工智能之父”、框架理論的創(chuàng)立者馬文·明斯基(Marvin Minsky)就曾向世界發(fā)出過“人工智能冬季”的警告。

1997年,“深藍(lán)”和卡斯帕羅夫下國際象棋的事件,使得西方媒體對這件事情的看法無一不是負(fù)面的——人類的失敗怎么來得那么快。在張禮立看來,當(dāng)時的人們之所以會對科技心生恐懼,并不是因為擔(dān)心機(jī)器人的腦子比人類的好使。

“人工智能是否會取代人類”本身就是一個偽命題,而恐懼的真實原因其實是在于,一旦這個會說“人話”的機(jī)器人開始發(fā)表感言、傳達(dá)價值觀念,我們的身邊將會到處都是似是而非的“謊言”,令人無從辨別。

如果人工智能要代替人類思考,那么我們真的需要走過這個“冬季”嗎?對此,張禮立分析,人工智能發(fā)展至今,走過了“摩爾定律”和“大數(shù)據(jù)”,進(jìn)入了第3—4個“冬季”的周期?,F(xiàn)在的“冬天”到底冷不冷、冷到什么程度,可能并不好說,但是大家都能回過頭看到,每當(dāng)有這些技術(shù)出現(xiàn)的時候,人工智能從宏觀上看,其實都是停滯發(fā)展的。

只有當(dāng)人類在生活中出現(xiàn)“木桶效應(yīng)”的時候,人工智能才會出來發(fā)揮作用,補(bǔ)上短板。比如手機(jī)有導(dǎo)航和陀螺儀,我們可以通過GPS和北斗進(jìn)行定位等,但是也僅限于此,并沒有超出人類“衣食住行”的范疇。

“盡管在‘弱人工智能’的概念上,有真正做到讓人類的生活變得更便利,但是像‘如何通過人工智能顛覆人類生活方式’這樣的話語卻沒有人敢說?!睆埗Y立指出。

如今,有不少人看好AIGC在知識教育領(lǐng)域的前景,然而對于張禮立來說,這反而是最需要慎之又慎的行為?!叭斯ぶ悄艿某踔裕墙夥湃说碾p手,提高生產(chǎn)力。AIGC可以像搜索引擎一般為人們提供精準(zhǔn)的知識性羅列,但是最終選擇相不相信,或者說最終對信息作出決策的,還得是人自己?!睆埗Y立提出了自己對AIGC的擔(dān)憂。

人工智能可以收集數(shù)據(jù),對數(shù)據(jù)分類、貼標(biāo)簽,但它不能告訴我們什么是好、什么是壞。

據(jù)張禮立回憶,由于2022年上海疫情,相當(dāng)一部分人開始線上上課。正因為這樣,才需要通過一些互動,確保學(xué)員們不是在打瞌睡,所以他經(jīng)常會提出“明白的扣1,不明白的扣2”這樣的詢問,結(jié)果滿屏都是“1、2、1、2……”,這成了張禮立腦海中揮之不去的陰霾——人與人之間的連接、人與人之間交流的溫度,似乎都消失了,機(jī)器越來越像人,人卻越來越像機(jī)器。

“人如果沒有了勤勞的意志,沒有了自主學(xué)習(xí)的耐心,甚至丟失了是非判斷的能力,丟失了安身立命的責(zé)任,那么如此匱乏的人生,也會逐漸失去意義?!睆埗Y立說。

作者: 段志飛

來源公眾號:新生活方式研究院(ID:neweeklylifestyle),《新周刊》旗下生活方式研究院。

本文由人人都是產(chǎn)品經(jīng)理合作媒體 @新周刊 授權(quán)發(fā)布,未經(jīng)許可,禁止轉(zhuǎn)載。

題圖來自Pexels,基于CC0協(xié)議

該文觀點(diǎn)僅代表作者本人,人人都是產(chǎn)品經(jīng)理平臺僅提供信息存儲空間服務(wù)。

更多精彩內(nèi)容,請關(guān)注人人都是產(chǎn)品經(jīng)理微信公眾號或下載App
評論
評論請登錄
  1. 目前還沒評論,等你發(fā)揮!