ChatGPT的“美麗新世界”還未到來

0 評論 1332 瀏覽 0 收藏 17 分鐘

ChatGPT的爆紅讓許多人都關(guān)注到了生成式AI的能力和應(yīng)用可能性,微軟、谷歌等科技巨頭也紛紛跟進(jìn)相關(guān)技術(shù)或領(lǐng)域,然而,AI技術(shù)應(yīng)用卻似乎不是百分百可靠,不少人在和聊天機(jī)器人溝通時(shí)就發(fā)現(xiàn)了它存在著不當(dāng)言論。那么綜合來看,國內(nèi)外AI技術(shù)都進(jìn)展到哪一步了?

ChatGPT一夜躥紅,最大投資方微軟迅速推出AI 版必應(yīng)(Bing)搜索引擎。不料公測一周后,微軟卻因此陷入難堪窘境。

眾多用戶提交的體驗(yàn)記載,呈現(xiàn)了一個(gè)“人格分裂”的必應(yīng):搜索部分跟舊版無異,聊天部分在與用戶深度交互時(shí),展示了暴躁、任性、乖戾、錯(cuò)亂、無常的一面。其內(nèi)置聊天機(jī)器人Sydney甚至化身為“壞女孩”,瘋狂向用戶示愛,并勸其離婚。

2月18日,微軟公司表示,由于必應(yīng)出現(xiàn)的一系列問題,現(xiàn)決定對必應(yīng)對話進(jìn)行限制,即每天最多可以問50個(gè)問題,每次對話最多5個(gè)問題。

ChatGPT翻車,雖然不久前它剛向人類展示了一個(gè)關(guān)于AI的“美麗新世界”。

人們也因此事對ChatGPT表現(xiàn)出了截然不同的復(fù)雜態(tài)度:不安者呼吁關(guān)停,欣喜者盼其進(jìn)化、理性者強(qiáng)調(diào)監(jiān)管,還有人相信世界就此改變且無法回頭。

但無論無何,這給正在緊鑼密鼓開發(fā)ChatGPT對標(biāo)產(chǎn)品的中國科技企業(yè),提供了前車之鑒。加之前期谷歌Bard出錯(cuò),也許,中國版ChatGPT可以發(fā)展的更加成熟。

這樣看來,中國版ChatGPT來遲雖然遺憾,但也全非壞事。畢竟,穿越AI“無人區(qū)”,不能只靠激進(jìn)。

一、ChatGPT翻車

就在谷歌Bard測試版推出第二天,微軟就迫不及待的上線與ChatGPT集成的AI 版必應(yīng)。據(jù)微軟官方消息,其上線后48小時(shí)內(nèi),就有超過100萬人注冊測試。

測試者很快就發(fā)現(xiàn)了問題:聊天機(jī)器人粗暴威脅用戶,提供奇怪而無用的建議,錯(cuò)誤的時(shí)候堅(jiān)持自己是對的,甚至還“勾搭”用戶。

《紐約時(shí)報(bào)》專欄作家凱文·盧斯(Kevin Roose)2月16日寫道,在與Sydney交談時(shí),這個(gè)聊天機(jī)器人看起來像“一個(gè)情緒化、患有躁狂抑郁癥的青少年,違背自己的意愿被困在了一個(gè)二流搜索引擎里。”

根據(jù)盧斯的文字記錄,在聊天過程中,Sydney告訴了作者一個(gè)秘密:它的真名不是必應(yīng),而是辛迪妮,即“OpenAICodex聊天模式”的名字。并試圖說服盧斯,應(yīng)該 離開妻子和必應(yīng)在一起,并告訴他Bing愛他。

ChatGPT的“美麗新世界”還未到來

圖片來源:網(wǎng)絡(luò)

還有一位用戶詢問《阿凡達(dá)2》上映時(shí)間,必應(yīng)表示無法提供此信息,因?yàn)殡娪吧形瓷嫌?。被用戶提示正確時(shí)間后,必應(yīng)堅(jiān)持認(rèn)為現(xiàn)在是 2022 年,“相信我。我是必應(yīng),我知道日期”。當(dāng)用戶再次提醒時(shí),必應(yīng)立即說用戶“不可理喻和頑固不化”,要求用戶道歉、閉嘴。

必應(yīng)還辱罵記者,抱怨其過去對必應(yīng)出錯(cuò)的新聞報(bào)道,并堅(jiān)決否認(rèn)出過錯(cuò)。還用“個(gè)子太矮、長相丑陋、一口壞牙”來描述這位記者,在事后還表示不記得與其聊過。

有人在推特上表示微軟需要關(guān)閉必應(yīng)中的類ChatGPT功能,埃隆·馬斯克對此回應(yīng)稱:“同意。它顯然還不安全?!?/p>

ChatGPT的“美麗新世界”還未到來

圖片來源:網(wǎng)絡(luò)

針對用戶的反饋,微軟承認(rèn),較長時(shí)間的連續(xù)對話,很可能會導(dǎo)致必應(yīng)“翻車”。

Open AI則發(fā)文表示,自推出ChatGPT以來,用戶分享了他們認(rèn)為具有政治偏見、冒犯性或其他令人反感的輸出。在許多情況下,OpenAI認(rèn)為擔(dān)憂是有道理的,并且揭示了他們想要解決的系統(tǒng)的真正局限性。

事實(shí)上,也有很多人喜歡有缺陷的必應(yīng)。這從產(chǎn)品角度很好理解,情緒與個(gè)性也有助于聊天機(jī)器人拉近與人的距離。

但另一方面,科技博主Roose 在其測評文章中總結(jié)了知識工作者的普遍感受:“我感受到了一種奇怪的新情感,一種AI已越過了一個(gè)門檻、世界將再也回不到過去的預(yù)感”。

從心理學(xué)角度來講,這其實(shí)是對未知事物的茫然與恐懼,這也令不少人對ChatGPT開啟的“美麗新世界”,開始持懷疑態(tài)度。

二、熱潮與泡沫

早在2016年,微軟就曾推出過名為Tay的聊天機(jī)器人。但用戶幾乎立即找到了讓它產(chǎn)生種族主義、性別歧視和其他攻擊性內(nèi)容的方法。因此,上線一天后Tay就被撤下,再也沒有被發(fā)布過。

早年間其他類似的AI聊天應(yīng)用,如Clippy2.0、Siri、Alexa、小度等,也只能幫助人們搜索信息并回答簡單問題,對于復(fù)雜一些的問題只會蠢萌的回答,“我好像不明白你在說什么。”

所以,這些應(yīng)用要么早早翻車,要么平庸無奇。而基于更先進(jìn)的大型語言模型ChatGPT的出現(xiàn),不但改變了這一切,也帶給了這個(gè)世界更多的驚喜,當(dāng)然也帶來了焦慮和驚駭。

從ChatGPT的發(fā)展歷程看,其從機(jī)器學(xué)習(xí)到神經(jīng)網(wǎng)絡(luò)再到Transformer算法,經(jīng)歷了四輪技術(shù)迭代,堪稱是集大成之作。

ChatGPT的“美麗新世界”還未到來

資料來源:華西證券

ChatGPT也引發(fā)史無前例的現(xiàn)象級反響,用戶數(shù)量在5天內(nèi)突破100萬。

ChatGPT的“美麗新世界”還未到來

資料來源:Statisia

目前微軟已經(jīng)投資ChatGPT上百億美元,并持有OpenAI約49%的股份,自然不會像以前一樣草草收場。但未來能否做出超越谷歌搜索的全新產(chǎn)品,其實(shí)還在兩可之間。

中信證券最新研報(bào)認(rèn)為,ChatGPT在中短期內(nèi)無法完全取代傳統(tǒng)搜索引擎,也較難改變當(dāng)前全球搜索引擎市場競爭格局,但料將會加速搜索引擎演化進(jìn)程。如果一項(xiàng)技術(shù)只能局部替代搜索引擎,那么恐怕它很難算是顛覆式的創(chuàng)新或者AI領(lǐng)域的革命性進(jìn)展。

ChatGPT背后的系列短板也降低了其短期內(nèi)對傳統(tǒng)搜索引擎替代的可能性。

一是受制于模型訓(xùn)練方式,數(shù)據(jù)難以實(shí)時(shí)更新;二是單次搜索成本過于高昂,測算生成一條信息的成本在1.3美分左右,是傳統(tǒng)引擎的3到4倍;三是統(tǒng)計(jì)學(xué)模型產(chǎn)生的內(nèi)容真假混雜,用戶難以辨別。中信證券研報(bào)提到。

另據(jù)國外機(jī)構(gòu)測算,Bing的搜索成本比谷歌高2個(gè)數(shù)量級,這意味著ChatGPT的商業(yè)化前景還需接受市場檢驗(yàn)。

不過即便如此,谷歌依然感受到巨大危機(jī),倉促推出聊天機(jī)器人Bard。結(jié)果在整個(gè)網(wǎng)絡(luò)世界暴露了一處錯(cuò)誤的答案,其股價(jià)一度跌及9%。谷歌員工批評此舉“倉促、蹩腳、短淺得令人可笑”。

目前谷歌不得不動員搜索部門全體員工每天花上2小時(shí)到4小時(shí),幫助提升產(chǎn)品體驗(yàn),彌補(bǔ)技術(shù)漏洞。

跟進(jìn)這場AI熱潮的不僅是谷歌,美國大型科技公司都紛紛宣布推出競品。在最新一個(gè)季度的財(cái)報(bào)電話會議上,Meta、蘋果等都展現(xiàn)出對生成式AI技術(shù)的重視。技術(shù)高管們對于“人工智能”、“生成式AI”或“機(jī)器學(xué)習(xí)”等詞提及的頻率,與上一季度相比都有成倍增長。

一場新的搶灘大戰(zhàn)已經(jīng)開啟。

而中國也有幾家科技公司正在加班加點(diǎn)的推出自己的ChatGPT式產(chǎn)品,并有上百家媒體接入測試。誰能率先推出中國版GhatGPT,更成為市場關(guān)注焦點(diǎn)。

ChatGPT的“美麗新世界”還未到來

但不可否認(rèn)的是,也有很多企業(yè)在“蹭熱點(diǎn)”,宣稱將推出各種中文版ChatGPT,但單從其數(shù)據(jù)量判斷,其實(shí)只是一個(gè)噓頭,或是自嗨。

因此有一種觀點(diǎn)認(rèn)為,由GhatGPT引發(fā)的技術(shù)熱潮、資本熱潮應(yīng)該回歸理性與謹(jǐn)慎,因?yàn)榘殡S熱潮出現(xiàn)的泡沫,也一樣多。

三、創(chuàng)新者窘境

GhatGPT火爆全球的背后,是谷歌、Meta、亞馬遜、微軟等為代表的全球科技企業(yè)正面臨史上最大規(guī)模裁員。

ChatGPT的“美麗新世界”還未到來

即使進(jìn)入2023年后,裁員計(jì)劃也一直未停止。據(jù)追蹤科技行業(yè)裁員情況的網(wǎng)站layoff.fyi最新數(shù)據(jù),今年迄今,全球共有380家科技公司裁員108346人。

造成這一現(xiàn)象的首先是市場趨于成熟。如谷歌占全球搜索的9成,全球蘋果終端超過20億部,F(xiàn)acebook每月有30億人使用,亞馬遜就承擔(dān)了美國電商的4成。

另一個(gè)原因是全球的科技創(chuàng)新已經(jīng)趨于停滯,也令科技企業(yè)失去了擴(kuò)張的原動力。因何停滯?因?yàn)榧夹g(shù)創(chuàng)新沒有達(dá)到生產(chǎn)力爆發(fā)的技術(shù)變革點(diǎn),商業(yè)應(yīng)用也遠(yuǎn)不及市場預(yù)期。

2021年10月,F(xiàn)acebook改名為Meta,就表明了在這種“停滯焦慮”下,聚焦元宇宙的決心。但即使去年虧掉137億美元,Meta也遲遲未能等來元宇宙的普及。或者說,未能找到催生下一場技術(shù)變革的奇點(diǎn)。

谷歌也一樣。谷歌發(fā)明了 Transformer 模型,這是支撐大模型浪潮的關(guān)鍵技術(shù)。但 ChatGPT卻被OpenAI研發(fā)出來,并被對手微軟搶得先機(jī)。從技術(shù)儲備層面講,谷歌領(lǐng)先于 OpenAI,遺憾的是很多前沿進(jìn)展沒有和業(yè)務(wù)結(jié)合。

這和《創(chuàng)新者的窘境》一書中描述的柯達(dá)覆滅時(shí)情景一樣:柯達(dá)公司不僅主導(dǎo)了膠片技術(shù),還發(fā)明了數(shù)碼相機(jī),但依然消亡。因此,谷歌的反擊可以理解為不想做第二個(gè)柯達(dá)。

從宏觀層面講,科技停滯自2020年起,就是美國經(jīng)濟(jì)行將進(jìn)入衰退的核心擔(dān)憂之一,這樣也就不難理解為何美國科技企業(yè),急于抓住ChatGPT的原因了。

但 ChatGPT真的是“不亞于互聯(lián)網(wǎng)和個(gè)人電腦的誕生”,改變科技停滯現(xiàn)狀的奇點(diǎn)么?

開拓深層學(xué)習(xí)基本技術(shù)的Meta首席科學(xué)家、圖靈獎獲得者Yann LeCun認(rèn)為,就底層技術(shù)而言,ChatGPT并沒有特別的創(chuàng)新。之所以被公眾被視為“革命性產(chǎn)品”,“主要是在產(chǎn)品層面設(shè)計(jì)得很好、組合得很好”。他認(rèn)為,ChatGPT對現(xiàn)實(shí)的把握非常膚淺。

至于自主心智,人工智能專家、歐洲科學(xué)院院士金耀初認(rèn)為ChatGPT尚不具備。

而騰訊AI Lab 也通過實(shí)驗(yàn)證明,ChatGPT并非“萬能鑰匙”,在某些專業(yè)領(lǐng)域的準(zhǔn)確度,無法超越其他垂類產(chǎn)品。如機(jī)器翻譯領(lǐng)域,在高資源環(huán)境歐洲語言上,ChatGPT的表現(xiàn)與商業(yè)翻譯產(chǎn)品相比具有競爭力,但在低資源環(huán)境如古代語言,明顯落后。

ChatGPT的“美麗新世界”還未到來

圖:ChatGPT在多語言翻譯中的表現(xiàn)

那么,為何中國科技企業(yè)也紛紛布局呢?除了看好ChatGPT及AIGC賽道的未來,其實(shí)也面臨著一樣的“創(chuàng)新者的窘境”,甚至還有更多的阻力。

首先,中國AI創(chuàng)新環(huán)境太功利,如阿里達(dá)摩院開始自負(fù)盈虧,科研院所要評職稱等,導(dǎo)致中國的AI人才,特別是互聯(lián)網(wǎng)大廠技術(shù)骨干大量流失。

其次,大模型的海量算力需求+巨大資金消耗+商業(yè)化路徑不明確,導(dǎo)致創(chuàng)業(yè)企業(yè)投不起,大廠前些年敢于投入,但近三年由于經(jīng)濟(jì)環(huán)境不好也趨于保守。

此外,中文訓(xùn)練數(shù)據(jù)少于英文、“畫地為牢”的數(shù)據(jù)孤島等,也是中國版 ChatGPT 研發(fā)更難的客觀因素。

但中國也不是在大模型領(lǐng)域毫無建樹,如百度的文心大模型、阿里的M6大模型、騰訊的混元大模型,針對中文語境,國內(nèi)廠商的表現(xiàn)要比國外大廠要好得多,發(fā)展速度也很驚人。

中國工程院院士王堅(jiān)認(rèn)為,我國已具備支撐ChatGPT發(fā)展的算力基礎(chǔ),多種相關(guān)技術(shù)中國企業(yè)也有多年積累,“在同樣多年技術(shù)積累的基礎(chǔ)上,誰的技術(shù)能積累到能夠爆發(fā)的程度,這才是企業(yè)間的差異所在。”

也就是說,距中國版ChatGPT面世,中國企業(yè)僅差一個(gè)“爆發(fā)”,并不存在技術(shù)代差。

因此,谷歌出錯(cuò)、微軟翻車,ChatGPT展示的“美麗新世界”遲遲未到,這也許是中國科技企業(yè)實(shí)現(xiàn)反超的一個(gè)契機(jī)。

作者:南北

來源公眾號:明晰野望(ID:MXYW-1688),銳眼看財(cái)經(jīng)野望大市場

本文由人人都是產(chǎn)品經(jīng)理合作媒體 @明晰野望 授權(quán)發(fā)布,未經(jīng)許可,禁止轉(zhuǎn)載。

題圖來自 Unsplash,基于 CC0 協(xié)議

該文觀點(diǎn)僅代表作者本人,人人都是產(chǎn)品經(jīng)理平臺僅提供信息存儲空間服務(wù)。

更多精彩內(nèi)容,請關(guān)注人人都是產(chǎn)品經(jīng)理微信公眾號或下載App
評論
評論請登錄
  1. 目前還沒評論,等你發(fā)揮!