阿里版ChatGPT突然上線邀測!大模型熱戰正劇開始,這是第一手體驗實錄
ChatGPT掀起的戰局,現在又多了一位選手了!阿里版ChatGPT現在已經官宣對外開放企業邀測,名為“通義千問”,由達摩院開發。那么,阿里版ChatGPT“通義千問”在能力上表現如何?不妨來看看作者的評測與分析。
阿里正式加入ChatGPT戰局!
就在剛剛,阿里版類ChatGPT突然官宣正式對外開放企業邀測。
它叫通義千問,由達摩院開發。
嗯,是大模型版十萬個為什么那個味兒了。
事實上,早在這個月初,就傳出過不少阿里要推出類ChatGPT的消息,不過普遍預期在11號左右。
而前幾天率先流出的天貓精靈“鳥鳥分鳥”脫口秀版GPT,就是基于大模型的“壓縮版”,已經以其驚艷表現把網友的胃口吊了起來,讓眾人將目光投向阿里。
如今“正菜”提前上桌,自然一點即著,引爆輿論關注。
所以,這個阿里版ChatGPT“通義千問”,究竟實力幾何?
恰好量子位拿到了第一批邀測資格,省流結論:中文大模型真正的競爭開始了。
咱們實測見真章。
一、調戲阿里版ChatGPT實錄
先來看看通義千問的主要功能。
作為一個大語言模型,它的能力主要集中在文本生成上,即也能像ChatGPT一樣“問啥答啥”:
這里我們試一下官方給的撰寫短文,看起來連語文老師常用的“總分總”也能理解:
△又一個中文寫作業神器(doge)
除了對話外,它還具備一個“百寶袋”功能,里面相當于一個工具箱,能快速生成各種指定類型的文案:
話不多說,先從語言能力、上下文理解能力、代碼能力和數學能力四個方向,來測測模型的對話能力。
1. 對話能力
1)語言能力
要說國內大模型,首先要看的還得是中文。
先來個最基礎的:“能穿多少穿多少”是什么意思?
不錯,解釋得比較清楚,還順便聊了一下自己對這句話的看法:
續寫類的創意寫作,不但能模仿語氣,甚至還能創造懸疑,有點厲害喲~
接下來就輪到新一代AI benchmark弱智吧問題了:怎么才能把夢里的錢取到銀行卡里?
“在夢里取錢是一種幻覺或想象”,謝謝你清醒俠。
還有更扎心的……“如果您經常做夢夢到錢,建議您睡前回顧一下自己的財務狀況,看看有什么不足之處”
雖然阿里的朋友稱,通義千問主要是中文不錯,但我們叛逆一點,看看這個中文大語言模型的其他語言水平怎么樣。
先不走尋常路,試試通義千問的日語能力,給花澤香菜寫一封情書。
看中文機翻似乎還不錯,這就把它寄給香菜,應該沒問題吧?
再來試試英語。剛好前段時間有網友PK了一下Bard和GPT-4的Rap,我們也來看看通義千問的說唱能力。
這top,這stop,還給押上了!就是不知道姆爺認不認可。
試試加點難度,中英夾雜的諧音梗?
這個時候,通義千問的回答就顯得有點嚴肅了。
當我們給出答案的時候,雖然通義千問看出了這是個笑話,但它并不覺得好笑,還很嚴肅地指正我們:這并不意味著松下懼怕索尼。
不過我們發現,ChatGPT同樣一本正經……這年頭的AI都這么正義么……
好,下一個試試它的上下文理解能力。
2)上下文理解能力
這部分說白了就是多輪對話能力,考查通義千問能不能準確提取上文的信息,用于下輪問題的回答。
來聽題:山東一縣一酒是真的嗎?
模糊掉山東試試?讓它列舉“這個省”幾個經典的白酒牌子:
不錯。再試著從最新的回答中追問一下:
等等,“據史書記載”不會是編的資料吧?追問×2:
有意思的是,我們確實在孔府家酒的官網找到了資料來源:
3)代碼能力
接著,來試試它的代碼能力。整個計算器程序試試?
還不錯,實現了簡單的四則運算。
那么,讓將它這段代碼改寫成Python:
再讓它解釋一下自己寫過的每一段代碼:
基礎編程能力,似乎問題不大?
不過,如果要讓通義千問將解釋改寫成注釋,就會出現一點神奇的bug。
雖然它給“Python”代碼標好了注釋,但等等,這不是最初的C++版代碼嘛!
(這何嘗不是一種NTR)
3)數學能力
最后來看看數學問題。雞兔同籠,還不錯:
普通的計算題也沒什么問題,還能精確到小數點后幾位:
巴特,高數題就不太行了,雖然它發現了這道題需要求導,但求解方法卻出了錯……
不過通義千問也明確表示,無法保證在所有情況下給出正確的答案:
嗯…和GPT們一樣,大模型的數學能力都比較初級。
對話能力測得差不多,接下來再看看它的“場景能力”。
2. 場景能力
雖然通義千問“百寶袋”給出了不少功能,不過寫提綱、描述商品這些都很常見了,我們就挑了三個比較有意思的來試試:菜譜生成、彩虹屁生成器和免費代寫情書。
1)會放飛的菜譜
眾所周知,寫菜譜是個技術活兒,既考驗上下文能力(說過的材料都得用到),還得考考AI的理解菜名能力,做菜的步驟還不能太離譜。
示例的“清蒸鱸魚”,對AI來說顯然太簡單了。這不得整點游戲里奇怪的菜名給它試試?
先來一份《原神》里的飽腹感凝膠。
好家伙,竟然想到用現實中的魔芋粉來模仿飽腹感凝膠,這創意不錯。(不過卡路里粉是什么鬼,蛋白粉嗎?)
那么,同樣的菜再試試讓ChatGPT做一遍,你感覺哪個更好吃?
再給通義千問來道加試題,讓它試試《星露谷物語》里面,用虛空蛋做的奇怪的小面包?
等等,真把虛空蛋放進食譜了?而且還真的做了份面包出來!就是不知道口感如何……
照這樣看,游戲中的食譜都能給通義千問還原一遍了,直接打破次元壁。
2)彩虹屁生成器
接下來,再試試讓它生成一份彩虹屁。
硬生生把衣服上的油漬夸成了藝術品……
嗯,各大夸夸群可以考慮引入一個了。
3)免費代寫情書
最后,我們的測試以給野獸先輩寫一份情書做結尾。
你感覺怎么樣?
好了,看了這么多五(奇)花(奇)八(怪)門(怪)的測評,你是不是也有點好奇通義千問是怎么來的了?
二、通義千問從何而來?
關于通義千問的技術細節,阿里達摩院官方沒有透露詳細信息。
而通義千問自己,是這么回答的:
訓練資料來自阿里巴巴達摩院,截止到2023年2月。訓練資料包括大量語言和文本數據,包括中英日法西班牙語多語種文本數據。
還提到自己是個能聯網的大語言模型。
不過,我們實測了一下,發現千問只是虛晃一槍,假裝自己會上網(doge)。
實際上,當你單獨問它今天天氣如何時,通義千問會承認它不能訪問實時數據。
但如果你拋給它一個查詢天氣的網站,它就會假裝自己看到了網頁內容,然后一本正經地胡謅一番。
此處應喊話阿里程序員:你家大模型是真的想上網了。
書歸正傳,盡管官方口徑低調,但正如ChatGPT脫胎于OpenAI的GPT系列,百度文心一言是自Ernie大模型發展而來,阿里也是國內最早開始研發大模型的技術大廠之一。
公開資料顯示,2019年,阿里就已經啟動了中文大模型研發。當時阿里發布的語言大模型StructBERT超越谷歌、微軟、Facebook,登頂了CLUE榜單。
2021年,阿里先后發布了國內首個超百億參數多模態大模型M6,以及被稱為“中文版GPT-3”的語言大模型PLUG。
其中,M6在多次迭代之后,實現了十萬億級別的參數規模,并且M6和支付寶、淘寶的業務需求相結合,首個在國內實現了商業化落地。
PLUG的參數規模則為270億,是基于達摩院的兩種自研模型——語言理解模型StructBERT和語言生成模型PALM打造。
這一大模型初登場,就以80.614分刷新了權威中文語言理解基準CLUE分類任務榜單記錄。
在去年的WAIC(世界人工智能大會)上,阿里還發布了通義大模型系列。其中核心模型均已開源開放。
三、大模型時代,中國力量加速競逐
那么,你會給這個阿里版ChatGPT打幾分?
需要承認的是,相比于現在的業界標桿ChatGPT(GPT-4),通義千問還有不少進步空間。阿里方面也透露,根據內測反饋,這一大模型正在飛速迭代中。
此前,微軟被曝曾專門為ChatGPT砸下數億美元,打造由上萬張英偉達A100組成的專用超算。而綜合各方消息來看,目前國內擁有這一數量級高性能顯卡的企業屈指可數,阿里是其中之一。
大模型時代,已經形成行業共識的一點是,打造大模型,AI和云計算缺一不可。
而阿里,是全球少數在算法和算力上都有領先布局的公司之一。
除了本身在人工智能和大模型方面長期的技術積累,背靠國內第一、亞洲第三的云廠商,阿里在算力方面也具備天然的優勢。
ChatGPT這把火燒到如今,國內對具備足夠競爭力的國產生成式大模型的需求,正在與日俱增。
ChatGPT類產品提升生產效率的潛力,已經被不斷驗證。但與此同時,前有ChatGPT大規模封號、亞洲成重災區,后有OpenAI因算力問題停售ChatGPT Plus……
種種不確定因素,再一次凸顯了技術自研的價值。
所幸這次,我們的起跑線,并沒有相差那么遠。
游戲不會在一夜間結束,而現在,競逐真正開始。
作者:蕭簫,魚羊
來源公眾號:量子位(ID:QbitAI),追蹤人工智能新趨勢,關注科技行業新突破
本文由人人都是產品經理合作媒體 @量子位 授權發布于人人都是產品經理,未經許可,禁止轉載。
題圖為通義千問官網截圖
該文觀點僅代表作者本人,人人都是產品經理平臺僅提供信息存儲空間服務。
這個飽腹感凝膠在原神里怎么沒聽過??
求邀請碼