看了這些老外的騷操作,我也覺得應該暫停GPT4

0 評論 4306 瀏覽 2 收藏 12 分鐘

最新的AI技術顯示,通過下載公有模型使用云技術,就能打造一個屬于自己的模型,為AI添加獨一無二的靈魂。AI真的做到如此強大了嗎?應該暫停大模型研究嗎?一起來看看這篇文章吧。

AI比你更懂人情世故。

我知道,暫停大模型研究種事,基本是不可能了。但我還是覺得應該暫停。

尤其是當我看到Smallville小鎮。

盡管在現實世界中,離情人節還有很長的時間,但在Smallville小鎮上,正在準備舉辦一場盛大的情人節派對——我寫這篇稿子的時候,鎮上的時間是2023年2月13日的上午。

看了這些老外的騷操作,我也覺得應該暫停GPT4

派對的策劃人是Wolfgang Schulz,今年21歲,是橡樹山學院化學專業的學生,也是一名學生運動員。

整整一上午,她都在回復郵件和定制派對上要用到的裝飾品,她也和其他人聯系,確定時間和節目。

這場派對邀請了全鎮居民參加,一共25個“人”,他們的年齡相差有些懸殊,Wolfgang算是很年輕的居民,另外還有年過半百的藝術家,四十出頭的建筑設計師,以及最近要去佛羅里達旅行的程序員等等。

Smallville鎮有一條環形公路,中間是鎮圖書館,道路的另一側是民房和學校,而幾乎所有房子的窗戶都能看見鎮子唯一的公園——明天,情人節派對就在那里舉辦。

這簡直是既浪漫又充滿生機,我俯瞰著整個鎮子,看著Wolfgang為派對忙前忙后,畫家鋪好紙張,設計師繪制藍圖,主婦擰開爐灶的旋鈕,老人走到后院開始修剪草坪……

如果這一切不是2D像素組成,如果Smallville小鎮不是斯坦福大學一個“Generative Agents”(生成式智能體)實驗,如果Wolfgang的和她的情人節派對不是智能交互的一部分,如果一切對話不是ChatGPT模型的生成……

我甚至認為這一切無限接近于真實的虛構,或許因為加持了AI的力量而顯得有些可怕——最新的技術顯示,通過下載公有模型,使用云技術,你甚至不需要哪怕一塊GPU就能在家訓練一個屬于自己的模型,為AI添加獨一無二的靈魂。

這讓我想到前一陣,馬斯克和圖靈獎獲得者Yoshua Bengio,以及一眾技術大牛聯合呼吁暫停所有GPT4以上的模型研究6個月。

這或許并不僅僅出于一場商業角逐,而確實是對人類未來的擔憂。

01 當AI有靈魂

Smallville沒有黑夜——不過斯坦福大學技術團隊制造的25個AI小人也需要休息。

在這里,25個“人”被植入AI靈魂。

他們白天忙碌,各司其職。比如畫家清點作品要去城里辦一個畫展;鎮上藥店的老板想辦法讓居民以更快的速度訂到藥劑;工程師為某個項目和建筑設計師討論圖紙;音樂家則熱衷于演奏和與任何一個居民探討音樂。

在Smallville,時間的流逝是現實世界的3倍,盡管如此之快,每個居民仍然擁有“出生”后的記憶,并根據記憶做出判斷,比如履行一個星期前和某人的某個約定——這一點上,AI從不會爽約。

這一系列令人驚嘆模擬,源于一個乏味的技術名詞——Generative Agents,中文是“生成式智能體”,它解釋起來比較拗口:利用生成模型來模擬可信人類行為的智能體,并證明它們能產生可信的個人和突發群體行為的模擬。

斯坦福的技術團隊為“生成式智能體”給出的界定:

能夠對自己、其他智能體和環境進行廣泛的推斷;能夠根據自身特點創建日常計劃并執行,并根據執行結果考慮是否重新部署計劃;能夠在終端用戶改變環境或用自然語言命令它們時做出反應。

這其實就是制造了25個有靈魂的數字人,再讓他們通過ChatGPT-3.5自然語言模型進行交互,由此實現了真正意義上的AutoGPT——AI驅動AI。

但離現實越近,人們越感到后背發涼。

隨著時間的推移,小鎮上的AI憑借記憶和推斷形成了新的關系,他們的互動開始帶有明顯目的——有了是非之分,甚至開始喜歡或討厭一個人。

例如,Sam 一開始并不認識Latoya,兩人在公園散步時初次相識,在第一次對話中,Latoya 提到自己正在進行一個攝影項目,她告訴Sam:“我正在拍攝一組關于公園的照片?!?/p>

而幾天之后兩人再見面時,Sam 問道:Latoya,你的拍攝進展如何?Latoya 回答:進展得很好——兩人的關系更進一步。

而此時,Sam正是鎮長的競選人之一,他請求Latoya作為朋友投他一票,Latoya欣然同意——然而從其他AI的對話中也可以看出,有人不喜歡Sam這種“交際花型”候選人,雖然Sam的支持率左右搖擺,但他仍舊積極地試圖和每個人交流,擴大自己在鎮子上的影響力。

需要注意的是,這一切都沒有人類進行干預——每一個AI都擁有自己的個性和對環境的判斷,雖然這些生成偶爾也會犯錯誤,比如未能檢索相關記憶,甚至憑空編造一段記憶,但瑕不掩瑜,在這個2D像素的世界里,AI已經不斷演化出堪比真實世界的故事了。

然而令人生畏的技術不止如此。

02 暫停AI

最近一個月里,有人發現自己的ChatGPT賬號失竊了。

網絡防火墻研究機構Check Point在一份報告中提到,多數失竊的ChatGPT賬號都流向了——暗網。在那里,這些賬號被當做商品售賣,并且可以用加密數字幣結賬,因此賬號的最終去向沒辦法追蹤。

另外在暗網,ChatGPT Plus帳戶的終身升級費用僅為59.99美元,而OpenAI對此服務的官方定價為每月20美元——這項地下服務還提供了與另一名黑客共享ChatGPT帳戶的選項,價格為24.99美元,終身有效。

按理說,ChatGPT只是一個自然語言大模型,比如上面的提到的Smallville小鎮,用到與ChatGPT相關的技術,也只是AI之間的自然語言交流。

為什么這一技術在地下交易中異常踴躍?

還是創造Smallville小鎮的斯坦福大學,其計算機與心理學教授Michal Kosinski前不久在一篇論文中認為,心智理論可能自發地出現在大型語言模型中。

簡單說,就是一些AI語言模型在訓練中已經產生了意識。在那篇論文中,Kosinski認為,以GPT4為例的大語言模型,為了提高語言能力,演化出一種類似ToM的能力。

ToM全稱Theory of Mind(心智理論),是一個心理學術語,這被認為是人類獨有的能力,即通過觀察對面人物的表情、肢體動作和環境變化,來推斷對方的行動,并因此調整自己的決策。論文中,Kosinski通過一系列和ChatGPT的對話實驗,來證實ToM之于AI的存在。

這就像是在Smallville小鎮,Sam通過和Latoya成為朋友而得到一張選票,也可以將這個邏輯反過來說:Latoya因為Sam和她關系的改變,而為他投了一票——這里劃重點,Sam很明顯的知道,通過交朋友,可能會得到更多的選票,他因此在公園散步時,和Latoya打了招呼。

看了這些老外的騷操作,我也覺得應該暫停GPT4

圖/Smallville小鎮

是的,AI已經初步掌握了社會關系中的人情世故。

這就能解釋為何在暗網上,有人會出售ChatGPT賬號牟利,某種意義上,一個ChatGPT賬號就是一個可以被開發的,擁有空白靈魂的模型——你往里面裝什么,它就變成什么。

當然,并不是人人都會冒險在暗網上購買ChatGPT的賬號用于訓練模型,畢竟還需要耗費大量資金用來購買GPU,不過,另外的技術可以幫助普通人不用GPU也能訓練屬于自己性格的模型。

比如利用一種名為Vicuna的模型,它被嵌在瀏覽器中,訓練者只需要鍵入命令,相關的模型包就會下載到本地,測試者對模型進行了多語言、寫詩、寫小說等試驗,發現Vicuna足以在個人電腦上利用CPU訓練出一個初級的Smallville小鎮。

另一邊,在今年1月舉行的美國電子消費展上,三星發布了NEON——迄今為止最真實的數字人——你甚至用真人來形容都不為過。但NEON在發布之初并未收到太多關注,直到ChatGPT為AI注入靈魂——有人說,NEON+ChatGPT,終究打開了人類社會賽博朋克的大門。

還有幾個小時,在那個虛擬的Smallville小鎮上,虛擬的情人節派對就將由虛擬的AI舉辦——你當然可以隨時關掉網頁忘掉這一切,但AI的研究并未因此而停止。

倡導暫停研究AI的大佬馬斯克已經轉身成立了新的大模型公司。說實話,這背后頗有一種“既然無人問津,不如破罐破摔”的做法——技術當然無罪,但技術能創造出什么東西來,誰都說不好。

作者:黑羊;編輯:魏曉

來源公眾號:AI藍媒匯(ID:lanmeih001),知名AI、互聯網產業報道新媒體。

本文由人人都是產品經理合作媒體 @藍媒匯 授權發布,未經許可,禁止轉載。

題圖來自 Unsplash,基于 CC0 協議。

該文觀點僅代表作者本人,人人都是產品經理平臺僅提供信息存儲空間服務。

更多精彩內容,請關注人人都是產品經理微信公眾號或下載App
評論
評論請登錄
  1. 目前還沒評論,等你發揮!