最新的AI技術顯示，通過下載公有模型使用云技術，就能打造一個屬于自己的模型，為AI添加獨一無二的靈魂。AI真的做到如此強大了嗎？應該暫停大模型研究嗎？一起來看看這篇文章吧。

AI比你更懂人情世故。

我知道，暫停大模型研究種事，基本是不可能了。但我還是覺得應該暫停。

尤其是當我看到Smallville小鎮。

盡管在現實世界中，離情人節還有很長的時間，但在Smallville小鎮上，正在準備舉辦一場盛大的情人節派對——我寫這篇稿子的時候，鎮上的時間是2023年2月13日的上午。

派對的策劃人是Wolfgang Schulz，今年21歲，是橡樹山學院化學專業的學生，也是一名學生運動員。

整整一上午，她都在回復郵件和定制派對上要用到的裝飾品，她也和其他人聯系，確定時間和節目。

這場派對邀請了全鎮居民參加，一共25個“人”，他們的年齡相差有些懸殊，Wolfgang算是很年輕的居民，另外還有年過半百的藝術家，四十出頭的建筑設計師，以及最近要去佛羅里達旅行的程序員等等。

Smallville鎮有一條環形公路，中間是鎮圖書館，道路的另一側是民房和學校，而幾乎所有房子的窗戶都能看見鎮子唯一的公園——明天，情人節派對就在那里舉辦。

這簡直是既浪漫又充滿生機，我俯瞰著整個鎮子，看著Wolfgang為派對忙前忙后，畫家鋪好紙張，設計師繪制藍圖，主婦擰開爐灶的旋鈕，老人走到后院開始修剪草坪……

如果這一切不是2D像素組成，如果Smallville小鎮不是斯坦福大學一個“Generative Agents”（生成式智能體）實驗，如果Wolfgang的和她的情人節派對不是智能交互的一部分，如果一切對話不是ChatGPT模型的生成……

我甚至認為這一切無限接近于真實的虛構，或許因為加持了AI的力量而顯得有些可怕——最新的技術顯示，通過下載公有模型，使用云技術，你甚至不需要哪怕一塊GPU就能在家訓練一個屬于自己的模型，為AI添加獨一無二的靈魂。

這讓我想到前一陣，馬斯克和圖靈獎獲得者Yoshua Bengio，以及一眾技術大牛聯合呼吁暫停所有GPT4以上的模型研究6個月。

這或許并不僅僅出于一場商業角逐，而確實是對人類未來的擔憂。

01 當AI有靈魂

Smallville沒有黑夜——不過斯坦福大學技術團隊制造的25個AI小人也需要休息。

在這里，25個“人”被植入AI靈魂。

他們白天忙碌，各司其職。比如畫家清點作品要去城里辦一個畫展；鎮上藥店的老板想辦法讓居民以更快的速度訂到藥劑；工程師為某個項目和建筑設計師討論圖紙；音樂家則熱衷于演奏和與任何一個居民探討音樂。

在Smallville，時間的流逝是現實世界的3倍，盡管如此之快，每個居民仍然擁有“出生”后的記憶，并根據記憶做出判斷，比如履行一個星期前和某人的某個約定——這一點上，AI從不會爽約。

這一系列令人驚嘆模擬，源于一個乏味的技術名詞——Generative Agents，中文是“生成式智能體”，它解釋起來比較拗口：利用生成模型來模擬可信人類行為的智能體，并證明它們能產生可信的個人和突發群體行為的模擬。

斯坦福的技術團隊為“生成式智能體”給出的界定：

能夠對自己、其他智能體和環境進行廣泛的推斷；能夠根據自身特點創建日常計劃并執行，并根據執行結果考慮是否重新部署計劃；能夠在終端用戶改變環境或用自然語言命令它們時做出反應。

這其實就是制造了25個有靈魂的數字人，再讓他們通過ChatGPT-3.5自然語言模型進行交互，由此實現了真正意義上的AutoGPT——AI驅動AI。

但離現實越近，人們越感到后背發涼。

隨著時間的推移，小鎮上的AI憑借記憶和推斷形成了新的關系，他們的互動開始帶有明顯目的——有了是非之分，甚至開始喜歡或討厭一個人。

例如，Sam 一開始并不認識Latoya，兩人在公園散步時初次相識，在第一次對話中，Latoya 提到自己正在進行一個攝影項目，她告訴Sam：“我正在拍攝一組關于公園的照片?！?/p>

而幾天之后兩人再見面時，Sam 問道：Latoya，你的拍攝進展如何？Latoya 回答：進展得很好——兩人的關系更進一步。

而此時，Sam正是鎮長的競選人之一，他請求Latoya作為朋友投他一票，Latoya欣然同意——然而從其他AI的對話中也可以看出，有人不喜歡Sam這種“交際花型”候選人，雖然Sam的支持率左右搖擺，但他仍舊積極地試圖和每個人交流，擴大自己在鎮子上的影響力。

需要注意的是，這一切都沒有人類進行干預——每一個AI都擁有自己的個性和對環境的判斷，雖然這些生成偶爾也會犯錯誤，比如未能檢索相關記憶，甚至憑空編造一段記憶，但瑕不掩瑜，在這個2D像素的世界里，AI已經不斷演化出堪比真實世界的故事了。

然而令人生畏的技術不止如此。

02 暫停AI

最近一個月里，有人發現自己的ChatGPT賬號失竊了。

網絡防火墻研究機構Check Point在一份報告中提到，多數失竊的ChatGPT賬號都流向了——暗網。在那里，這些賬號被當做商品售賣，并且可以用加密數字幣結賬，因此賬號的最終去向沒辦法追蹤。

另外在暗網，ChatGPT Plus帳戶的終身升級費用僅為59.99美元，而OpenAI對此服務的官方定價為每月20美元——這項地下服務還提供了與另一名黑客共享ChatGPT帳戶的選項，價格為24.99美元，終身有效。

按理說，ChatGPT只是一個自然語言大模型，比如上面的提到的Smallville小鎮，用到與ChatGPT相關的技術，也只是AI之間的自然語言交流。

為什么這一技術在地下交易中異常踴躍？

還是創造Smallville小鎮的斯坦福大學，其計算機與心理學教授Michal Kosinski前不久在一篇論文中認為，心智理論可能自發地出現在大型語言模型中。

簡單說，就是一些AI語言模型在訓練中已經產生了意識。在那篇論文中，Kosinski認為，以GPT4為例的大語言模型，為了提高語言能力，演化出一種類似ToM的能力。

ToM全稱Theory of Mind（心智理論），是一個心理學術語，這被認為是人類獨有的能力，即通過觀察對面人物的表情、肢體動作和環境變化，來推斷對方的行動，并因此調整自己的決策。論文中，Kosinski通過一系列和ChatGPT的對話實驗，來證實ToM之于AI的存在。

這就像是在Smallville小鎮，Sam通過和Latoya成為朋友而得到一張選票，也可以將這個邏輯反過來說：Latoya因為Sam和她關系的改變，而為他投了一票——這里劃重點，Sam很明顯的知道，通過交朋友，可能會得到更多的選票，他因此在公園散步時，和Latoya打了招呼。

圖/Smallville小鎮

是的，AI已經初步掌握了社會關系中的人情世故。

這就能解釋為何在暗網上，有人會出售ChatGPT賬號牟利，某種意義上，一個ChatGPT賬號就是一個可以被開發的，擁有空白靈魂的模型——你往里面裝什么，它就變成什么。

當然，并不是人人都會冒險在暗網上購買ChatGPT的賬號用于訓練模型，畢竟還需要耗費大量資金用來購買GPU，不過，另外的技術可以幫助普通人不用GPU也能訓練屬于自己性格的模型。

比如利用一種名為Vicuna的模型，它被嵌在瀏覽器中，訓練者只需要鍵入命令，相關的模型包就會下載到本地，測試者對模型進行了多語言、寫詩、寫小說等試驗，發現Vicuna足以在個人電腦上利用CPU訓練出一個初級的Smallville小鎮。

另一邊，在今年1月舉行的美國電子消費展上，三星發布了NEON——迄今為止最真實的數字人——你甚至用真人來形容都不為過。但NEON在發布之初并未收到太多關注，直到ChatGPT為AI注入靈魂——有人說，NEON+ChatGPT，終究打開了人類社會賽博朋克的大門。

還有幾個小時，在那個虛擬的Smallville小鎮上，虛擬的情人節派對就將由虛擬的AI舉辦——你當然可以隨時關掉網頁忘掉這一切，但AI的研究并未因此而停止。

倡導暫停研究AI的大佬馬斯克已經轉身成立了新的大模型公司。說實話，這背后頗有一種“既然無人問津，不如破罐破摔”的做法——技術當然無罪，但技術能創造出什么東西來，誰都說不好。