AI的暗面:Sam Altman從OpenAI離職又回歸的新視角

0 評論 2497 瀏覽 2 收藏 10 分鐘

就在最近這幾天,OpenAI內部迎來了大變動,Sam Altman“被辭退”,結果又有消息傳出他會重回OpenAI。那么在這波曲折的“劇情”之后,我們可以窺見怎樣的暗面?一起來看看本文的分享。

看到新聞說Sam Altman重回OpenAI,這暫時為這場大戲畫了個句號。但此事絕對足以寫入AI發展歷史,所以換個視角再做下解讀。正面的解讀參見:Sam Altman卸任CEO的幾點猜想

一、當理想成為陰謀的素材

你把班級同學聚在一起吃飯都沒那么容易,何況罷免公司的一號,二號人物。所以這一定是一個強組織的事,強組織的事如果沒有明面的結構就必然有暗組織與暗主導。(非事后諸葛,參見前文)

而落到具體方法上,6個人的董事會,首席科學家Ilya就很關鍵,因為它是真正的一級利益相關者,它在公司里面,本來應該堅定的站在對公司有利這一面,而只要它不倒戈,那就無法罷免Sam Altman。但很不幸,這兄弟更像是個純粹的理想主義者,不單想捍衛自己的理想,還在自認為正確的信念下積極行動。他捍衛自己理想純粹性的行動,幾乎把理想的載體(OpenAI)干稀碎。

這就是第一個暗面:但你極端化你的理想和信念的時候,你可能就是實現它的最大威脅。尤其當野心家存在的時候。

我有時候就想天才科學家是不是不要干CEO或者政治家干的事,這倆事一個太綜合一個則太純粹,實在差別太大。

二、從不缺席的密室謀劃

也許我們到最后也不一定搞清楚,其余三位董事到底是怎么聯合起來的,但顯然沒有它們賦予的責任那么陽光。他們號稱使命是為人類負責,但其實更多考慮的恐怕是不太能說的因素,甚至都不能對OpenAI負起責任。

最終OpenAI的員工的選擇其實反襯著Sam Altman并沒有真的背棄自己的理想,但在這樣的一個時候,暗箱運作,陰謀出手,把Sam Altman搞下去,再怎么粉飾也是野心家。這不只是對Sam Altman,而是對整個組織不利的行為,這是董事應該做的事么?

行事的方式上也明顯的鬼鬼祟祟,連Greg Brockman都是被突然通知,被干成一腦袋問號。這不就是暗箱策劃突然發難么!對于一個奮斗了七年多的核心團隊,并且還在危機四伏的時候,突然這么來一下,中國歷史上還真就和劉邦抓韓信差不多,十分神似。

這是另一個暗面:總是有堂皇的理由來粉飾某種行動,但當手段足夠陰暗的時候,很難拿目的正當性來粉飾它。即使粉飾了,旁觀者也一定不能相信(顯然的Ilya Sutskever這個首席科學家信了,還幫著吆喝和助力)。

創過業的同學大概都知道,人腦每天帶寬差不多是滿的。所以Sam Altman未必不知道董事會有點夠嗆,但肯定沒預料到會突然行動,也沒預料到Ilya的倒戈。

勇于謀事,無暇謀身,結果差點沒掛了。這和故事里的主角們正在躊躇滿志,征戰天下,然后突然被暗殺了其實差不多。

真要追究,動因其實也就那么多,在過去利益沖突遠多于理念沖突,也許更富裕之后會改變這種配比,現在還不行。

三、自我糾錯機制

Sam Altman的回歸似乎應該感謝OpenAI的員工們。

董事會任命CTO Mira Murati為CEO應該是預先考慮的平穩過渡方案中很關鍵的一環,至少是第一步。

按正常套路如果這美女倒戈再輔助在內部收拾局面,那也許事有可為,但有意思的事大家齊刷刷不買賬(90%以上員工主動站隊)。大家態度很明顯:你們這什么套路,我們不接受,也沒得談,要么一拍兩散,要么就糾錯。

這里面Greg Brockman不接受是引子,但他確實有足夠動因這么做,后續的這些就相對會罕見一些。尤其是CTO Mira Murati,這可是傳說中的升職加薪,人就是不干。這次陰謀不敵理想。

再深一層,這是什么概念呢?

這意味著在董事會層面糾錯機制失效的情形下(有法律確保的權利機制),本來沒發言權的人團結了起來,然后變成了重要力量。

這七百多人的統一組織,如果沒有一定的統一認識和基礎,絕對不可能。讓這七百多人統一行動估計很多時候比管好一個城市都費勁,所以我們有理由相信這是自底向上的。

這種機制會非常關鍵,尤其當GPT5一路迭代而來的情況下。

這里確實會變成AI最大的暗面。

四、AI“執劍人”

這事的無厘頭在于,這是一個號稱為人類負責的董事會做出來的事。

如前所說,這個董事會看起來不單不能為人類負責,甚至還不能為OpenAI負責(相當于90%多人投反對票)。

如此無厘頭的行為最終如果追溯,動因肯定不好看。

所以碳基智能體屬實不怎么靠譜。

發展下去,當AI變得足夠強大,總是有那么一小波人會被選出來作為執劍人。這能靠譜么,不靠譜的話這就是最大的暗面。

(當然最基礎的部分肯定是法規,但現實空間和數字空間的時間流速其實不一樣,以慢制快的問題會越來越暴露的更清楚)。

所以到后面確實需要新的機制和制衡,比如開源、透明等等。

五、后續

后續會發生的事其實倒相對明朗一些,如果Sam Altman確實回到OpenAI,那它后面徹底崛起大概率會發生。什么商業和技術理想的平衡,在這個例子上絕對不是大障礙。喬布斯、馬斯克這些人那個不是把這兩者搞成了互相促進,而不是對立。

為什么這么說呢?因為一定程度上,這次波折可以看成是苦難輝煌里的苦難部分。這之后權利結構肯定會重構和再平衡,但更關鍵的是這會變成一個超級團隊,700多個本來奇形怪狀,各有主張的人,徹底的團結到一起,更加協力,再加上資金不缺和此前的先發優勢,那恐怕真會一騎絕塵了。

還沒完,老套故事里通常會發生的事情是Sam Altman這個角色會黑化一點,黑化的結果就是沒那么信任周圍的人,變的更加集權,這如果過度就會很像皇帝晚年,反倒是會對組織構成更大的傷害。但這哥們看著確實不像是這種風格。

希望不會,畢竟這世界還是需要一個領頭的AI團隊。畢竟在這個時間點AI不是太強,而是還弱,離一個全行業的盈虧平衡點還有幾分距離。

小結

最終的結果取決于什么呢?看起來取決于原點上的價值結構。山川河岳,文化歷史所匯集成的價值結構。越數字、越智能主觀的這一點就越重要。

專欄作家

琢磨事,微信公眾號:琢磨事,人人都是產品經理專欄作家。聲智科技副總裁。著有《終極復制:人工智能將如何推動社會巨變》、《完美軟件開發:方法與邏輯》、《互聯網+時代的7個引爆點》等書。

本文原創發布于人人都是產品經理。未經許可,禁止轉載。

題圖來自 Unsplash,基于 CC0 協議

該文觀點僅代表作者本人,人人都是產品經理平臺僅提供信息存儲空間服務。

更多精彩內容,請關注人人都是產品經理微信公眾號或下載App
評論
評論請登錄
  1. 目前還沒評論,等你發揮!