OpenAI宮斗劇引出神秘項目Q*

0 評論 753 瀏覽 0 收藏 8 分鐘

繼OpenAI的人事斗爭后,神秘項目Q*進一步引發了外界的關注,那么,神秘的項目Q*究竟是什么?人類離AGI的目標實現還有多遠?一起來看看本文的解讀和分析。

“出局-跳槽-返崗”,5天之后,Sam Altman最終重新拿回CEO一職,與力挺他的原董事會主席Greg Brockman一同回到了OpenAI。

當人們以為這家AI巨頭上演的宮斗劇徹底落下帷幕時,路透社甩出一個大瓜:在Altman被罷免之前,OpenAI幾位研究人員向董事會發出警告信,內容是一項強大的人工智能發現可能威脅人類,而這封信可能是Altman下臺的關鍵。

知情人士還告訴路透社,OpenAI內部有一個名為Q*(發音為Q-Star)的項目,這可能是該公司探索通用人工智能(AGI)的突破。

至此,外界的目光從OpenAI的人事斗爭轉向神秘的Q*。

一、Q*或與AI的數學能力有關

路透社披露的有關內部警告信和Q*的信息,均來自不愿具名的消息人士。盡管這家權威媒體表示沒有看到內部信的原文,也無法證實Q*的功能,但這個增量信息還是引來了外界的好奇。

11月22日,OpenAI宣布原則上達成協議讓Sam Altman重新擔任CEO,并組建由Bret Taylor(主席)、Larry Summers和Adam D’Angelo組成的新董事會。按照這個消息,該公司的首席科學家llya Sutskever從董事會出局,他曾被視作罷免Altman的核心推動者。

在X上,Altman和OpenAI彼此點贊,Brockman發了一張和成員的“大團圓”合影,老板與員工慶祝著再次成為一家人。

這場被稱為“企業家與科學家之爭”的大戲以企業家之勝落下帷幕,但外界至今都不清楚Altman到底因為什么導致了OpenAI原董事會的不信任。

11月23日,路透社援引消息人士曝出大瓜稱,Altman下臺前四天,幾位研究人員寫了一封信給董事會,警告一項強大的人工智能發現,他們稱這一發現可能威脅人類。

兩位消息人士稱,此前未報道的信件和人工智能算法是董事會罷免Altman之前的關鍵。其中一名知情人士稱,OpenAI在給員工的內部信中承認有一個名為Q*的項目,一些人認為Q*可能是公司探索通用人工智能(AGI)的突破。

OpenAI一直認為,AGI能在最具經濟價值的任務中超越人類的自主系統。

這位不愿具名的人士表示,鑒于龐大的計算資源,新模型能夠解決某些數學問題,雖然數學成績僅達到小學生的水平,但在此類測試中取得的好成績讓研究人員對Q*未來的成功非常樂觀。

路透社的消息讓外界對OpenAI的目光從人事紛爭轉移到它的主業上,連OpenAI的開發者社區都在追問Q*到底是什么,但未獲得官方人員的回應。

OpenAI開發者社區討論Q*

由于Q*似乎與數學有關,一些開發者推測,OpenAI的研發可能使用了Q-Learning算法,這可能是這個神秘項目以Q命名的原因。

Q-Learning算法是一個數學概念,也是機器學習算法中的一種,能夠進行“小學”水平的數學計算,并有望在該領域超越OpenAI的GPT-4模型。

Q-Learning使用被稱為“強化學習”的機器學習技術來解決數學問題,對正確或最佳的行為給予獎勵,對不正確或次優的行為給予懲罰。機器可以通過探索所有可能的路徑來學習獲得預期獎勵的最短路徑(shortestroute),通過反復試驗找到更優化的路線,并隨著時間的推移達到優化狀態,每次都做出更好的決策。

二、AGI離人類不遠了?

根據目前了解GPT-4最直接的產品ChatGPT的表現看,這個對話機器人能夠在人文、編程等領域理解自然語言,并給出符合上下文邏輯的回答,還能在人類的不斷提示中修正自己的回答。

但ChatGPT對解決數學問題不是很給力,比如不能一次性答對“雞兔同籠”的問題,還有人給它出過混合運算的數學題,這家伙的答案也是不盡人意。

現在,Q*被視作OpenAI在解決GPT數學能力的路徑。

新的問題來了:為什么獲得了數學能力,就能被OpenAI上升到通向AGI?

研究人員認為,數學是生成式人工智能發展的前沿。目前,生成式人工智能擅長通過統計預測下一個單詞進行寫作和語言翻譯,而同一問題的答案可能會有很大差異。但如果能征服“只有一個正確答案”的數學能力,這意味著人工智能將擁有類似于人類智能的更強推理能力。

與只能解決有限數量運算的計算器不同,AGI可以概括、學習和理解,更強的推理能力無疑是這些AGI特征的重要一步。

給路透社爆料的消息人士稱,OpenAI內部有標記為“人工智能科學家”團隊的工作,多個消息來源證實了該團隊的存在。一位知情人士表示,該小組由早期的“Code Gen”和“Math Gen”團隊合并而成,正在探索如何優化現有的人工智能模型,以提高其推理能力并最終開展科學工作。

這些未得到OpenAI回應、也沒有實證證明的信息,讓Q*變得更加神秘。而從Altman和OpenAI過去的表態看,AGI一直是這家公司追求的最高峰。

除了在11月宣布的一系列新工具外,Altman上周還在舊金山舉行的APEC峰會上稱,他相信重大進展即將到來?!霸贠penAI的歷史上已經有四次了,最近一次是在過去幾周,當我們推開無知的面紗并推進發現的前沿時,我已經在房間里了,能夠做到這一點是我一生的職業榮譽。”

如今,Altman殺回來了,相信這個善于制造熱點、運作資本的商業領袖,必然不會讓人錯過有關Q*的消息。

作者:木沐,編輯:文刀

來源公眾號:元宇宙日爆(ID:yuanyuzhouribao),在這里,看見未來。

本文由人人都是產品經理合作媒體 @元宇宙日爆 授權發布,未經許可,禁止轉載。

題圖來自Unsplash,基于 CC0 協議

該文觀點僅代表作者本人,人人都是產品經理平臺僅提供信息存儲空間服務。

更多精彩內容,請關注人人都是產品經理微信公眾號或下載App
評論
評論請登錄
  1. 目前還沒評論,等你發揮!