本文來自HumanloopCEORazaHabib對OpenAICEOSamAltman的最新訪談，Sam在這次訪談里非常坦誠的談論了關于目前困境、GPU資源限制、Conetxt長度、多模態以及開源等問題，甚至還提到了Plugin上線后表現并不理想，人們更多希望將大模型集成到自己的應用中，而非在ChatGPT內部來調用其他軟件。很多內容對AI創業者應該會有不少幫助，筆者在此借助GPT-4快速翻譯了這篇文章，希望能夠給大家也帶來最新的思考和啟發。

上周Humanloop CEO Raza Habib有幸與Sam Altman和其他20位開發人員坐下來，討論OpenAI的API和他們的產品計劃。Sam非常坦誠。討論涉及到開發者實際問題以及與OpenAI的使命和AI的社會影響相關的更大的問題。以下是主要的關鍵點：

01?目前OpenAI嚴重依賴GPU

在整個討論中，一個常見的主題是，目前OpenAI極度依賴GPU，這已經推遲了他們許多短期計劃。最大的客戶抱怨是關于API的可靠性和速度。Sam承認了他們的擔憂，并解釋說，大部分問題是由于GPU短缺引起的。

更長的32k上下文還不能推廣給更多人。OpenAI尚未克服O(n^2)的關注度規模，因此雖然他們可能很快就會有100k – 1M個標記的上下文窗口（今年），但任何更大的窗口都需要一個研究突破。

微調API也被GPU可用性限制。他們尚未使用如Adapters或LoRa等高效的微調方法，因此微調運行和管理都非常耗費計算資源。未來會有更好的微調支持。他們甚至可能主辦一個由社區貢獻模型的市場。

專用容量供應受到GPU可用性的限制。OpenAI還提供專用容量，這為客戶提供了模型的私人副本。要使用此服務，客戶必須愿意提前承諾花費10萬美元。

02?OpenAI的短期路線圖

2023年：

1. 更便宜、更快的GPT-4——這是他們的首要任務?？傮w來說，OpenAI的目標是將”智能的成本”降低到最低，因此他們將努力繼續降低API的成本。
2. 更長的上下文窗口——在不久的將來，高達一百萬個tokens的上下文窗口是可能的。
3. 微調API——微調API將擴展到最新的模型，但其具體形式將由開發人員表明他們真正想要的。
4. 有狀態的API（A stateful API）——當你今天調用聊天API時，你必須反復傳遞同樣的對話歷史并再次支付相同的tokens費用。未來的API版本將記住對話歷史。

2024年：

多模態性——這是作為GPT-4發布的一部分進行演示的，但無法在更多的GPU上線后擴展到所有人。

03?Plugin”沒有實現PMF”，可能不會很快出現在API上

許多開發人員對通過API在外部調用ChatGPT Plugin感興趣，但Sam說他認為他們不會很快發布這一功能。就Plugin目前的使用情況，除了browsing功能之外，其他的使用情況表明它們還沒有達到PMF。他說很多人以為他們想要的是應用程序在ChatGPT內被使用，但實際上人們真正想要的是他們自己的應用程序中有ChatGPT的能力。

04?OpenAI會避免與他們的客戶競爭——除了ChatGPT

很多開發者表示，他們擔心使用OpenAI的API構建應用，因為OpenAI可能發布與他們競爭的產品的時候。但Sam說，OpenAI不會發布除了ChatGPT以外的更多產品。他說，一個偉大的平臺公司會有一個殺手級應用，而ChatGPT將允許他們通過成為自己產品的客戶來提高API的質量。ChatGPT的愿景是成為工作中的超級智能助手，但OpenAI不會觸及到更多其他GPT的用例。

05?需要監管，但也需要開源

盡管Sam正在呼吁對未來模型進行監管，但他不認為現有模型是危險的，認為對它們進行監管或禁止是一個大錯誤。他重申了他對開源的重要性，并表示OpenAI正在考慮開源GPT-3。他們尚未開源的部分原因是他對有多少個人和公司有能力托管和提供大模型表示懷疑。

06?縮放法則（Scaling laws）仍然有效

最近有許多文章聲稱“大模型的時代已經結束”。這并不準確地反映了原意。

OpenAI的內部數據表明，模型性能的縮放法則仍然有效，使模型變大將繼續產生性能?？s放率的確不能維持，因為OpenAI在短短幾年內已經將模型擴大了數百萬倍，未來繼續這樣做是不可持續的。這并不意味著OpenAI不會繼續嘗試使模型變大，只是意味著他們可能每年只會增加一倍或兩倍，而不是增加許多個數量級。

縮放繼續有效的事實對AGI開發時間線有重要影響?？s放假設是我們可能已經擁有構建AGI所需的大部分部件，而剩下的大部分工作將是將現有方法擴大到更大的模型和更大的數據集。如果縮放的時代結束了，我們可能應該預期AGI還有很長的路要走?？s放法則繼續有效強烈地表明了實現AGI的時間線較短。

07 結尾

從Sam Altman透露的這些計劃來說，對于AI創業者應該是個好消息，OpenAI是有邊界的，而且Sam也承認根據市場實際表現來看，Plugin也并沒有實現之前很多人預期的那樣，讓ChatGPT成為一個超級入口+平臺。更多人還是想要在自己的應用中去加入并使用大模型的AI能力，并且Sam也明確表示了OpenAI是有邊界的，同時受限于GPU，今年內多模態也不會上線。

關于更多Plugin和AI生態的分析，可以參考我之前的文章——AGI要來了？AI Paradigm的新階段和新趨勢。

參考材料：

[1]https://humanloop.com/blog/openai-plans