現在，企業對 AI 技術的接受度和付費意愿都有一定上升，而 2024 年，或許會成為 Gen-AI 技術在 B 端發展的元年。這篇文章里，作者就分享了關于「企業如何應用 Gen-AI」的發現，一起來看看吧。

最近在硅谷考察，見了 YC Batch 、GTC和灣區這邊的創業者后的一大感受是大家會更多關注 Infra 和模型的創業，應用層的創業以 B 端產品為主。因為背靠硅谷對技術的高接納程度，和創業團隊聊下來一個很有體感的趨勢是企業對 AI 的接受和付費意愿有明顯的增長。對比國內，這邊對于 AI 在企業內的落地節奏也相對較快，比如某大銀行的手機 APP 的搜索欄已經全面和 AI chatbot 結合并合二為一。

美國某大行的手機銀行搜索欄

因為我自己也在企業里探索 AI ，作為一個偏算法的產品經理，雖然在有了接口之后自己的技術模型全面轉向了大語言模型，但對于其真正投入到生產環節，即模型直接面向消費者還需要很多機制的變化和問題待解決。最近 a16z 發布的一篇調研報告正好通過真實調研了 70 家前 500 公司的 AI 應用情況，給出了 Gen-AI 的 B 端產品達到企業級應用的核心問題和幾大趨勢，內容涵蓋了目前個人切身體會到的關鍵卡點和正在形成的“共識”，雖然 2B 蠻難做，但變化也正在發生，值得交流探討。

Sense 思考：

我們嘗試基于文章內容，提出更多發散性的推演和深思，歡迎交流。

2024 年會成為 Gen-AI 技術在 B 端發展的元年，企業將 AI 的預算從創新支出歸入經常性收入，能夠識別痛點并找到AI解決方案的公司會實現飛速發展。目前對于使用 AI 的 ROI 判斷仍然比較模糊，但模型測評和效果評估依然重要。

企業正在偏向使用“多模型+開源模型”， a16z 預計 2024 年開源模型與閉源模型在市場中的比例將從去年的 2/8 轉變為 5/5。滿足數據安全的可控性、可定制模型是企業選擇模型的關鍵。同時特別值得注意的是，不同的開源/閉源模型變得趨同，因為企業更會拿微調的開源模型和微調的閉源模型的性能與他們自己的內部基準進行比較。

目前企業使用 AI 主要是以“copilot”的形式內部使用，沒有直接納入生產流程。納入生產環節意味著模型生產的內容直接面向消費者，比如對于電商呈現的商品信息/視頻，用戶看到的內容均通過模型直接生產而不依賴公司內部業務的審核與標注。這里面的難點在于機制的設計，讓模型生產的內容最大化服務于生產，這也是創業公司的機會。

2023 年，Gen-AI 在 ToC 市場的支出超過了 10 億美元，而 2024 年，在 ToB 應用領域，收入機會將是消費者市場的數倍。去年，雖然個人用戶花了很多時間與新的 AI 伙伴聊天，或者使用 AI 制作圖像和視頻，但大多數企業對 Gen-AI 的應用僅限于少數用例，并且使用到的產品更多也是“GPT-Wrapper”。所以，總會有人質疑 Gen-AI 是否能夠發展為企業級應用。

在過去的幾個月中，a16z 與數百位財富五百強的企業進行了交談，并對其中 70 位進行了調查，以了解他們對于 Gne-AI 的使用、購買以及預算。結果發現，這些公司對于 Gen-AI 的預算在過去 6 個月的時間內，增加了 2 倍多，并且開始使用更多小型開源模型，也逐漸讓 AI 進入業務真正的生產環節中。

這些結論對于 B 端的 AI 創業公司來說，是一個巨大的機遇，那些能夠識別到企業痛點，并且知道如何結合 AI 技術提供解決方案的創業公司，有很大概率會在 2024 年實現高速增長。下面帶來 a16z 調研中的 16 個關于「企業如何應用 Gen-AI」的發現。

一、企業 AI 預算大量增加，并將保持較長時間

1. Gen-AI 預算劇增

2023年，a16z 采訪的數十家公司在基礎模型 API、模型托管和微調模型方面的平均支出為 700 萬美元。此外，幾乎每家企業都看到了 Gen-AI 將對企業工作流程產生巨大效益，并計劃在 2024 年將支出增加 2 倍至 5 倍，以支持將 AI 嵌入到更多業務生產環節中。

2. 領導層開始把 AI 預算納入經常性軟件預算范圍內

去年，企業在 Gen-AI 的大部分支出，基本都來自“創新”預算或其他一次性資金池。然而，到 2024 年，許多領導者正在將這些支出重新分配到更經常性的軟件項目上；

僅有不到 25% 的公司表示，Gen-AI 的支出將出自今年的創新預算。然而，我們也開始看到一些領導者將其 Gen-AI 預算用于節省員工人數，特別是在客戶服務方面。如果這種趨勢繼續下去，這可能會是 Gen-AI 未來支出顯著增加的信號。

一家公司提到，通過其 LLM 驅動的客戶服務為每個呼叫節省約 6 美元，總共節省了約 90% 的成本，這是他們將 Gen-AI 投資增加 8 倍的原因。

下面這張圖，是 a16z 調研中，關于「組織如何分配其 LLM 支出」的總體情況：

3. 對于 AI 投入的 ROI 評估會變得越來越重要

企業領導者目前主要通過 AI 提高的生產力來衡量 ROI。雖然這依賴 NPS、客戶滿意度作為中間指標，但他們也在尋找更能量化的方法來衡量 Gen-AI 的投入回報，如收入的產生，準確率的提高等，具體的評估方式則取決于企業的實際用例。

雖然企業領導層正在尋找「如何評估 Gen-AI 投入產出比」的答案，但當他們的員工說他們正在更好地通過 AI 提高工作效率時，AI 的提效作用就變得毋庸置疑了。

4. 企業內部缺少實施 Gen-AI 技術的人才

想要大規模構建和部署企業內部的 Gen-AI 解決方案，只靠提供一個 API 是遠遠不夠的。AI 的實施、維護和擴展，都需要高度專業化的人才。僅實施一項，其成本就占到了 2023 年 Gen-AI 總支出的最大領域之一，在某些情況下也是最大的。

為了幫助企業在 AI 模型上的啟動和運行，基礎大模型廠商提供并仍在提供專業服務，通常都與定制模型開發相關。a16z 預估，2023 年，定制模型的開發，是基礎大模型公司總收入中的很大一部份；因此，企業在采購時，除了考慮模型性能外，「能夠實施落地」也是企業采購的關鍵因素之一。由于在企業中很難找到合適的 Gen-AI 人才，所以那些能讓企業更容易將 Gen-AI 實施落地部署的初創公司，可能會有更強的業務增長潛力。

二、模型選擇：多模型，且擁抱開源

1. 多模型的未來

6 個月前，絕大多數企業嘗試的模型數量都在都在嘗試 1 個（主要是 OpenAI 的）或 2 個。但是，這次 a16z 的調研顯示，大多數人的企業領導者都在嘗試使用多個模型。

多模型的選擇對他們來說，一是可以根據性能、規模和成本定制最佳解決方案；二是分散投資，避免被一家廠商影響過大；三是能夠快速體驗到 Gen-AI 最新技術——第三點對領導者尤為重要，因為模型排行榜是動態變化的，公司很高興將當前最先進的模型和開源模型結合起來，以獲得最佳實踐。

我們很可能會看到更多的模型激增。在下方這張圖中，顯示了 a16z 報告中，企業對于市面主流模型的采用比例。顯然，OpenAI 仍然主導市場份額，市占率遠超過其他模型廠商。

2. 開源模型正在加速發展

根據 a16z 的估計，2023 年的 AI 大模型市場，80%-90% 均為閉源，且大部分都是 OpenAI。

然而，在這次調研中，46% 的調查者提到，他們會在 2024 年嘗試更多開源模型。且近 60% 的領導者指出，當開源模型能夠直接或經過微調后，達到與閉源模型一樣的性能，解決實際的業務問題時，就會考慮完全切換到開源模型。

3. 可控性、可定制，是企業采購 Gen-AI 時的關鍵因素

雖然開源模型的使用，會在一定程度下降低企業成本，但是，成本并不是企業考慮的最主要因素。模型是否可控，例如數據是否安全，能否理解模型產生某些輸出的背后原因，以及模型是否可定制，能夠讓企業微調產出最佳效果，這 2 個因素的考慮相比成本來說，遠遠重要得多。

4. 為什么在意可控性：數據安全與敏感場景

出于監管或數據安全的考慮，企業仍然不愿意與閉源模型提供商共享其業務數據——毫不奇怪，IP 對其商業模式至關重要的公司尤其保守。雖然一些企業領導人通過自己托管開源模型來解決這一問題，但其他人指出，他們正在優先考慮具有虛擬私有云（VPC）集成的模型。

5. 選擇微調，而不是從 0 開始做

2023 年，大家都在追求構建像 BloombergGPT 這樣的自定義模型。到 2024 年，企業仍然對自定義模型感興趣，但隨著高質量開源模型的興起，大多數企業選擇不再從 0 開始訓練自己的 LLM，而是使用檢索增強生成（RAG）或微調開源模型以滿足其特定需求。

6. 在模型采購中，云是非常重要的因素

2023 年，許多企業出于安全原因通過現有的云服務提供商（CSP）購買模型——領導者更關心閉源模型處理數據不當，而不是他們的 CSP——并避免冗長的采購流程。

2024 年仍將保持這個趨勢，這意味著 CSP 和首選模型之間的相關性相當高：Azure 用戶普遍更喜歡 OpenAI，而亞馬遜用戶更喜歡 Anthropic 或 Cohere。正如我們在下面的圖表中看到的，72% 使用API訪問其模型的企業中，超過一半的企業使用了其 CSP 托管的模型。

7. 關心新功能

盡管推理能力、可靠性和易于訪問，是企業評估模型的主要因素，但對于差異化的功能，也非?？粗?。例如，多位領導者表示，采用 Anthropic 的關鍵原因，就是因為其支持 200K 上下文；而采用 Cohere 的客戶表示，主要的原因在于其提供了更方便的模型微調方案。

8. 大多數企業認為模型正在趨同

盡管大部分技術社區專注于將模型性能與公共基準進行比較，但企業領導者更專注于將微調的開源模型和微調的閉源模型的性能與他們自己的內部基準進行比較。

有趣的是，盡管閉源模型通常在外部基準測試中表現更好，但企業領導者仍然給予開源模型相對較高的NPS（在某些情況下更高），因為它們更容易針對特定場景進行微調。

一家公司聲稱，“經過微調，Mistral 和 Llama 的性能幾乎與 OpenAI 一樣好，但成本要低得多?！备鶕@些標準，模型性能的收斂速度比我們預期的要快，這意味著 ToB 的模型市場，最后大概率是一個買方市場。

9. 優化多模型切換

大多數的企業正在設計便于在各種模型 API 之間切換的應用程序，或者有的公司也在建立自己的“模型花園”，這樣都能便于公司業務不會只依靠單一模型，畢竟，市場變化如此之快，如果只依賴單一供應商，其運營風險將是非常大的。

三、Gen-AI 技術開始進入生產環境

1. 企業正在把聊天機器人納入生產

越來越多的企業專注于在內部構建應用程序，稱缺乏經過戰斗考驗的、殺死類別的企業AI應用程序是驅動因素之一?；A模型還通過提供 API 使企業比以往任何時候都更容易構建自己的 AI 應用程序。

企業現在正在構建的常見用例——如客戶支持和內部聊天機器人——同時也在嘗試更新穎的用例，如編寫 CPG 配方、提出銷售建議。由于企業構建內部 AI 工具的成本進一步降低，因此像更多“GPT-Wrapper”的工具，比如簡單的文章總結，聊天機器人等應用，可能會逐漸在市場內失去競爭力。

然而，當更多以企業為中心的 AI 應用程序進入市場后，這種情況是否會發生變化仍有待觀察。一位受訪者指出，盡管他們正在內部構建許多 AI 應用，但他們樂觀地認為“將會有新的工具出現”，并更愿意“使用最好的”。

a16z 認為，超越“LLM + UI”公式并重新思考企業的底層工作流程或幫助企業更好地使用自己的專有數據的 AI 應用，會變得更為重要。

2. 企業更愿意在內部使用 Gen-AI，而非外部

這是因為關于 Gen-AI 的兩個主要問題仍然在企業中占據重要地位：

• 數據安全的潛在問題；
• 部署 Gen-AI 問題，特別是在敏感的消費領域（例如醫療保健和金融服務）。

過去一年中最受歡迎的用例要么專注于內部生產力，要么在到達客戶之前讓人類作為最好一道“卡扣”，例如編碼副駕駛、客戶支持和營銷?？梢栽谙旅娴膱D表中看到，這些用例在 2024 年仍然在企業中占主導地位，企業會將完全內部的用例，如文本摘要和知識管理（例如內部聊天機器人）推向生產；

但對于與客戶相關的場景，如合同審查，外部聊天機器人或推薦算法，企業會避免發生服務崩潰的 Gen-AI 事故，像之前加拿大航空公司；由于這些擔憂對大多數企業來說仍然很重要，所以，如果構建有助于控制這些問題的 AI 初創企業，2024 年也會實現快速增長。

四、Gen-AI B 端市場：巨大且增長迅速

根據 a16z 的預估，模型 API（包括微調）市場截至 2023 年約為 15 億美元到 20 億美元，包括通過 Azure 在 OpenAI 模型上的支出。

鑒于整體市場的預期增長和企業的具體跡象，僅在這一領域的支出將在年底增長到至少 50 億美元，具有顯著的上漲潛力。一是企業已經優先考慮 Gen-AI 部署，將增加預算并將其重新分配到常用支出項，二是企業也開始計劃在 2024 年將更多的業務場景納入 AI，企業端會成為模型市場中的主要買單群體。

參考材料：

https://a16z.com/generative-ai-enterprise-2024/