a16z:巧用“幻覺”的應用架構思考
就在最近,a16z發(fā)布的文章里提出了“概率性產品”這一概念,那么,什么是“概率性產品”?在生成式AI的發(fā)展背景下,產品開發(fā)者、設計師們又該如何看待“概率性產品”的出現?一起來看看作者的解讀。
生成式 AI 作為一種概率計算機,能夠產生多樣且不確定性的輸出。這些多樣的輸出開啟了一個新的產品類別:概率性產品。a16z 最近發(fā)布文章提出“概率性產品”,并根據用戶對不確定性的接受度將產品分為三類。筆者希望借這篇文章帶來 Gen-AI 技術對產品設計和用例的思考,生成式 AI 的不確定性正在成為和用戶交互的變量。
生成式內容不確定性下的三類產品:
受益于不確定性的產品/可容忍概率性輸出的產品/需要準確輸出的產品。
1)當我們還在詬病大模型會產生幻覺的時候,未曾想象概率性的不確定內容恰恰會成為其區(qū)別于冰冷計算機的變量所在。生成式內容的概率性像是賦予了 AI 以意識,更適用于與人更近的交互層和更需要創(chuàng)造力的領域(游戲、藝術創(chuàng)造、創(chuàng)新研究等)。
2)在 AI 的世界里,硬幣有了多面。在產品設計的不同架構層或流程服務里,大模型的應用會更組合模塊化,用模糊理解模糊,在非關鍵點上提供更多新鮮感,提取的信息在精確層上進行數理計算,相信會很快看到這樣的產品。
3)當人的創(chuàng)造力枯竭,大模型成為早期的腦洞來源。然而像科學家異想天開的創(chuàng)造同樣需要依賴長期探索的積累,通過訓練領域模型讓其產生更高質量的不確定性內容,是創(chuàng)業(yè)者值得思考的事情。
4)對于一個產品架構而言,隨機與確定解決不同的問題,應當互補融合。平衡也是一門藝術。
生成式人工智能的一個顯著特點是它是“概率計算機”的首批產物,能夠產生多樣且非確定性的輸出。有些人期望這些系統(tǒng)表現得像傳統(tǒng)系統(tǒng)一樣,對其產生的“幻覺”提出了抱怨,然而,這些抱怨忽略了關鍵點。輸出的多樣性(包括幻覺)恰恰是這里的特別之處。事實上,它們開啟了一個全新的產品設計類別:概率性產品。
所謂概率性產品,指的是具有非確定性和經常出現新特性的產品。社交網絡就是概率性產品的一個例子。這些網絡上出現的新行為通常是無法預測的,只能被觀察到。a16z 將產品類別和產品用例分為三類來思考:
- 受益于不確定性的產品;
- 可容忍概率性輸出,但不一定從不確定內容收益的產品;
- 需要準確性輸出的產品。
第一類是那些受益于不確定性的產品。比如像 Midjourney 和 Stable Diffusion 這樣的熱門圖像模型,它們之所以神奇,是因為它們會生成各種各樣的輸出。
這整個生成式媒體類別之所以能夠產生驚人的結果,正是因為平臺是非確定性的。
AI 伴侶類別也屬于這一組,因為產品的整體價值在于其與人類非常相似的不可預測的互動;失去非確定性的輸出將削弱產品體驗。該領域中的另一個例子可能包括輔助購物,因為 AI 提供的意外和不尋常的服裝推薦正是能夠塑造個人風格和品味的關鍵。
第二類產品可以容忍概率性輸出,但不一定從平臺的非確定內容中受益。例如,考慮那些生成現有內容的產品,只要生成內容的要點準確無誤,生成內容的方式變化通常是可以接受的。
舉個例子,預測數值(例如股票組合表現)需要更高的準確性,而生成書面內容可以具有更大的變化范圍而不會損失價值。甚至代碼生成也能容忍一定的變化,只要代碼按預期工作即可。
最后,還有大量需要確定性輸出的用例。這些例子包括從財務預測到稅務計算再到駕駛路線等,基本上涵蓋了所有需要明確答案的領域。
我們還可以將個別產品分為根據對概率性輸出的容忍程度進行劃分的產品架構。
例如,想象一個旨在幫助您申報稅務的 AI 助手。這樣的助手可以分為三個子系統(tǒng),各個子系統(tǒng)對底層平臺有不同的期望。
- 在人機交互界面,自帶不確定性基因的 LLM 能夠完成與用戶更彈性的聊天并收集用戶稅收相關信息。
- 其次,將用戶信息作為背景信息能夠作為稅務引擎輸入系統(tǒng),而對用戶背景信息的整理具有一定的包容性,可以接受不確定信息的輸入。
- 最后,實際的稅務計算可以且應該在一個傳統(tǒng)引擎上完成,該引擎不受 LLM 的限制,從而確保輸出的準確性。
一句話,新的計算架構需要新的產品架構,LLM 和生成式 AI Pipeline 平臺的不確定性創(chuàng)造了獨特的機遇和要求,產品和用例在設計輸出多樣性時要仔細考慮。尤其對于產品研究者和設計師們,在利用并設計這些新功能的交互體驗時,需要認真考慮這一點。
參考材料:https://t.co/MHEajKedFW
作者:Vela,Yihao,Leo
來源公眾號:深思SenseAI(ID:gh_a54fc6d3826c);關注全球 AI 前沿,走進科技創(chuàng)業(yè)公司,提供產業(yè)多維深思。
本文由人人都是產品經理合作媒體 @深思SenseAI 授權發(fā)布,未經許可,禁止轉載。
題圖來自 Unsplash,基于CC0協(xié)議
該文觀點僅代表作者本人,人人都是產品經理平臺僅提供信息存儲空間服務。
說到底,概率性產品能否被接受還是要取決于其輸出是否對用戶有價值