TOT(思維樹)詳解,探索如何讓提示詞“長腦子”

0 評論 231 瀏覽 0 收藏 11 分鐘

在探索人工智能的邊界時,我們常思考如何讓機器更接近人類的思維方式。思維樹(Tree of Thoughts,ToT)便是這樣一個創新的框架,它模擬了人類解決問題時的認知策略,讓大型語言模型(LLM)能夠以結構化的方式探索多種可能的解決方案。

思維樹(Tree of Thoughts,ToT)是一個創新的框架,旨在增強大型語言模型(LLM)的推理能力。它模擬了人類解決問題的認知策略,使LLM能夠以結構化的方式探索多種可能的解決方案,類似于樹狀分支路徑。ToT框架通過將問題分解為一系列連貫的思維步驟,每個步驟都是一個語言序列,作為問題解決的中間步驟?!?/p>

ToT框架的作用主要體現在以下幾個方面: 

提高解決問題的能力:ToT通過使LLM能夠同時深入了解多個推理路徑,顯著提升其解決問題的能力。例如,在需要戰略思維或規劃的任務中,ToT表現出卓越的性能,成功率更高。

不確定性的處理:不確定思維樹(TouT)是ToT的擴展,專門應對LLM決策過程中固有的不確定性。通過量化和管理這些不確定性,TouT可以獲得更準確、更可靠的結果。

計算開銷:ToT框架涉及復雜操作,如維護多條決策路徑、回溯以及深入了解替代解決方案,這些過程計算密集,通常需要大量的處理能力和內存資源。

實施復雜性:構建思維樹系統涉及整合各個組件,如提詞器代理、檢查器模塊、內存模塊和思維樹控制器。每個組件都必須經過精細調整以協調工作,這可能是一個復雜且耗時的過程。

ToT框架已在多種應用中證明了其有效性,以下是一些典型的案例研究,其中ToT顯著提升了解決問題的能力: 

數獨解謎:ToT在數獨解謎中的應用展示了其應對復雜邏輯挑戰的能力。通過引導模型完成各種數字排列,并使其在遇到矛盾時回溯,簡化了通往正確解決方案的路徑。

24點游戲:在具有策略性的算術游戲24點中,ToT通過讓模型深入了解多條計算路徑,顯著提高了成功率。

創意寫作:ToT還應用于創意寫作任務,可幫助LLM生成更連貫、更符合上下文的敘述。

5×5填字游戲:ToT的另一個顯著應用是解決5×5迷你填字游戲。該框架使模型能夠為每個縱橫字謎線索考慮多個單詞選項,不僅要評估它們的獨立性,還要考慮其如何與已填入的單詞進行交互。

如果你看過上一篇關于鏈式提示的文章(Prompt Chaining(鏈式提示)詳解——面對疾風吧,復雜怪?。┛赡軙幸蓡?,思維樹和鏈式提示都是分解任務,然后分步解決,他們之間的區別是什么呢? 

誠然,思維樹(Tree of Thoughts, ToT)和鏈式提示(Prompt Chaining)都是用于增強大型語言模型(LLM)解決問題能力的框架,但它們在方法和應用上存在顯著差異?!?/p>

從優勢上看: 

ToT的優勢在于提高了解決問題的能力,尤其是在需要戰略思維或規劃的任務中。例如,在24點游戲中,ToT通過讓模型深入了解多條計算路徑,顯著提高了成功率。此外,ToT還能夠處理不確定性,通過量化和管理這些不確定性來獲得更準確、更可靠的結果。

Prompt Chaining的優勢在于它能夠提高LLM應用的透明度,增加控制性和可靠性。例如,在撰寫一篇論文時,可以通過一系列提示逐步引導模型完成引言、方法、結果和討論等部分。

具體的區別可以用4點來概括: 

結構化程度:ToT采用樹狀結構,允許模型探索多個推理路徑,而Prompt Chaining采用線性鏈式結構,每個提示基于前一個提示的輸出。

解決問題的方法:ToT通過系統性探索和自我評估來解決問題,Prompt Chaining則通過逐步細化提示來引導模型。

應用范圍:ToT更適合需要復雜規劃或搜索的任務,Prompt Chaining則適用于需要清晰、合乎邏輯的思維順序的任務。

計算開銷:ToT由于其復雜的操作,如維護多條決策路徑、回溯以及深入了解替代解決方案,通常需要更多的處理能力和內存資源。而Prompt Chaining則相對簡單,易于實施。

為了更清晰地展示ToT和Prompt Chaining的區別,我舉幾個例子來感受一下二者的區別:

例子1:數學問題解決??

ToT應用: 

問題:解決一個復雜的數學問題,如24點游戲。

步驟:

將問題分解為多個中間步驟,每個步驟生成一個中間方程。

使用BFS或DFS搜索算法探索所有可能的解決方案。

對每個步驟的候選項進行評估,選擇最有前途的路徑。

Prompt Chaining應用: 

問題:解決一個復雜的數學問題,如24點游戲。

步驟:

提供一個提示,要求模型識別問題類型和涉及的數字。

第二個提示要求模型提出可能的運算組合。

第三個提示要求模型計算并驗證結果。

例子2:創意寫作??

ToT應用: 

問題:創作一個包含特定元素的短篇故事。

步驟:

構建思維樹,每個節點代表故事的一個可能發展方向。

使用ToT框架生成和評估不同的情節發展。

選擇最有吸引力的情節線進行深入開發。

Prompt Chaining應用: 

問題:創作一個包含特定元素的短篇故事。

步驟:

第一個提示要求模型生成故事的開頭。

第二個提示基于開頭生成中間情節。

第三個提示要求模型完成故事結尾。

例子3:旅行規劃??

ToT應用: 

問題:規劃一次旅行,包括目的地選擇、交通方式和住宿。

步驟:

將旅行規劃分解為多個決策節點,如目的地、交通和住宿。

對每個決策節點生成多個選項,并評估每個選項的優劣。

選擇最佳選項組合,形成完整的旅行計劃。

Prompt Chaining應用: 

問題:規劃一次旅行,包括目的地選擇、交通方式和住宿。

步驟:

第一個提示要求模型提供目的地建議。

第二個提示基于選定的目的地提供交通方式。

第三個提示要求模型推薦住宿選項。

例子4:編程問題解決??

ToT應用: 

問題:解決一個編程問題,如編寫一個函數。

步驟:

將問題分解為多個邏輯步驟,每個步驟代表函數的一個部分。

生成每個步驟的代碼,并評估其正確性。

組合各個步驟的代碼,形成完整的函數。

Prompt Chaining應用: 

問題:解決一個編程問題,如編寫一個函數。

步驟:

第一個提示要求模型理解問題并提出解決方案的概要。

第二個提示要求模型編寫偽代碼。

第三個提示要求模型將偽代碼轉換為實際的編程語言代碼。

例子5:客戶服務??

ToT應用: 

問題:處理客戶的復雜查詢。

步驟:

將客戶查詢分解為多個子問題,每個子問題代表一個可能的解決方案路徑。

生成每個子問題的解決方案,并評估其有效性。

選擇最佳解決方案路徑,形成完整的回答。

Prompt Chaining應用: 

問題:處理客戶的復雜查詢。

步驟:

第一個提示要求模型識別客戶查詢的關鍵點。

第二個提示要求模型提供相關信息或解決方案。

第三個提示要求模型根據客戶的反饋進行調整。

通過這些例子,我們可以看到ToT和Prompt Chaining在解決問題時的不同方法。ToT通過樹狀結構和系統性探索提供了一種更全面和深入的解決方案,而Prompt Chaining則通過鏈式提示提供了一種更直接和逐步的方法。兩者各有優勢,適用于不同類型的問題和場景。希望你通過此篇文章,能夠get思維樹的核心理念,并應用到你的提示詞工程中,畢竟,最好的學習永遠都是實踐~ 

本文由人人都是產品經理作者【宋恒達】,微信公眾號:【產品自由之路】,原創/授權 發布于人人都是產品經理,未經許可,禁止轉載。

題圖來自Unsplash,基于 CC0 協議。

更多精彩內容,請關注人人都是產品經理微信公眾號或下載App
評論
評論請登錄
  1. 目前還沒評論,等你發揮!