高效構建智能體技巧 | 含Agent設計原則與Workflow構建方法
近期閱讀了Anthropic發布的最新文章《Building effective Agents》, 文章分享了他們對于如何高效構建Agents的相關思考, 看完后獲得了一些收獲, 與你分享。
01 Anthropic 對 Agent 的定義
Agent是一個架構或者是系統
它即被定義為一個能夠較長時間自主獨立運行,通過調用各種工具來完成復雜任務的自主系統,也被定義為通過遵循預定義工作流的預設系統。
所以Anthropic對Agent系統進行了兩類劃分:
1. Agents: 根據任務復雜程度,由LLM動態決定處理流程來自動完成任務,適用于“開放性與創造性場景”,如智能客服助理:能夠根據客戶提出的多樣化問題,動態選擇合適的知識庫和工具,提供個性化的解決方案。
2. Workflow: 基于預設的編排路徑,在每個節點中準確地調用LLM節點和相關工具節點,從而完成復雜任務,適用于“標準化與流程化場景”,如客戶評論批量處理:通過預設的工作流程收集客戶評論,判斷評論的情緒,再自動生成評論的回復文案。
02 Workflow的構建方法
1. Prompt chainning (提示鏈編排)
定義:提示鏈的方法是將任務分解為多個子任務,每一個節點輸入的信息都是前一個節點的輸出內容。
典型場景:復雜文本生成,首先生成主題的大綱內容,然后檢查大綱是否符合標準,接著根據大綱內容逐段撰寫,每一段都基于前面的內容,以確保主題連貫的一致性。
2. Routing (路由編排)
定義:路由的編排方式,類似于Coze的意圖識別節點,能夠將輸入的信息進行分類,并將其定向專到特定的處理路徑節點。
典型場景:智能客服系統,當用戶提出問題時,系統先判斷問題的意圖,再將其分流至響應的回復模塊,比如: 訂單查詢,技術支持,功能說明,投訴建議等處理路徑。
3. Parallelization (并行編排)
定義:并行編排的方式是將LLM同時處理同一項任務,并在聚合器中整合輸出結果,從而提高任務處理的準確性和全面性。
如圖所示,開始節點為用戶輸入的信息,將用戶輸入的信息同時輸入至三個大語言模型節點進行并行處理,并將每個節點的輸出結果進行聚合匯總,最終進行整體輸出。
典型場景:內容合規審查,多個大語言模型分別檢測內容中是否存在違規,敏感或不良信息,再由聚合器進行綜合判斷,以提高審核的可靠性。
并行編排的優勢:
- 將復雜任務拆分為子任務后,不僅提高輸出質量,同時通過并行處理的方式,能夠提升輸出的響應速度
- 支持同一個任務多次獲得不同的輸出結果,在聚合器中選擇重復輸出最高的結果為最終輸出的內容,能夠有效提升輸出信息的可信度
4. Orchestrator-workers (協調器編排)
定義:協調器編排的方式是由前置的大語言進行動態的任務分解,并將分解后的子任務派給其他的大語言模型進行處理,最終通過整合子任務輸出結果的方式,進行最終答案的輸出。
這個編排結構是不是很像路由編排與并行編排的結合體,他們之間還是有很多本質差異的,比如和路由編排的差異在于:
Routing(路由編排)主要是一種分類機制,對輸入的任務請求進行分類,然后再將其導向專門的任務處理流程,核心是做子流程的分離,使不同類型的任務能夠被高效地分配到最適合處理的路徑上,提高系統的整體效率 (適用于明確不同任務類型的場景)。
Orchestrator-workers(協調器編排)核心是由模型對復雜任務進行動態拆解與分配,適用于任務復雜,且任務的執行順序不可預測的使用場景。
典型場景:合同審查,前置的大語言模型將合同審查任務拆解為: 條款識別,風險評估,合規性審查,修改建議等多個子任務,并將這些子任務分配給擅長處理響應任務的垂直模型,最后再通過大語言模型將輸出內容進行整合,生成全面的審查報告
03 Agent設計原則
最后和大家分享一下Anthropic總結的Agent編排原則,我認為有價值的原則有兩點/
原則一,優先用最簡單的方式搭建,減少Agent架構的復雜性
這一點與做產品類似,先基于需求做最簡單的MVP,不需要一上來就構建非常復雜的工作流,系統越復雜,不僅輸出的時長更久,而且成本也更高,所以優先用簡單的方式來搭建,去解決核心需求/
原則二,將Agent規劃執行的步驟展示給用戶,從而增加系統的可理解性和可信度
比如協調器的編排方式,可以讓用戶直觀地查看自動分解的任務結果和任務推理過程,從而增強輸出內容的可信度。
參考資料
Building effective Agents,from: Anthropic
Url:https://www.anthropic.com/research/building-effective-agents
作者:在野在也,公眾號:在野在也
本文由 @在野在也 原創發布于人人都是產品經理。未經作者許可,禁止轉載。
題圖來自Unsplash,基于CC0協議
該文觀點僅代表作者本人,人人都是產品經理平臺僅提供信息存儲空間服務。
- 目前還沒評論,等你發揮!