大模型應用設計思考:大模型+bi,TFlowAI如何讓大模型來檢索數據

0 評論 1709 瀏覽 7 收藏 6 分鐘

TFlowAI提出了一種基于大模型的解決方案,通過理解業務、查找數據、分析處理的過程編排,實現模型自主的基于數據庫的數據查詢與分析。這種方法不僅降低了開發成本,還提升了使用體驗。

在B端的助手agent中,有一個重要的場景既數據的分析!那如何讓模型能夠理解產品的數據,理解數據結構、理解業務,準確的去數據庫中查找數據,并給他客戶展示呢?我們來看TFlowAI給出的解決方案

一、用戶現狀場景

如客服主管的Agent助手,只需一句話,Ai幫助用戶快速找到想要的數據: 如:

  • 今天客服接待的滿意度咋樣?
  • 用戶投訴最多的問題是那些?
  • 從官網來的咨詢量有多少?滿意度怎樣?

這些數據的查找、獲取在原有產品設計中,有2個體驗不好的點:

  1. 開發成本:新統計維度、數據項的增加,需要開發進行計算&編排
  2. 使用體驗:數據分析維度,查看維度等等都受制于產品界面的限制;

那是否借助大模型的理解能力,來實現模型自主的基于數據庫的數據查詢與分析,生成報表,從而擺脫通過系統開發的方式實現數據的統計與分析。

二、解決方法

解決方法的設想:參考rag的面向過程編排的方法,將模型處理理解業務,查找數據,分析處理的過程通過workflow得形式編排,用大模型進行串聯處理。

1. rag的流程

1)流程

2)流程說明

  1. 用戶提問向量化,index檢索相似片段
  2. 通過提示詞+用戶提問+check片段 打包發給大模型
  3. 模型進行解答

2. 大模型+BI的過程編排流程

1)流程設計

整個過程會經歷問題的反寫,表結構的理解,SQL的生成,SQL的執行,數據的可視化五個階段。依次講解下每個環節做什么。

(1)問題反寫:讓大模型理解query,通過提示詞,讓模型理解意圖,當前產品有關的數據維度解釋說明,計算規則等。從而將用戶的需求完整的描述處理。

  • 用戶提問:官網線索轉換了是多少?
  • 模型反寫:想要了解從官網注冊的用戶,最終購買產品的比例。計算規則:官網線索客戶成交數/官網線索數

(2)理解表結構:讓模型知道從那張表中獲取相關的數據。通過補充表+字段的方法,讓模型知道數據庫中有哪些表,從而推測要用到哪些表

  • 比如表結構理解輸出:模型反寫:想要了解從官網注冊的用戶,最終購買產品的比例。計算規則:官網線索客戶成交數/官網線索數,要統計從線索表中篩選來源為“官網”的線索數,統計從成交訂單中篩選來源為“官網”的訂單數

(3)SQL生成:接住大模型或者txt2SQL等模型,將文本轉為可執行的SQL

(4)執行SQL:執行上一步生成的SQL,獲取其結果

(5)數據可視化:借助繪圖工具,繪制趨勢圖等圖表。同時模型對于數據進行簡單的分析說明

(6)輸出:對用戶輸出可視化的內容

整個過程的關鍵環節在于問題的反寫與表結構的理解,需要在這個環節中用提示詞給模型正確的引導,讓模型能夠理解清楚業務,以及用戶的意圖、計算邏輯。同時對于喂給大模型的內容,進行選擇性的拼接。

同時也可以考慮增加嬌艷環節,降低理解的出錯率。

3. 進階:融入Agent

更深度的應用,可以將大模型+bi的環節,變成Action事件,嵌入到已有的Agent當中

三、優勢與問題

1. 優勢

  • 開發成本低:只需要數據庫增加字段,提示詞增加說明,即可滿足用戶對于數據分析的數據,開發成本大幅降低;
  • 使用體驗:基于模型的理解去分析,查找數據、分析數據,實時繪圖,擺脫原有數據報表的限制,可以自定義進行深度的分析。

2. 問題

  • 復雜數據的處理不確定,可能需要借助增加過程、借助agent等提高模型對復雜數據的處理;
  • 存在幻覺、異常數據排查難度較大,過程黑盒無法排查!

本文由 @易俊源 原創發布于人人都是產品經理。未經許可,禁止轉載

題圖來自 Unsplash,基于 CC0 協議

該文觀點僅代表作者本人,人人都是產品經理平臺僅提供信息存儲空間服務。

更多精彩內容,請關注人人都是產品經理微信公眾號或下載App
評論
評論請登錄
  1. 目前還沒評論,等你發揮!