智能客服的知識庫有兩類：機器人知識庫和坐席知識庫，分別是為機器人和坐席進行服務時，提供數據的支撐。如何通過大語言模型，讓企業的文檔可批量上傳，無需更多的整理，直接轉化為有效的QA，供座席和機器人直接調用呢？本文作者對此進行了分析，一起來看一下吧。

上一篇提到了《大語言模型實現智能客服知識庫自動擴寫功能》，這次談下知識庫文檔數據提取功能的實現。

一、產品場景和需求

我們知道智能客服的知識庫有兩類：機器人知識庫和座席知識庫。

分別是為機器人和座席進行服務時，提供數據的支撐。

智能客服系統會標配知識庫管理功能，常見的形式是樹狀結構，提供分類管理、知識庫條目管理，并支持知識庫的批量導入導出操作。

使用中，企業需要經常性地維護管理知識庫內容，將企業已有知識內容文檔上傳，但如果是將原文件上傳，則系統最多能支持預覽功能，使用者在操作界面只能點擊打開全文檢索。而如果是機器人知識庫，直接上傳文檔是不可用的，需要操作者手工整理文檔中的內容為機器人標準問答對。

以上是目前絕大多數主流產品的使用情況。

大語言模型來了，我們提出的需求很簡單，所有企業的文檔可以批量上傳，無需更多的整理，直接可自動轉化為有效的QA，供座席和機器人直接調用。

二、知識提取實測：PDF文檔內容提取

已有諸多產品使用大語言模型實現PDF文檔數據提取，我們先看下已實現的產品的效果。

1. ChatPDF

https://www.chatpdf.com/

界面特別干凈，上傳pdf，然后conversation。

為了測試，我扔了一份100頁的產品手冊進來。

上傳速度很快，最關鍵的時，對話響應也非常的快。

對文檔內容的解析很準確，包括一些隱藏在內部的知識點也可以快速搜索找到。

2. Pandagpt

https://www.pandagpt.io/

網絡問題，訪問有點慢，但是這個對話的樣式，一言難盡，沒有一個版塊不是互相遮擋的，強迫癥死敵。

響應速度差一些，問題回答基本到位，相比ChatPDF，略顯啰嗦。

3. typeset

https://typeset.io/

主打論文檢索的typeset，也支持pdf文檔解讀。

上傳、對話響應都十分緩慢，對話的效果非常不OK，很多知識點無法解讀，一律回復無法找到這個問題的答案。

三、自研框架的選擇

基于OpenAIEmbeddings，官方給出了基于embeddings檢索來解決GPT無法處理長文本和最新數據的問題的實現方案。

參考：https://www.datalearner.com/blog/1051681543488862

也可以使用LangChain框架，參考以下內容實現效果。

參考：

ChatGPT怎么建立私有知識庫？：https://www.zhihu.com/question/596838257/answer/3004754396

利用LangChain和國產大模型ChatGLM實現基于本地知識庫的自動問答：https://www.zhihu.com/zvideo/1630964532179812353

另外除了從文檔中抓取數據，從指定網站URL抓取數據，實現智能客服外部知識庫，可以借助ChatGPT寫Python代碼，PythonBeautiful Soup庫的實現方式很成熟。

四、智能客服產品設計要點

回到智能客服產品場景中，產品設計使用中要考慮的問題。

1）功能分割

建議為保持原知識庫管理系統的完整，可增加單獨的大語言模型知識庫，避免SaaS產品原來的企業使用體驗和數據庫內容產生交叉影響。

2）書架式管理

模型知識庫同樣支持分類管理，方便使用者管理文檔庫，能夠快速檢索文檔名稱和內容。

提供增刪改查，預覽、批量上傳刪除等操作。并支持以QA問答對的方式全文展示，使用者可以了解到本文檔新增的有效文檔數據有多少內容。

3）提供測試對話工具

模型庫中可內置對話測試工具，供使用者先行進行知識點的維護管理。

4）知識庫編輯擴展

提供插件、支持在線改寫編輯，重新讀取。

減少重復上傳給使用者帶來的挫敗感。

5）知識庫關聯

已測試完成的大模型知識庫，可允許使用者關聯發布到座席或者機器人知識庫中，提供對話數據的擴展。

如果是機器人知識庫，可以在機器人模板設置關聯，允許流程中各節點選擇性調用對應的知識庫，這樣也不會破壞原有流程的知識庫體系，增強了部分節點的知識庫能力。

對于交叉引用知識庫的節點，權重可以允許調節，一般默認為機器人自身知識庫為主，大模型知識庫輔助。

6）反饋機制

文本對話機器人的訪客端點踩、座席的手工點踩，和語音機器人的手工標記無效問答，都可以幫助反饋大模型知識庫的效果。

以數據報表方式展示，手工或自動進行知識維護。

7）功能開關

最后，仍然是設置功能性開關，并關聯到SaaS產品賬戶角色權限中，可邀請一部分友好客戶星火測試，不斷迭代優化。

當然，以上情況，也不限于智能客服產品范疇，一些需要知識管理的場景中，都可以借鑒。

最后還是放出業內大廠們已實現的產品截圖加以說明：

Z廠的企業資料庫，關聯大語言模型自動搜索

T廠的大模型文檔知識抽取和“即搜即問”

期待更多更好的應用落地，有對這方面內容感興趣的朋友，歡迎隨時聯系。