大模型在智能客服領域的應用思考

4 評論 4356 瀏覽 37 收藏 10 分鐘

智能客服領域可以說是大模型落地的前沿領域之一,那么這其中,有哪些應用方向值得我們關注?這篇文章里,作者就做了相應的構想和探討,一起來看。

前言

隨著大模型技術的飛速發展,其在商業化應用的落地實踐上仍面臨著挑戰,不論是面向C端用戶的付費服務模式,還是面向B端企業的業務賦能策略,目前都尚未形成成熟且清晰的商業模式。

在我所專注的智能客服領域,作為人工智能落地應用的前沿陣地,我深刻感受到大模型的生成能力、泛化能力以及增強檢索等核心技術的巨大潛力。基于此,我構想了一系列應用方向,并期望通過分享結合大模型工具的實驗經驗,與大家共同探討這些可能性。

一、呼入場景

客戶服務領域,無論是在線聊天還是語音交流,都已成為了現代業務運作中不可或缺的一部分。目前,基于NLP(自然語言處理)、ASR(自動語音識別)和大數據等先進技術,已經涌現出了一系列智能化的客戶服務應用。

然而,這些產品在功能邊界和特色上往往差異不大,難以在激烈的市場競爭中脫穎而出。大模型的加持,從運營成本和用戶體驗上考慮,也許可以為這一領域帶來了新的發展機遇。

1. 問答機器人

在呼入場景中,問答機器人(包括在線客服機器人和語音導航機器人)的廣泛應用凸顯了ASR轉譯準確率和NLP自然語言處理語義理解能力的重要性。在實際業務運營中,為了提升問答機器人的識別準確率,往往需要維護一個盡可能大的相似問題庫。

然而,這種維護方式不僅耗時耗力,而且需要大量的運營成本??紤]到大模型的泛化生成能力,我們可以設想一種創新的方法:通過輸入特定的prompt(指令),讓大模型生成更多的相似問題,經過業務審核后入庫。這種方法有望顯著降低運營成本,同時提升問答機器人的識別準確率。為了驗證這一想法,使用了文言一心、Kimi助手等大模型工具進行了實驗,如下:

2. 話務小結抽取

席在接聽完一通會話后進行話務小結是一個重要的環節,用于記錄通話的核心內容、問題以及解決方案等信息。傳統上,這個過程需要坐席在通話結束后手動輸入,既耗時又可能因人為因素導致信息遺漏或偏差。

大模型的主題抽取能力可以用于自動生成小結,坐席只需審核確認后錄入,這有助于縮短通話時長,提高效率。驗證如下:

3. 多輪對話的處理

多輪對話在問答機器人技術中向來是頗具挑戰性的環節,目前主要局限于特定的簡單場景,由運營人員在流程畫布上進行詳細設定,涉及多個交互節點和路徑。

為了更靈活、精準地響應客戶的問題,我們可以借助大模型的生成能力和增強的檢索功能。這種方法在阿里的相關文章中得到了具體體現(參考:https://mp.weixin.qq.com/s/0THyHxpuIo9MI8MY9tLHiA),即通過大模型生成提示性的快捷短語,引導用戶更明確地表達需求,同時結合增強的檢索技術,縮小答案的搜索范圍,從而生成更為可靠和準確的回答。

二、呼出場景

在當前的AI外呼場景中,雖然普遍采用基于預設流程的問答模式,結合ASR(自動語音識別)和NLP(自然語言處理)技術來執行外呼任務,但這種方式在個性化服務和轉化率提升上存在一定局限性。借助大模型的生成能力,我們可以實現更為智能化的外呼策略。

具體來說,通過大模型分析不同用戶的屬性標簽,如年齡、性別、興趣偏好、消費習慣等,AI外呼系統可以為用戶定制差異化的呼叫內容和方式,真正做到“千人千面”。驗證如下:

三、后線管理應用

1. 智能質檢規則的泛化

在搭建質檢系統的過程中,作者從0到1深度參與,深刻體會到了質檢規則維護的復雜性和重要性。這些規則通常涉及關鍵字識別和正則表達式的使用,需要業務團隊投入大量時間和精力去詳細羅列和測試,以確保質檢的準確率。

然而,借助大模型的泛化能力,我們可以極大地提升這一過程的效率和效果。大模型能夠通過學習大量的數據,自動生成與業務相關的關鍵字和正則表達式,從而幫助業務團隊減輕工作量,并提高質檢規則的全面性和準確性。以正則表達式驗證如下:

2. 坐席知識庫

傳統坐席知識庫在搜索和匹配信息時,依賴于搜索引擎、索引、關鍵字匹配或語義理解進行排序,這種方式可能導致用戶查找信息耗時較長,并且高度依賴于知識維護人員的規范性和及時性。大模型能力也許會將未來的知識庫搜索體驗進行顛覆性的改進。

具體想法如下:首先,將知識庫中的信息進行結構化處理,并存儲到向量庫中。這樣,知識庫中的每一條信息都能以向量的形式存在,便于進行高效的數學運算和相似性比較。接著,將這些向量數據投喂給大模型進行訓練,為后續的搜索和生成任務打下基礎。用戶搜索時,給出明確promote指令,大模型將相關的內容檢索出來,再直接生成內容返回給到用戶。

這和當前使用的一些大模型助手的情況相似,舉例說明,如:給出近三年的國內GDP數據。

結束語

以上是我基于對大模型能力的理解以及對客服業務場景的洞察,所產生的一些初步思考。這些思考得到了我在開源工具上進行的驗證的支持,盡管目前這些思考尚顯零散,但我期待能與各位同仁共同探討和完善。

再者,在探討大模型在業務場景中的落地應用時,我們不可忽視垂直領域的訓練優化。每個行業都有其獨特的業務邏輯和需求,因此,通過針對垂直領域的特定訓練,能夠進一步提升大模型的性能和適應性。

最后,在實際落地過程中,我們需要保持開放的心態,勇于提出大膽的假設,但同時又要謹慎求證。為了降低風險并加速驗證過程,建議在前期采用插件化的形式來逐步驗證和優化大模型的應用效果。

本文由 @菜鳥店小二 原創發布于人人都是產品經理,未經許可,禁止轉載

題圖來自 Unsplash,基于 CC0 協議

該文觀點僅代表作者本人,人人都是產品經理平臺僅提供信息存儲空間服務。

更多精彩內容,請關注人人都是產品經理微信公眾號或下載App
評論
評論請登錄
  1. 寫的很好,我們公司也在做智能客服SaaS產品,在探索基于RAG的知識庫搜索能力,希望有機會能一起探討下

    來自上海 回復
    1. 來交流,目前在做知識庫檢索,由于需要多重判斷,業務復雜性高,大模型總是出現幻覺~

      來自北京 回復
    2. 確實是會出現幻覺,有無什么解決方案?

      來自四川 回復
    3. 我現在新公司也在做這塊內容,可以探討

      來自四川 回復