最近一段時間，以ChatGPT為代表的大語言模型在互聯網平臺上引發了大量用戶的討論，那么如果想將LLM大語言模型與智能客服產品進行結合，或者將前者落地于ToB SaaS應用軟件領域，可以遵循什么樣的搭建策略呢？

就聊聊當下熱門話題：ChatGPT在智能客服產品中該如何落地？

關于ChatGPT為代表的大語言模型，每個人的朋友圈都被刷爆了，不再水字數。咱們直接來做一道真題：如果在智能客服這樣一個ToB SaaS應用軟件領域，想要落地LLM大語言模型，如何實現？

01

首先，先來解決一個值不值得做的問題：智能客服領域，值得用LLM大語言模型進行智能化產品改造嘛？

產品的幾個典型特征匯總下：

人力密集：

智能客服，是一個高度依賴人工操作的系統，有解放生產力的內在需求。

數據密集：

智能客服產品可沉淀大量過程性數據，如會話信息，通話記錄，錄音，操作日志。有數據，就有了人工智能應用滋生的沃土。

流程可定義：

這類產品，往往都可以有典型的業務流程抽象：如IVR語音交互、外呼任務、工單流轉等。

有智能化應用基礎：

智能客服是很早邁入AI人工智能技術的賽道之一：文本機器人，語音機器人，智能質檢的應用已經非常成熟?？蛻艉陀脩舻男闹且训玫浇逃?。

結論：一個行業，有相對落后的生產工具、有比較標準的生產流程，有大量未充分處理的數據，且對人工智能無抵觸，那么肯定是一個值得LLM落地生根發芽的沃土。

只不過。這片田地在現階段LLM們眼中看來，還是小了一點而已。

02

如果值得做，那么如何做？

這就是一個見仁見智的問題了，大家的產品架構不同，目標客群不同、業務規模不同、主打產品各異。

我們可以假設，已經有了一套得到驗證，穩定運營的成熟產品，不希望引入LLM帶來現有產品的巨大變化，進而影響客戶體驗。如何搞？

提倡擁抱變化，嘴上鼓吹AGI通用人工智能帶來行業巨變，這些都沒問題，真要不破不立，付出真金白銀的代價來決策，去執行，還是一個很難抉擇的命題。

1. 架構設計問題

審視本身產品架構，是否具備LLM大語言模型落地基礎。

可以理解、由于歷史原因，當前主打產品架構陳舊，模塊化解耦不完善，性能瓶頸無法解決，但因為跑著很多生產客戶，輕易無法改動。這種情況下，再塞入ChatGPT到整個架構中，將帶來更多沉重壓力。

那么第一步先想清楚，是打算好好優化下，還是另辟蹊徑，單獨做一個外圍LLM應用。

好比老房子改造，是不是要打算做做基礎施工，還是簡單刷刷墻、做下軟裝得了。

歷史包袱較重的話，也不妨另起爐灶，聚攏有心氣的一支精銳之師沖一下。也算是給原有池塘中投入一只鯰魚。

2. 工具設計問題

做頂層應用設計之前，我們需要先梳理工具。如AI引擎管理、數據建模工具、意圖管理管理、標簽標注和管理，流程生成工具，業務構建工具等等……

ChatGPT能力的引入，相較于以前智能客服產品所沉淀的基于自然語言處理、語義理解、意圖識別，關鍵字和正則處理等方式，帶來顛覆性的改變。借助其能力涌現，上下文關聯，邏輯鏈提示處理等方式，原有的手把手定義流程，字詞句填槽的舊模式，勢必得到極大改變。

如果以前構建復雜AI應用，需要是半編程化的方式，用ChatGPT們來實現，打個比方更像是RPG游戲編程工具，以場景搭建、角色扮演，提示格式化、邏輯化，輔以人工反饋監督的模式去進行。

為什么不能是呢。如果我們做的足夠好用，是不是也可以直接邀請用戶參與到“游戲”開發中來？

另外，很多工具本身，更可借助ChatGPT進行智能化的改造。以更高效和智能的方式來處理數據、生成數據。

如進行自動訓練和標注、知識庫的自動化擴充、來代替語料手工標注，代替傳統問答對的低效人力處理，給出標準問，自動擴展相似問等等。

3. 應用設計問題

最后說說智能客服應用層面的設計，這里是用戶可感知的界面和內容。

我們來根據智能客服的一些典型場景，看看ChatGPT們的優勢能力，可帶來哪些富有想象力的改變。

1）增強型對話能力

不可否認，ChatGPT帶來了極其強大的對話能力，我們萬分期待，甚至開始腦補其進入智能客服對話中的效果。

但是很遺憾，智能客服產品領域內的對話，是一個非常典型的限定業務領域、任務驅動的對話需求，我們客戶肯定不希望訪客進來，是尋找一個超高智能、善解人意、能寫會畫的陪聊機器人。

會話內容必須收斂于企業業務范疇內，服務于客服和營銷場景下，解決和處理問題，不要浪費寶貴的資源。

不加控制的直接引入ChatGPT到客服領域，那感覺就好比你回家撞見掃地機器人不干活，和隔壁的智能吸塵器聊的你儂我儂，是不是恨不得一棒子打死了事！

所以，構建增強型對話能力，一方面我們借助ChatGPT簡化了對話流程設計：以前需要設定N多個意圖，關聯無數個上下文才能實現的方式，現在開箱即用，自然語言對話獲取、格式化提示完成限定任務、收集訪客數據和意向。另外，通過私有化訓練和公共文本數據的結合，對訪客提供不僵化、更優質的回答體驗。

ChatGPT和傳統文本，語音機器人能力的結合，會給智能客服的機器人服務能力帶來質的飛躍。

2）智能質檢

傳統智能質檢已經是非常成熟的解決方案，但如果通過ChatGPT，投入預訓練和一定的業務規則定義，可以實現無需復雜設定，更智能的質檢結果輸出。

我們向模型內投入一定數量的優質錄音、文本，然后告知ChatGPT都有哪些加分因子、讓他自動判別生產數據的質檢情況，然后不斷通過手工質檢的對齊調優，讓ChatGPT持續不斷學習和改進。

3）智能化輔助

同理，對于座席側智能輔助功能，也是可以通過對優質樣本的投喂，正確流程和加分因子的定義，不斷的讓ChatGPT在數據滋養下，實時對座席給出更好的輔助能力。原有的輔助功能框架可以保留，但是內里是一個不斷進化，自動學習的“業務助理”

4）內訓機器人

基于智能質檢和智能輔助的基本能力，針對使用場景是企業內訓的機器人，也完全可以基于現有數據樣本，更自動化的生成內訓“教官”，我們業務管理人員，可以針對崗前培訓、業務流程、服務過程設定不同內訓主題，一定量標準語料訓練后，讓內訓機器人指導座席進行自我訓練，這種對于強調學習能力和管理能力的運營型客戶，很有吸引力。

5）智能填單類

智能客服應用中，有大量需要手工輸入的表單：客戶資料、跟進記錄、服務工單，目前市面上CRM領域已經出現借助ChatGPT進行智能填單的實驗性應用。按以往的實現方式，必須有復雜的工程化設計，將會話文本實時匹配，借助詞性分析，語義分析和關鍵字查找等方式，使用表現往往不盡如人意。我們可以期待LLM大語言模型的超強能力可以有效提升這類型產品的實用度。

6）從幫助中心到座席助理

全功能的智能客服產品已經是一個非常龐大的產品體系，功能多如牛毛，上手難度很高。

很多產品的設計，需要操作者進行到處跳轉去查找、配置、調整。以往的幫助形式，除了簡單的頁面的功能提示，就是如wiki一般厚重的在線幫助頁面，對使用者說不上友好，對開發者也有持續更新維護的沉重負擔。

而使用智能助理模式的在線幫助，不同角色的人員可以通過對話式的簡單體驗，來獲取使用上的實時協助，甚至一些功能型的配置和要求，聰明的助理也可以準確理解使用者的對話，直接進行配置和改變。

比如：系統管理員喚起智能配置助理：

“小C小C，幫我查找一個近半個月名字叫做***的客戶所有訪問和對話記錄”

這個對小C的能力來說，就是小case了。

“小C小C，我需要設置一個清明節的IVR語音導航，所有清明節時間呼入的電話，都提示這樣一句話：***”

這個要求嘛，還是有一定風險，出于謹慎目的，小C還需要和你反復確認一些關鍵配置要素，確認無誤才去執行。

7）AIGC知識庫

智能客服產品中，最需要內容生產能力的地方，莫過于知識庫。

產品必備的知識庫通常分幾類：內部知識庫、機器人知識庫和外部知識庫。

① 內部知識庫

是提供給座席使用者，會話中實時定位查詢使用。企業的業務變化多端，知識庫的調整要及時到位。對于內部知識庫的整理。一般需要專人進行上傳、編輯、整理，用過的都知道這是一個非常耗費工作量的事情。

ChatGPT的引入，能協助高效智能的歸類，自動生成知識庫類目、明細。如果增加對外部數據源的引用，知識庫還可以自動關聯，減少知識庫同步的操作。使用者在應用中，可給與知識點反饋，能幫助知識庫進行權重自動調節。

② 機器人知識庫

文本和語音機器人能夠回答訪客問題，依賴機器人知識庫的有效內容。一旦無法命中，機器人只能回避或者推薦其他知識點。對于未知問題的整理，是需要智能客服使用者大量投入工作量的一個地方。

同樣，對于調用量遠大于內部知識庫的機器人知識庫來說，借助用戶反饋來對未知問題進行自動整理和關聯，能節省很多知識庫維護者的工作。我們也可以通過多機器人組合的方式，在一通會話中接力棒一般服務于客戶的不同場景，那么被訓練好的ChatGPT專屬機器人，也可以在特定的場合發揮能力，并可以逐步替代一些以往模式僵化的問答型機器人。

③ 外部知識庫

如果企業有知識門戶的需求，需要整合在智能客服產品中，如果不把這類產品算作一個獨立品類的話，基于ChatGPT的多模態的AIGC能力，可以更方便的將已整理的知識內容轉化為輸出產物，更方便的生成知識文章、圖片、甚至音視頻，快速生成一個個性化的知識空間。

充分發揮ChatGPT創造性的工作，這里還有很多的想象空間。

④ 數據預測類應用

最后我想到的一個品類，是基于對智能客服數據的預測分析。作為以往智能客服類產品的一個“短板”，建設數據預測類產品可能需要很重的CDP數據平臺建設，CEM客戶體驗管理等方式，如果ChatGPT可以更高效精準的進行銷售意向，行為，成交概率的預測，對利潤中心導向的智能客服產品，將具有很大價值。

4. 商業化前景

以上，完全只是構想，甚至算是空想，想要做出真正落地的應用，我們更應該同步關注這些問題：

• 投入產出比？
• 可衡量的客戶認可和價值體現？
• 通用性與行業性？
• 數據風險和監管安全？

這樣的問題繼續深入下去，將有很多的擴展，也不是我這一篇短文就能聊清楚。后續我會隨著思考和實踐，再單獨分類整理。

ChatGPT們的到來，首先讓我們震驚，然后是思考，更重要是發現全新的機會。

所知有限，期待與大家的深入交流。

最后的最后，來看看ChatGPT和文心一言對這個問題的解答吧