未來已來:基于大模型Agent的客服實踐,更低的成本與更大的收益
現(xiàn)在AI客服已經(jīng)在各行業(yè)普遍使用了,但是實際效果并不如意——用戶寧愿等人工客服,也不愿意找AI客服解決問題。如果給當(dāng)前的AI客服換成大模型,效果會不會更好一些?這篇文章,我們來看看作者的思考。
一、為什么要用大模型來實現(xiàn)(現(xiàn)在NLP客服的問題)
1. 用戶體驗較差
為什么會出現(xiàn)這樣的問題昵?
傳統(tǒng)智能客服以NLP技術(shù)為主,核心是分詞。在處理問題上有兩個關(guān)鍵的步驟:
- 識別出用戶輸入問題中的關(guān)鍵詞;
- 余弦相似度等計算。通過關(guān)鍵詞在已有的QA問答庫中進(jìn)行問題的匹配計算。將相似度的問題與答案給出來。深度一點的,也會用到深度學(xué)習(xí)的算法。比如進(jìn)行語意模型,識別情緒,Rerank重排序等。抽取知識圖譜的三元素等進(jìn)行深度匹配。
所以他目前解決問題時,大部分依賴于用戶輸入問題的關(guān)鍵字,進(jìn)行檢索匹配。將已經(jīng)匹配好的答案給到用戶
2. 使用成本高
受限于技術(shù),需要花費極高的人力成本進(jìn)行配置,來達(dá)到業(yè)務(wù)訴求。
- 當(dāng)業(yè)務(wù)變化,或者新項目上線,需要去配置整理用戶意圖、配置各種意圖問法。準(zhǔn)備大量的FAQ,以及各種關(guān)聯(lián)問題,配置實體等。
- 整個過程通常需要專業(yè)的機(jī)器人訓(xùn)練師,來保證問題的覆蓋率、相似問題重復(fù)度、解決率、意圖識別率等。
二、大模型產(chǎn)品的優(yōu)勢
大模型是根據(jù)大量的知識訓(xùn)練出來,所以天然能夠“理解”基礎(chǔ)的問題。所以不需要去準(zhǔn)備大量的相似問題,復(fù)雜的知識圖譜,實體關(guān)系。
- 如相似問法:如退貨,不需要補(bǔ)充”我想退貨”,”退個貨“等相似問法
- 如基礎(chǔ)知識圖譜:活著->作者->余華
其次模型的cot能力,讓模型具備較強(qiáng)的推理能力,借助模型推理的能力,去理解流程做決策。不用去配置大量的流程,以及實體的抽取,傳參,整個流程讓模型解決。
所以他的使用成本門檻會低很多。
三、大模型Agent如何解決?
1. agent框架的基礎(chǔ)邏輯
Agent的核心如下:
Planning 規(guī)劃
- -子目標(biāo)和分解:AIAgent 將大型任務(wù)分解為更小的、可管理的子目標(biāo),從而能夠有效處理復(fù)雜的任務(wù)。
- -反思和完善:Agent可以對過去的行為進(jìn)行自我批評和自我反思,從錯誤中吸取教訓(xùn),并針對未來的步驟進(jìn)行完善,從而提高最終結(jié)果的質(zhì)量
Memory 記憶
- 短期記憶:所有的上下文學(xué)習(xí)(參見提示工程)都是利用模型的短期記憶來學(xué)習(xí)。
- 長期記憶:這為AIAgent提供了長期保留和調(diào)用無限信息的能力,通常是通過利用外部向量存儲和快速檢索來實現(xiàn)。
Tool / Toolkit
- Agent學(xué)習(xí)調(diào)用外部 AP! 來獲取模型權(quán)重中缺失的額外信息,通常這些信息在預(yù)訓(xùn)練后很難更改,包括當(dāng)前信息、代碼執(zhí)行能力、對專有信息源的訪問等工具是代理可以調(diào)用的功能,本質(zhì)上就是一個函數(shù)。
2. 將Agent框架邏輯應(yīng)用到客服場景
應(yīng)用邏輯和過程如下:
當(dāng)用戶輸入詢問時:
1、記憶能力
- 先通過模型的記憶能力,將用戶畫像、瀏覽記錄、訂單數(shù)據(jù)、歷史會話記錄等推送給大模型
- 拿到解決對應(yīng)問題的參考sop流程
2、計劃能力+推理
- 讓模型基于用戶的提問+解決的SOP,制定與用戶的溝通計劃
- 根據(jù)用戶反饋調(diào)整溝通計劃,推理出新的步驟
3、tools:
- 根據(jù)推理出來的計劃、選擇執(zhí)行的內(nèi)容
- 比如調(diào)用ERP、知識庫等
- 最終得出結(jié)論、輸出給用戶
整個過程中,模型能夠模擬人+參考sop流程,執(zhí)行對應(yīng)的任務(wù),從而達(dá)到相應(yīng)的結(jié)果
四、大模型的解決方案的價值
1. agent的價值
1、使用成本、維護(hù)成本極低。
使用:三步完成使用
- Step1:用純文本定義有情感的機(jī)器人,用Chat文本來描述賦予機(jī)器人情感、明確處理任務(wù)SOP流程。
- Step2:補(bǔ)全產(chǎn)品與服務(wù)知識。構(gòu)建企業(yè)專屬知識庫“產(chǎn)品手冊、服務(wù)規(guī)則,退貨規(guī)則“實現(xiàn)產(chǎn)品、服務(wù)信息與大模型的互通,加強(qiáng)模型的理解。
- Setp3:快速對接企業(yè)已有系統(tǒng)。選擇要接入的系統(tǒng),如有贊商城、自有CRM、ERP。讓模型實時獲取信息,精準(zhǔn)響應(yīng)問題。
OK!普通客服主管,花費1-2天,既可配置基于大模型的智能咨詢服務(wù)機(jī)器人
維護(hù)內(nèi)容少。
- 1、優(yōu)化人思考sop流程
- 2、更新知識庫文件
2、全渠道能接入、全面的解答:模型的關(guān)鍵在于理解、所以任何意圖都能理清楚。同時授權(quán)授權(quán)即多個渠道,多種問題類型都能被全解答。
3、服務(wù)先知:會話開始前,將用戶行為數(shù)據(jù)、標(biāo)簽提前給到大模型,開口即可知道你的用戶想做什么!解答問題更加精準(zhǔn)。
3、更靈活的策略:Agent 的推理、計劃、思考…讓模型根據(jù)SOP和用戶輸入,自己做決策、做計劃,靈活應(yīng)對用戶問題,不再需要固定的死流程。
2. 方法效果應(yīng)用
Ai客服退貨
Ai代購
Ai會員卡的辦理
五、大模型的Agent客戶服務(wù)、用戶體驗帶來了什么?
1、更低的成本:模型的能力強(qiáng)大,開發(fā)成本低、使用成本低
2、更智能的效果:用的推理代替了關(guān)鍵之的匹配,能解決的問題更廣、效果更好。
本文由 @易俊源 原創(chuàng)發(fā)布于人人都是產(chǎn)品經(jīng)理。未經(jīng)許可,禁止轉(zhuǎn)載
題圖來自 Pixabay,基于 CC0 協(xié)議
該文觀點僅代表作者本人,人人都是產(chǎn)品經(jīng)理平臺僅提供信息存儲空間服務(wù)。
現(xiàn)在NLP客服確實存在用戶體驗差,成本高等等問題,如果運用大模型能很好解決這個問題,那就再好不過了。
效果出奇的好??焓?、有贊體驗下,反饋比傳統(tǒng)的體驗要好很多-