智能客服,不再智障?

1 評論 458 瀏覽 1 收藏 20 分鐘

隨著人工智能技術的飛速發展,智能客服行業迎來了革命性的變革。大模型技術的應用,使得智能客服不再局限于簡單的問答,而是能夠更深入地理解用戶需求,提供個性化服務。本文深入探討了大模型技術如何推動智能客服行業的進步,以及在實際應用中面臨的挑戰和未來的發展方向。讓我們一起見證智能客服如何從“智障”走向真正的智能。

智能客服行業掀起了一股大模型熱。

“現在客戶上來就問能用大模型打電話嗎?如果沒有大模型能力,客戶就不跟你聊了”,云蝠智能CEO魏佳星告訴數智前線,市場對大模型客服的認知度在加速。

行業內也把智能客服視作大模型率先落地的典型場景之一。大模型能更好地理解用戶問題,生成與用戶需求匹配的回復,甚至預測用戶行為、提供個性化推薦。這極大提高了客服效率和質量,還為企業節省了大量人力和時間成本。

IDC中國研究經理程蔭告訴數智前線,這一領域,企業投資大模型預期是做到替代人,而不是輔助人。而很多客服以外的場景落地成熟度不高,一個極大原因在大模型只能輔助人,不能很好地測算ROI。

技術的快速進步和大模型推理成本急劇降低,無疑是大模型落地智能客服的加速劑?!叭ツ昴瓿魿hatGPT的一次調用成本還在幾美分,一通客服電話對客戶的報價1.2毛,當時商業模式根本跑不通?,F在推理成本急劇下降,一次外呼調用大模型只需要0.2分”,商業應用一下子加速。魏佳星提到,目前這股技術升級和成本下降的趨勢還在持續。

熱潮下,市場上正呈現出兩種應用路徑,老牌的智能客服企業積極疊加大模型能力,而大模型企業也快速切進智能客服賽道。

但還處于發展初期的大模型智能客服仍要攻克一系列難題。比如文本客服如何克服幻覺以及語音客服面臨的時延及擬人度的挑戰。一些企業正采取漸進策略,在一些要求不高的場景率先讓產品落地。

不再智障的智能客服可能正在到來。

一、推理成本下降,大模型進智能客服提速

魏佳星進入智能客服市場已有七年,他看到,去年以來大模型技術快速演進,越來越多智能客服領域的商機、需求與大模型相關?!熬透嚨闹邱{功能一樣,不管客戶最后用不用,但是沒有它就不行。”

蓬勃的市場需求,從央國企的大模型招投標數據中也能窺見一些端倪。數智前線此前統計,今年Q3的大模型相關項目的招投標,僅項目名稱中與智能客服相關的項目就有9個。雖然在總量超360的大盤里占比不算很高,但大模型智能客服的需求已經浮出水面,并形成了一定規模。

一家關乎國計民生領域的央企相關人士此前也告訴數智前線,他們正為旗下某超級應用里的大模型智能客服尋找合作供應商,預計項目規模在千萬元級別。他們已經摸排了市面上包括阿里、訊飛等多個廠商的智能客服產品能力,當下正在產品選型階段。

IDC今年八月的報告數據里能看到市場空間正在加速打開。2023年智能客服解決方案整體市場規模達到了30.8億人民幣,較2022年增長了近36.9%。

業界觀察,蓬勃的需求,首先與過去近兩年,大模型技術快速進步,對智能客服能力帶來了明顯的升級有關。

“大模型驅動的智能客服,企業不需要非常多的NLP小模型,靠大模型能解決NLP的關鍵性任務,同時機器人的理解力、語言生成能力都有很大的躍遷?!卑俣戎悄茉浦悄芸头c智能內容產品部總經理張紅光在今年9月的一場媒體溝通會上說。

當下,大模型改善客服體驗,場景并不局限在直接跟用戶溝通場景里的語音機器人和文本機器人上。比如在智能質檢和分析的場景里,大模型可以用于確認人工客服或者機器人客服的服務是否符合企業定義的SOP,還能給對話打結構化標簽,去改善客服服務。

程蔭告訴數智前線,除了文本/語音機器人、智能質檢、坐席輔助、數字人客服、視頻客服、智能分析、座席培訓等傳統智能客服場景外,和客服強相關的其他領域,如營銷、培訓、運營、決策等存在用戶交互需求的里,對大模型智能客服的需求也在提升。

魏佳星觀察到,技術進步使得語音機器人在解鎖一些原來做不了的場景,比如云蝠智能就在開拓基于大模型的智能體去做電話面試業務。這個新場景,對機器人的理解能力、語言表達自然程度都要有求,服務的報價也相比傳統場景有倍數級的提升。

智能客服與大模型快速結合,還與模型的調用成本快速下降密切相關。

去年年初,GPT3.5的接口調用成本一次還在幾美分的水平,當時魏佳星判斷它只有單次調用成本下降到1分錢左右,行業里的成本賬才能算得過來?,F在,差不多18個月過后,語音機器人單次調用大模型接口的成本早已跌破了這個數字。

這不只發生在海外,國內的模型廠商們在今年上半年也開啟了激烈的降價行動。阿里CEO吳泳銘今年9月提到,模型推理成本指數級下降,已經遠遠超過摩爾定律。零一萬物CEO李開復幾天前參加活動時提到了一個很激進的數字,過去一年半的時間內,大模型推理成本的價格差了500倍,同時模型能力還有很大程度的提升。

其他大模型廠商也有各種降價動作。推理成本明顯的下降趨勢,使得今年智能客服行業服務商們應用大模型的進程在提速。

二、可測算ROI VS仍待克服的障礙

去年以來,頭部企業都把智能客服領域視作大模型落地的先行場景。

阿里云在去年云棲大會上首次發布的8款基于通義打造的行業大模型里就有智能客服通義曉蜜,它能基于企業需求定制客服對話機器人。網易數智則在去年9月推出了面向客戶服務的商和大模型,用于智能質檢、客服機器人、智能外呼、精準洞察等客服場景。

今年百度智能云從3月開始對外推出,并持續在升級的三款標桿應用里,就有基于大模型重構、升級的智能客服產品客悅。

騰訊集團副總裁、政企業務總裁李強也在今年騰訊數字生態大會的媒體溝通環節提到,相比應用到生產研發等復雜場景,在容錯率相對高一些的場景,比如智能客服領域,大模型的落地應用進展會更快。

基于客服領域去落地及探索大模型應用的企業還有很多,技術服務商們紛紛進場,與這一場景里大模型帶來的降本增效效果比較明顯有關。

IDC程蔭介紹,他們通過很多深度訪談發現,引入智能客服確實極大地提高了客戶服務的效率和質量,還為企業節省了大量的人力和時間成本,帶來的收益是能測算的。

百度集團執行副總裁、百度智能云總裁沈抖在云智大會上提到,客悅在客服自助解決率上有大幅提升。這是客服服務領域里的一個重要指標,“業界自助解決率普遍在80%左右,大模型重構升級后,客悅自助解決率突破了92%,客服變得更聰明、更擬人、更懂用戶?!?/p>

快遞物流信息服務商快遞100,今年將大模型技術應用到客服場景。該公司CEO陳登坤告訴數智前線,“大模型與客戶反饋及系統規則的協同效應顯著增強,共同解決了高達90%的工單問題,僅10%的問題需人工干預,客訴一次性解決率高達99.4%?!?/p>

容聯云大模型產品人士則提到,他們在保險服務場景里,基于大模型,實現了對400電銷電話大量錄音內容的洞察和挖掘。應用后,降低潛在客訴量達到10%左右。

電銷電話以前只能圍繞電話數量和時長去分析,但實際上電話內容里蘊含很多用戶的潛在需求。有了大模型后,大模型能提取到用戶的潛在需求,還能從電話內容里挖掘出資深服務人員的優質回復,為后續服務提供話術建議和參考。

這些都是大模型提升智能客服體驗的進展。但硬幣的另一面,依然還有很多難題需要解決。

IDC告訴數智前線,從2023年以來,頭部的技術供應商還在進行一些產品化,商業化進展還不是很顯著,市場還是以AI傳統客服為主。大模型賦能的客服產品在行業的普遍應用中還存在與原有系統的耦合、理解能力有限、缺乏上下文感知、交互性和靈活性不足、個性化服務不足等挑戰,需要根據具體場景持續的訓練調優,投入數據、算力資源。

一位企服行業資深人士就感慨,在驚嘆于技術的突破時,行業也切實需要去解決許多問題,比如真實溝通場景的幻覺控制,新技術融入到企業業務流程里的改造和管理成本等。

以語音場景里大模型驅動的智能體為例,當下語音的擬人度不夠,客戶很容易能聽出來實時生成的聲音不是真人。同時由于電話場景對時延要求高,幻覺問題也很難解決。

一些大型的項目,還涉及到后續建設和運維的成本。前文提及的某央企千萬級智能客服項目,相關人士提到他們產品選型十分慎重,原因在于項目的后續建設和運維成本高。因此,他們雖然對各家廠商的能力特點如數家珍,卻遲遲沒有敲定合作對象。

另外,一位智能客服行業資深人士提到,除了技術層面的各種限制,她也看到一些場景并不鼓勵完全“去人化”的客服?!艾F在AI可能解語文題的能力提升了,可能也能解數學題。但是客服場景里很多是客訴,它可能是法律題、心理題和社會題,很多時候用戶還是更愿意接聽電話的是真人。”

三、漸進式路線:在能落地的場景里先用起來

“中小企業堅定的擁抱AI肯定是個最正確的事?!贝鳠樥f,但如何讓中小企業快速且堅定地擁抱AI,聯想的思路是以低門檻讓中小企業先用上智能體,然后在過程中去共創,打磨迭代。

基于大模型去升級產品有一大特性,基礎模型能力的躍升,會帶來產品性能和體驗的提升。但在能力更強的模型到來之前,技術服務商們需要基于當下的技術局限,找到產品化、商業化的合適節奏。

魏佳星提到,他們的策略是,在時延和擬人度問題沒有理想的解決方案前,先找對這些指標要求比較低的業務場景先用起來,“比如400電話,你能接受它的時延問題,可以接受它的擬人度不夠,聽起來像機器人,現在這些場景里用起來?!?/p>

一家服務汽配行業的軟件服務商用智能體來服務車廠及終端車主的特殊車型維修零配件報價,目前有80%的客服詢價由智能體完成。

針對智能體有一些幻覺等不可控因素,他們也采取了智能體加上真人監管結合的服務模式,來更好服務客戶?!霸儓髢r智能體在客戶群里溝通,但是這個里面群里還是有銷售在做一些監管的動作”,該服務商說。

容聯云產業數字云VP孔淼則提到,針對大模型全面替代帶來的算力成本及幻覺等問題,可以先用大模型解決局部問題。

“比如用它解決前端的泛化問題,轉化成具體的任務后,再用高效的小模型來解決,采取大小模型結合的策略?!笨醉翟趲讉€月前的一場產業論壇中提到。

正如IDC所說,大模型賦能的智能客服發展還在初始階段,商業化仍有待推進。不過,一些企業也看到了當下市場偏好的一些特征,并嘗試找到一些商業化的策略。

魏佳星發現,許多企業雖然對大模型功能有認知,但相比大模型原生的智能體產品,他們更偏好上一代的具備可解釋性的產品,“短期里大模型是一個銷售型功能”。

而大模型原生的Agent類型產品探索價值在于,一方面這是未來的發展方向,另外,它可以解耦出一部分能力,用于升級上一代產品,從而提升用戶體驗和留存,最終實現間接的商業轉化。

以電話面試場景為例,這里面可能涉及到N個智能體協同工作。比如第一個AI對非結構化簡歷進行讀取,讓簡歷變成標準的小字段便于其后的AI閱讀。第二個AI要調取GPT級別的最高級模型,教打電話的AI去訓練它的緩存體系。第三個AI負責打電話,發起呼叫。第四個AI把通話記錄抽取成標準的結論。

這個過程里四個AI能力可以被解耦,其中的一部分技術方案賦能給上一代產品,“目前商業化收入里很多來自技術方案復用給上一代之后帶來的收入增長。”魏佳星說。

當下,無論是AI傳統客服企業帶著場景接入大模型能力,還是大模型企業帶著錘子進入智能客服賽道,這一領域的熱度正在提升。

“以云服務為代表的平臺級公司在底層大模型、新一代智能客服產品上有研發優勢,且有的云廠商旗下有一部分業務和客服強相關。它們有一定的品牌知名度和用戶基數,需要加強的是中小企業的定制化服務。而較早進入市場的傳統客服企業也有市場認知度,積攢了一定量客戶,這些企業需要加強的則是大模型技術底層研發能力?!盜DC程蔭說。

一位AI客服領域的創業企業則認為,它們和巨頭在定價能力及服務能力上有差異,小公司有靈活性,而大廠由于人力成本,涉及到交付團隊后它很難服務報價低于五十萬元的項目。

不管怎么樣,競爭正變得激烈起來。不過市場也并非存量競爭。

上個月初,OpenAI的GPT-4o Realtime API公開測試版上線,魏佳星馬上在內部推進基于這一接口開發新一代智能客服產品。

對語音場景的智能客服而言,這是一次重要的模型能力升級,它能大大解決語音機器人的時延問題。之前的模型要將語音轉文本和文本轉語音功能拼接在一起,而Realtime API是端到端模型,在語音交互時,表現會更自然。

這也是大模型賦能的智能客服產品的一大利好,長期來看,技術的進步和成本的下降,將會給產品帶來質的突破,而新的市場空間也將進一步打開。

編|任曉漁????????????????????????????????
本文由人人都是產品經理作者【徐鑫??????????????????????????????????????????????????????????????】,微信公眾號:【數智前線】,原創/授權 發布于人人都是產品經理,未經許可,禁止轉載。

題圖來自Unsplash,基于 CC0 協議。

更多精彩內容,請關注人人都是產品經理微信公眾號或下載App
評論
評論請登錄
  1. 大模型技術正在深刻改變智能客服行業,不僅提升了服務效率和質量,還為企業帶來了成本效益。

    來自廣東 回復