TO B的企業(yè)內(nèi)部大模型應(yīng)用實(shí)戰(zhàn)經(jīng)驗(yàn)1
在To B的公司里,如何在內(nèi)部落地大模型應(yīng)用?這篇文章分享的經(jīng)驗(yàn),希望可以幫到大家。
如何在企業(yè)的內(nèi)部應(yīng)用中真正用起來大模型?
在廣大的業(yè)務(wù)實(shí)踐中,大家都知道“知識庫”是落地的好場景,
但是
實(shí)際業(yè)務(wù)中廣大的“口口相傳”“老師傅才懂的”到底如何沉淀為知識庫的內(nèi)容。
本系列關(guān)于如何探索企業(yè)內(nèi)部的大模型如何應(yīng)用,如何快速找到業(yè)務(wù)效果,以及產(chǎn)品的實(shí)操經(jīng)驗(yàn)。
我們一起從大模型知識反觀現(xiàn)在真正有價(jià)值卻被忽略的數(shù)據(jù)資產(chǎn)。
01 找到合適的業(yè)務(wù)線,找到最垂直的場景,找到landing最好的業(yè)務(wù)。
現(xiàn)在非常多是在應(yīng)用在AIGC行業(yè),在這個(gè)行業(yè)和應(yīng)用場景中,大多數(shù)是提供給“專業(yè)”人士,所以在企業(yè)內(nèi)部的“賦能”場景中,如何讓不太了解大模型,不太了解AI的人,也一定得感受到“驚人的效果和魅力”。這樣在沒有外部的KPI驅(qū)動情況下,也能讓人有“沖動”使用的機(jī)會。
我設(shè)想了一下,在現(xiàn)在頭部的互聯(lián)網(wǎng)產(chǎn)業(yè)中,Agent能先行的業(yè)務(wù)大概會有這些。
1. 企業(yè)內(nèi)部的AI培訓(xùn)
包括:員工培訓(xùn)、運(yùn)營宣貫等等
過去非常廣泛的場景,出了一個(gè)新功能、新業(yè)務(wù)方案,需要從上至下的進(jìn)行培訓(xùn),總部的產(chǎn)品經(jīng)理、運(yùn)營要向各個(gè)品類業(yè)務(wù)線,各個(gè)城市的子公司進(jìn)行培訓(xùn),然后再逐級傳遞;
再者還見到過大幾千的項(xiàng)目公司,總部拉著幾千個(gè)項(xiàng)目負(fù)責(zé)人進(jìn)行培訓(xùn),最后出一個(gè)培訓(xùn)效果試卷,大家普遍通過“傳閱”答案這件事情,讓大家都滿分學(xué)會。
但是想想這件事情的本質(zhì)是什么?是一定要大家拿高分嗎。必然不是。
總部業(yè)務(wù)同學(xué)是希望全國一盤棋,讓各崗位的同學(xué)達(dá)成共識,知道遇到這種事情怎么辦,知道如何使用工具等等,不要等真的出了什么事情之后,不知道如何處理對吧。
所以如何本質(zhì)不是學(xué)會,是“能解決,能處理”
所以如果有一個(gè)工具,他代替全緣上下達(dá)成一致認(rèn)知,等于是上下都有一個(gè)共同的“外掛腦子”。
知道遇到什么事情如何解決,遇到任何要宣傳的,給這個(gè)“腦子”學(xué)習(xí)一下,不知道如何解決,也是找到到腦子問問。
所以腦子的本質(zhì)就是知識庫+意圖理解識別,讓大家都有同樣的理解,認(rèn)知也就達(dá)成一致了。
同樣,還能保持實(shí)時(shí)更新和知識記憶。
這比人工做培訓(xùn),并且每個(gè)人的理解還不一樣,導(dǎo)致業(yè)務(wù)動作會出現(xiàn)變形等等。
所以通過大模型重構(gòu)企業(yè)內(nèi)部的培訓(xùn)體系,不僅僅是簡單的知識庫應(yīng)用,這里是一個(gè)非常好的場景。
所以這里的用戶action和產(chǎn)品形態(tài)有什么呢?
1)培訓(xùn)老師/運(yùn)營;
– 上傳并維護(hù)知識庫,
– 提供一些case說明具體的專業(yè)術(shù)語含義
– 監(jiān)督學(xué)習(xí)并對”腦子“進(jìn)行考核,達(dá)到90%的準(zhǔn)確率
– 確定準(zhǔn)出,全員使用
– badcase復(fù)盤,更新知識
2)其他使用員工:
-直接提問:;從原來還要聽培訓(xùn)課,做培訓(xùn)實(shí)體,但是出了問題還是要找人問,轉(zhuǎn)變?yōu)椋?“輸入場景描述,直接找腦子問,怎么辦”
-場景模擬,以練代學(xué),有實(shí)時(shí)要求的場景:用“以練帶學(xué)”,讓“腦子”進(jìn)行場景模擬,一線員工、進(jìn)行模擬練習(xí), 比如如何應(yīng)用xx的客戶要求,如何應(yīng)用xx的電話 這里也是借鑒了現(xiàn)在的AI教育的場景,如何把題目無限復(fù)制,如何精準(zhǔn)的對知識點(diǎn)進(jìn)行考核;
通過質(zhì)檢的結(jié)果,找到員工不合規(guī)的點(diǎn),對細(xì)節(jié)點(diǎn)進(jìn)行場景模擬和考核。
2. 產(chǎn)品形態(tài)
知識庫、數(shù)據(jù)集、數(shù)據(jù)標(biāo)注、chatbot、模擬場景
所以再想一步,在過去的職業(yè)經(jīng)驗(yàn)中,很多一線的員工,包括客服、物業(yè)管家等類似的B端系統(tǒng)操作人員,總是在吐槽業(yè)務(wù)系統(tǒng)太復(fù)雜了,“我們只是想減免費(fèi)用,想收個(gè)款”;結(jié)果呢,要去n個(gè)系統(tǒng),錄入n+1遍信息,然后才能做完,
“信息化系統(tǒng)”復(fù)雜和難用已經(jīng)被真正的業(yè)務(wù)人員吐槽很多年了。
客戶還嫌棄,我們慢,我們自己也很奇怪,為什么不能簡單點(diǎn)呢?
所以在過去的業(yè)務(wù)場景中,to B的產(chǎn)品經(jīng)理大部分在做“提效”的工作,讓用戶減少點(diǎn)擊,做了一大堆“一鍵”的功能等等。
但是現(xiàn)在呢,通過意圖識別,是可以實(shí)現(xiàn)多節(jié)點(diǎn)多流程的自動化的。
02 B端業(yè)務(wù)系統(tǒng)自動流轉(zhuǎn)
所有的員工只需要理解客戶的需求即可,不需要在“復(fù)雜”的系統(tǒng)中記清楚,我要先干嘛再干嘛。
通過一些bot、Agent的的形式,我要給xx用戶減xx元的訂單,系統(tǒng)記錄每個(gè)動作的順序和判斷邏輯,最終直接給出結(jié)論。等于說是過去,所有的人員培訓(xùn)要培訓(xùn)如何從A點(diǎn)到B點(diǎn),我要走過幾個(gè)路口,走過幾個(gè)大樹,然后到了。
現(xiàn)在只需要,你告訴我A,我自動把你讓“空降”在B點(diǎn)。
所以在這個(gè)業(yè)務(wù)過程中,就需要對工作流程,進(jìn)行逐一“標(biāo)準(zhǔn)化”,簡直是大型“場景解構(gòu)”現(xiàn)場這件事情是非常痛苦的。過去的歷史緣故信息非常多,歷史數(shù)據(jù)廣大,所以現(xiàn)在很多RAG平臺工具出現(xiàn)了一些數(shù)據(jù)清洗的小工具。
但是要相信,這一定是“陣痛期”。
或者我猜測,很多標(biāo)準(zhǔn)化流程模版,應(yīng)該也是非常受歡迎的。
電商售后運(yùn)營手冊-退貨流程1.2.3,給一個(gè)標(biāo)準(zhǔn)化的模版,但是負(fù)責(zé)調(diào)整配置的人也可以進(jìn)行參數(shù)和節(jié)點(diǎn)的修正。
網(wǎng)約車司機(jī)客服運(yùn)營手冊,司機(jī)服務(wù)流程123等等。
這些頭部的幾家基本都是大差不差的。
所以,當(dāng)一家做好了,這就是非常有價(jià)值的數(shù)據(jù)資產(chǎn)了。
所以在這里的用戶action和產(chǎn)品形態(tài)
1)sop負(fù)責(zé)人(也可以是業(yè)務(wù)運(yùn)營)
– 辦事流程梳理
– 配置作業(yè)畫布
2)操作人員
– 直接通過自然語言說明要做的事情
產(chǎn)品形態(tài):
流程Agent配置、外掛節(jié)點(diǎn)封裝(包括接口、插件、知識庫等等)、chat bot
03 大模型判責(zé)
在現(xiàn)在的多方+平臺的多種商業(yè)業(yè)態(tài)中,平臺如何做好判官,如何在商家和消費(fèi)者之間進(jìn)行糾結(jié)處理,如何處置商家、等等,都涉及了“判責(zé)”和“違規(guī)處置”這些邏輯,過去大部分的業(yè)務(wù)都是通過強(qiáng)“規(guī)則”這件事情進(jìn)行限制,通過且或非或者種種條件數(shù)據(jù)因子來進(jìn)行判斷。
在強(qiáng)條件約束下,總有一些異常情況。
這就像什么呢,我們在學(xué)習(xí)開車時(shí),要學(xué)習(xí)各種道路法規(guī)、各種形式準(zhǔn)則等等
但是我們真實(shí)的開車過程中,什么時(shí)候會被交警判責(zé),如何做到“適當(dāng)”違規(guī),用幾個(gè)case來說明:
我們最普通的消費(fèi)者投訴外賣員沒送到指定位置,還沒打電話;這個(gè)時(shí)候,平臺需要核實(shí)一下具體的行為情況,
比如,我看下外賣員的呼叫記錄,看下行為軌跡,如果是要上樓的,是爬樓還是電梯,很多時(shí)候在垂直空間中l(wèi)bs是有些不準(zhǔn)的,所以能否通過時(shí)間來推理出,外賣員在11:00-12:00需要上12樓需要的時(shí)間,在該時(shí)間中看下lbs的變動情況呢,
比如網(wǎng)約車司機(jī)被乘客投訴拒載,平臺要判定下司機(jī)的行為意圖,看看行為軌跡是否前往上車點(diǎn),還是直接掉頭走的呢,半天不動,是在等紅綠燈呢,還是惡意就是不動呢,司機(jī)有沒有在車?yán)锿虏塾唵文兀袥]有聯(lián)系過乘客呢,以及司機(jī)過去有沒有被投訴過呢,等等。
這些都是過去通過強(qiáng)規(guī)則校驗(yàn)中,設(shè)定好的結(jié)構(gòu)化數(shù)據(jù),人工在對司機(jī)行為進(jìn)行判責(zé)
所以這里的用戶action做法和產(chǎn)品形態(tài)
1)技術(shù):
– 把我們過去的條件約束作為結(jié)構(gòu)化知識庫數(shù)據(jù),投喂給到大模型作為知識庫文檔
2)運(yùn)營:
– 選擇場景,給prompt進(jìn)行框選和描述;
– 明確判責(zé)因子:采納人工的判責(zé)因子+結(jié)果:訂單詳情信息、行為軌跡(包含路徑、通話錄音、im)、
– 搭建workflow:通過標(biāo)簽因素先分大類,再逐步分小場景進(jìn)行判斷
– AI結(jié)果自檢:在AI執(zhí)行完畢workflow之后,會有一些小偏差,最后在結(jié)果確認(rèn)前,采用一道限制步驟
– 人工抽檢復(fù)核:人工對結(jié)果進(jìn)行定性和定量的抽檢,如何確實(shí)出現(xiàn)較大數(shù)據(jù)參數(shù)偏差,是可以對workflow進(jìn)行修正的。
系統(tǒng)規(guī)則判責(zé)==大模型意圖判責(zé)
但是不得不說,這些對于強(qiáng)數(shù)據(jù)的場景下有一定的局限性,只是在人工意圖上有非常好的時(shí)間,比如司機(jī)的拒載,到底是真車壞了,還是真拒載呢?這種場景下,大模型結(jié)合多種證據(jù)鏈來推理的效果還是不錯的。
產(chǎn)品形態(tài)
數(shù)據(jù)庫訂閱、(過去的歷史規(guī)則數(shù)據(jù)結(jié)構(gòu)化)場景prompt說明
典型場景庫(提供進(jìn)行場景學(xué)習(xí))
判責(zé)workflow、數(shù)據(jù)集、數(shù)據(jù)標(biāo)注
最后的,對各位實(shí)踐的產(chǎn)品技術(shù)同學(xué)的運(yùn)勢說明:
上上簽:
當(dāng)企業(yè)內(nèi)部要使用大模型進(jìn)行 業(yè)務(wù)嘗試的時(shí)候,分兩種大場景,然后提出具體的action
首先是第一種:
從上到下進(jìn)行宣貫,公司級戰(zhàn)略規(guī)劃,有核心的KPI指標(biāo)push大家進(jìn)行主動接觸使用。
這種就非常容易,大家有KPI之后,所有人都積極起來,這個(gè)知識的內(nèi)容就是越用越好用,不斷沉淀數(shù)據(jù)資產(chǎn),甚至還能舉辦一些內(nèi)部的PK賽。
上簽:
第二種:
沒有形成公司級的戰(zhàn)略規(guī)劃,但是是某個(gè)部門的KPI,比如客服部門,產(chǎn)品可以和部門老板拉齊觀點(diǎn),確定我們的業(yè)務(wù)動作和產(chǎn)品動作保持一致,能夠達(dá)成什么樣子的業(yè)務(wù)效果。
這樣拿到業(yè)務(wù)部門的支持,landing的場景也會是非常豐富,從小的業(yè)務(wù)場景未來是有機(jī)會撬動成為公司的重點(diǎn)項(xiàng)目。
中簽:
老板們不懂技術(shù),偏傳統(tǒng)行業(yè),需要產(chǎn)研內(nèi)部在夾縫中創(chuàng)新,提供好工具給業(yè)務(wù)同學(xué)進(jìn)行使用,需要產(chǎn)研向所有的業(yè)務(wù)同學(xué)安利自己的產(chǎn)品,但是這種情況也是好的,咱們畢竟有實(shí)操經(jīng)驗(yàn)了不是~
個(gè)人認(rèn)為能在現(xiàn)在的業(yè)務(wù)節(jié)點(diǎn)有機(jī)會初探并有機(jī)會在實(shí)際業(yè)務(wù)中用起來已經(jīng)不涉及下簽了。
嘿嘿,能看到這里的祝賀大家~
本文由 @聞一 原創(chuàng)發(fā)布于人人都是產(chǎn)品經(jīng)理。未經(jīng)許可,禁止轉(zhuǎn)載。
題圖來自Unsplash,基于CC0協(xié)議。
該文觀點(diǎn)僅代表作者本人,人人都是產(chǎn)品經(jīng)理平臺僅提供信息存儲空間服務(wù)。
- 目前還沒評論,等你發(fā)揮!