基于LLM構(gòu)建應(yīng)用程序:設(shè)計(jì)指南
隨著大型語(yǔ)言模型(LLM)技術(shù)的快速發(fā)展,越來(lái)越多的企業(yè)開(kāi)始探索如何將這一強(qiáng)大的工具集成到他們的應(yīng)用程序中。本文提供了一個(gè)基于LLM構(gòu)建應(yīng)用程序的詳細(xì)設(shè)計(jì)指南,以智能客服系統(tǒng)為例,為產(chǎn)品經(jīng)理或項(xiàng)目經(jīng)理提供了一個(gè)全面的框架,從需求確立到技術(shù)選型,每一步都至關(guān)重要。了解如何有效地利用LLM的能力,不僅能夠提升產(chǎn)品的智能水平,還能為企業(yè)帶來(lái)顯著的效率和成本優(yōu)勢(shì)。
在前2節(jié)中,我們介紹了LLM的基本原理,以及如何在企業(yè)的真實(shí)業(yè)務(wù)中,應(yīng)用LLM(大語(yǔ)言模型)。
大語(yǔ)言模型:LLM的基本原理解讀
大語(yǔ)言模型:LLM如何應(yīng)用到實(shí)際的業(yè)務(wù)中
今天我們來(lái)詳細(xì)介紹一下:基于LLM構(gòu)建應(yīng)用程序:設(shè)計(jì)指南。本文將以“智能客服”系統(tǒng)為例來(lái)進(jìn)行說(shuō)明,主要的閱讀對(duì)象為產(chǎn)品或項(xiàng)目經(jīng)理。整個(gè)設(shè)計(jì)指南,遵循以下流程:
一、?
一、確立需求
第一步要先明確需求,即目前業(yè)務(wù)中的痛點(diǎn),并且這個(gè)痛點(diǎn)是可以通過(guò)LLM的能力,來(lái)得到有效的改善。
建議使用以下“需求評(píng)估模版”,來(lái)綜合性的分析需求。在分析需求的過(guò)程中,要重點(diǎn)評(píng)估ROI。畢竟LLM的實(shí)施,不管是調(diào)用第三方接口,還是部署開(kāi)源LLM,都會(huì)有不小的成本支出。
—-需求評(píng)估模版—-
場(chǎng)景:什么角色,在哪里,執(zhí)行什么任務(wù)
需求:遇到什么問(wèn)題?具體的影響是什么?需求強(qiáng)度如何?
解決方案:借助LLM的什么能力來(lái)解決?(文本補(bǔ)全、知識(shí)檢索、意圖識(shí)別、情感分析、多輪對(duì)話、創(chuàng)意生成、數(shù)據(jù)分析等等)
成本投入:所需花費(fèi)成本(服務(wù)器資源、人力資源、資金成本,等等)
產(chǎn)品收益:短期收益:例如,為客服團(tuán)隊(duì),節(jié)省了xx小時(shí)/天/人;長(zhǎng)期收益:提升客戶滿意度、產(chǎn)品續(xù)費(fèi)率等等;
投入產(chǎn)出比(ROI):短期ROI評(píng)估:每天節(jié)省xxx成本;長(zhǎng)期ROI評(píng)估:提高續(xù)約率,品牌知名度等等;
清晰明了的需求分析,不僅有利于向上資源申請(qǐng),也有助于向下的需求溝通。
有的時(shí)候,得不到上下協(xié)作的支持,并不是因?yàn)樗麄兎磳?duì)你,而是他們?nèi)鄙贈(zèng)Q策支撐。
二、市場(chǎng)調(diào)研競(jìng)品分析
市場(chǎng)調(diào)研和競(jìng)品分析,是最容易被忽略的環(huán)節(jié),但是這個(gè)環(huán)節(jié)卻相當(dāng)?shù)闹匾?。如果不進(jìn)行市場(chǎng)調(diào)研和競(jìng)品分析,僅局限于自身業(yè)務(wù)的個(gè)性化,而陷入具體的問(wèn)題解決中,則會(huì)導(dǎo)致系統(tǒng)設(shè)計(jì)與整個(gè)市場(chǎng)脫節(jié),在后續(xù)的迭代中以及對(duì)外賦能時(shí)遇到更大問(wèn)題。
下文將以“智能客服系統(tǒng)”來(lái)舉例。為了確保智能客服系統(tǒng)的持續(xù)競(jìng)爭(zhēng)力,深入的市場(chǎng)調(diào)研和競(jìng)品分析必不可少。對(duì)于競(jìng)品分析,可以聚焦以下幾個(gè)方面:
- 回答的準(zhǔn)確性與豐富度:對(duì)比不同智能客服的回答是否準(zhǔn)確且情感化。
- 響應(yīng)速度與多輪對(duì)話能力:評(píng)估競(jìng)品的響應(yīng)效率與多輪對(duì)話流暢度。
- 自定義業(yè)務(wù)知識(shí)庫(kù)的支持情況:查看競(jìng)品是否支持特定業(yè)務(wù)場(chǎng)景的知識(shí)庫(kù),以及定制的難易度。
- 用戶界面與交互設(shè)計(jì):智能客服的易用性和界面設(shè)計(jì)對(duì)用戶體驗(yàn)有重要影響,可借鑒競(jìng)品在界面設(shè)計(jì)上的優(yōu)點(diǎn)。
通過(guò)調(diào)研了解市場(chǎng)主流趨勢(shì)和競(jìng)品優(yōu)劣勢(shì),有助于為我們智能客服的功能和流程設(shè)計(jì)提供重要的參考依據(jù)。
三、業(yè)務(wù)流程設(shè)計(jì)
通過(guò)前2個(gè)環(huán)節(jié)的梳理,我們基本上已經(jīng)能夠確定,整個(gè)業(yè)務(wù)的行業(yè)通用流程,以及自身業(yè)務(wù)的個(gè)性化訴求。
在業(yè)務(wù)流程設(shè)計(jì)的過(guò)程中,一方面需要考慮疏通現(xiàn)有業(yè)務(wù)的阻塞點(diǎn),另一方面還需要考慮未來(lái)的業(yè)務(wù)擴(kuò)展性,以及產(chǎn)品的更長(zhǎng)遠(yuǎn)規(guī)劃(比如,由內(nèi)部孵化到外部商業(yè)化輸出等)。
進(jìn)行業(yè)務(wù)流程設(shè)計(jì)過(guò)程時(shí),可以將行業(yè)內(nèi)通用的流程,作為主業(yè)務(wù)流程,將自身業(yè)務(wù)的個(gè)性化訴求拆解到子流程中,這樣一方面確保自身的業(yè)務(wù)訴求得到解決,另一方面確保未來(lái)的可擴(kuò)展性。
智能客服的業(yè)務(wù)流程設(shè)計(jì)要充分考慮到實(shí)際客戶服務(wù)的業(yè)務(wù)邏輯。主流程如下:
- 意圖識(shí)別:通過(guò)LLM強(qiáng)大的自然語(yǔ)言理解能力來(lái)快速判斷用戶意圖。
- 問(wèn)題分類:根據(jù)問(wèn)題意圖將問(wèn)題劃分給不同的模塊,并自動(dòng)觸發(fā)知識(shí)庫(kù)查詢等操作。
- 任務(wù)分派:將不同的任務(wù)分配到不同的任務(wù)處理智能體流程中;
- 多輪對(duì)話管理:通過(guò)上下文關(guān)聯(lián)和指令工程實(shí)現(xiàn)對(duì)多輪對(duì)話的精準(zhǔn)回應(yīng)。
- 升級(jí)和轉(zhuǎn)接機(jī)制:針對(duì)LLM無(wú)法處理的復(fù)雜或特殊問(wèn)題,智能客服應(yīng)具備及時(shí)轉(zhuǎn)接至人工服務(wù)的功能,保障用戶問(wèn)題的全面解決。
業(yè)務(wù)流程的合理設(shè)計(jì)可以讓任務(wù)實(shí)例在遇到不確定性或理解難點(diǎn)時(shí),能有效調(diào)用備選方案或進(jìn)入備用流程,最大程度地提升系統(tǒng)的穩(wěn)定性和用戶體驗(yàn)。
四、確定核心功能
通過(guò)以上環(huán)節(jié)的梳理,基本上可以確定系統(tǒng)的核心能力,接著還需要將其細(xì)化為具體的核心功能,這將構(gòu)成未來(lái)系統(tǒng)迭代的藍(lán)圖。
以智能客服為例,對(duì)于智能客服,核心功能通常包括:
- 知識(shí)庫(kù)構(gòu)建:包括QA文檔庫(kù)、情緒詞庫(kù)、專業(yè)知識(shí)文檔、以及API接口庫(kù)等,維護(hù)好這些知識(shí),便于LLM的學(xué)習(xí)和調(diào)用;
- 智能問(wèn)答:支持基于知識(shí)庫(kù)的快速回答、模糊匹配、模版回復(fù)等。
- 情感識(shí)別與回應(yīng):利用LLM生成符合用戶情感的答案,以更具人性化的方式溝通。
- 多輪對(duì)話能力:在多輪對(duì)話中追蹤上下文,確保用戶的復(fù)雜需求得以滿足。
- 智能轉(zhuǎn)接:當(dāng)LLM未能準(zhǔn)確識(shí)別用戶需求時(shí),將對(duì)話無(wú)縫轉(zhuǎn)接至人工客服。
- 自學(xué)習(xí)與優(yōu)化:定期基于用戶交互數(shù)據(jù)優(yōu)化模型,讓智能客服持續(xù)成長(zhǎng),適應(yīng)業(yè)務(wù)變化。
確定核心功能后,我們可以根據(jù)優(yōu)先級(jí)合理分配開(kāi)發(fā)資源,以確保在有限的時(shí)間和預(yù)算內(nèi)實(shí)現(xiàn)商業(yè)價(jià)值最大化。
五、產(chǎn)品流程設(shè)計(jì)
產(chǎn)品流程設(shè)計(jì)環(huán)節(jié)涉及如何讓用戶順暢地使用智能客服的每一個(gè)功能,并確保對(duì)話流程的高效和準(zhǔn)確性。產(chǎn)品流程節(jié)點(diǎn)包括:
- 歡迎語(yǔ)和起始引導(dǎo):為用戶提供簡(jiǎn)潔友好的對(duì)話開(kāi)場(chǎng)詞,引導(dǎo)用戶更好地使用智能客服。
- 主任務(wù)流程:設(shè)計(jì)各類問(wèn)題的基本應(yīng)答流程和備選流程,涵蓋用戶的常見(jiàn)需求和意外問(wèn)題。
- 錯(cuò)誤處理流程:當(dāng)智能客服識(shí)別錯(cuò)誤或理解不準(zhǔn)確時(shí),設(shè)計(jì)柔性引導(dǎo)流程,避免用戶流失。
- 終止對(duì)話與用戶反饋:引導(dǎo)對(duì)話結(jié)束并收集用戶反饋,以評(píng)估客服效果和用戶滿意度。
有效的流程設(shè)計(jì)不僅讓用戶體驗(yàn)更為流暢,也能夠提升客服系統(tǒng)的服務(wù)水平。
六、? UI交互設(shè)計(jì)
UI設(shè)計(jì)直接影響用戶的操作感受,因此UI界面和交互設(shè)計(jì)必須簡(jiǎn)潔、直觀且貼合用戶需求。
以下為關(guān)鍵點(diǎn):
- 對(duì)話界面設(shè)計(jì):提供簡(jiǎn)潔的對(duì)話框,突出聊天內(nèi)容與選項(xiàng),減少視覺(jué)干擾。
- 按鈕與操作提示:通過(guò)適當(dāng)?shù)陌粹o設(shè)計(jì),引導(dǎo)用戶快速選擇和進(jìn)入不同服務(wù)流程。
- 輸入交互:支持文本和語(yǔ)音輸出,提高輸入效率,讓整個(gè)交互更流程。
- 多輪對(duì)話切換:為每輪對(duì)話提供清晰的上下文指示,讓用戶始終知道當(dāng)前對(duì)話的狀態(tài)。
- 即時(shí)反饋與情感化設(shè)計(jì):通過(guò)動(dòng)畫和表情元素,讓用戶感到智能客服的溫暖和親切。
UI設(shè)計(jì)和交互設(shè)計(jì)的核心在于提供一致、清晰的用戶體驗(yàn),讓用戶無(wú)需培訓(xùn)即可輕松上手并持續(xù)使用。
七、? 參與技術(shù)選型與研發(fā)
在完成設(shè)計(jì)工作后,作為產(chǎn)品和設(shè)計(jì)人員,同時(shí)也需要深度參與到技術(shù)的選型和研發(fā)中。
參與到技術(shù)中去,一方面,有助于我們了解更多的技術(shù)原理和特性,另一方面我們能夠站在業(yè)務(wù)和產(chǎn)品的角度一起來(lái)評(píng)估技術(shù)的可行性,同時(shí)也方便后續(xù)的測(cè)試驗(yàn)收,以及未來(lái)要是出了問(wèn)題,我們能夠快速預(yù)判故障,提高解決問(wèn)題的效率。
例如:在完成智能客服的需求評(píng)審后,參與到技術(shù)評(píng)審中(選型與研發(fā)),了解到其他研發(fā)團(tuán)隊(duì)已經(jīng)私有化部署了Llama大模型,且算力充足,但是對(duì)模型效果上不確定是否可以滿足,此時(shí)產(chǎn)品人員可介入與業(yè)務(wù)人員一起來(lái)作用例評(píng)估。
最后,項(xiàng)目經(jīng)理需要注意,技術(shù)選型時(shí)要注意平衡功能需求、性能需求與開(kāi)發(fā)成本,確保項(xiàng)目在實(shí)際應(yīng)用中穩(wěn)定運(yùn)行。
以上,便是一個(gè)真實(shí)的基于LLM的應(yīng)用程序的設(shè)計(jì)過(guò)程。其中LLM作為核心引擎,知識(shí)庫(kù)作為L(zhǎng)LM的服務(wù)升級(jí)燃料,不斷的優(yōu)化業(yè)務(wù)流程和系統(tǒng)能力,使LLM能夠發(fā)揮出更大的作用。
本文由人人都是產(chǎn)品經(jīng)理作者【長(zhǎng)弓PM】,微信公眾號(hào):【AI產(chǎn)品經(jīng)理社】,原創(chuàng)/授權(quán) 發(fā)布于人人都是產(chǎn)品經(jīng)理,未經(jīng)許可,禁止轉(zhuǎn)載。
題圖來(lái)自Unsplash,基于 CC0 協(xié)議。
- 目前還沒(méi)評(píng)論,等你發(fā)揮!