中文字幕无码av不卡一区,亚洲综合AV永久无码精品一区二区,黑人巨大白妞出浆,黄色高清无码免费看,久久久久免费精品国产,久久无码人妻丰满熟妇区毛片,欧美日韩国产综合草草,久久福利网站,亚洲一区二区三区中文字幕在线,av国内精品久久久久影院

在人工智能領(lǐng)域，大型語言模型（LLM）正逐漸成為構(gòu)建智能系統(tǒng)的核心。本文通過兩個(gè)實(shí)踐案例，詳細(xì)闡述了如何從零開始，利用受限的FAQ文檔和LLM能力，搭建一個(gè)智能問答機(jī)器人，供大家學(xué)習(xí)。

LLM，是通往通用人工智能之路的基礎(chǔ)，凡是真正具有智能的系統(tǒng)也好、工具也罷，其內(nèi)部一定是集成了好用的LLM（個(gè)人觀點(diǎn)）。

然而，大語言模型的幻覺（上下文回答自相矛盾等）、不遵循指令、訓(xùn)練和微調(diào)需消耗大量算力、微調(diào)需要專業(yè)算法人士、落地ROI等問題，使得大語言模型的落地面臨著各種各樣的挑戰(zhàn)和問題需要解決。

FunctionCall、RAG、few-shot、SFT、AI Agent平臺(tái)等這些技術(shù)框架和產(chǎn)品的出現(xiàn)，使得普通人直接使用LLM變得容易了起來~隨便利用LLM通識(shí)能力搭一個(gè)“玩具”（比如英語口語陪練、軟文寫作大師等）很容易，但要真正想用好LLM，且用在實(shí)際的業(yè)務(wù)場(chǎng)景中，并非易事。

那么本文，本人就先以簡(jiǎn)單的case，演示一下：基于限定的FAQ文檔和LLM，來如何從0-1搭建一個(gè)智能問答機(jī)器人，以及過程中我遇到的問題及如何解決的。

注：本文FAQ文檔，以網(wǎng)頁URL形式提供~后續(xù)有時(shí)間，將再分享FAQ是以文檔文件形式實(shí)踐的成果~感興趣的友友，敬請(qǐng)期待！

本文閱讀溫馨提示?：

內(nèi)容有些長(zhǎng)，約7000字，需要一些耐心，主要涉及如下內(nèi)容：

（1）實(shí)踐case1：基于FAQ文檔，利用LLM能力進(jìn)行答復(fù)，要求超出文檔范疇，回復(fù)“不知道”即可；——case1模擬的業(yè)務(wù)場(chǎng)景：專業(yè)性極強(qiáng)、對(duì)回答準(zhǔn)確率要求極高的業(yè)務(wù)場(chǎng)景，比如金融、醫(yī)療等行業(yè)；

（2）實(shí)踐case2：優(yōu)先基于FAQ文檔進(jìn)行智能問答，若用戶意圖與FAQ相關(guān)，則利用LLM&RAG能力進(jìn)行回復(fù)；若與FAQ無關(guān)，則利用LLM通識(shí)能力&聯(lián)網(wǎng)能力，為用戶推薦回答。

（3）客服系統(tǒng)及智能客服的系統(tǒng)架構(gòu)，以及我關(guān)于“基于LLM的「智能客服機(jī)器人」”的一些思考~

——case2模擬的是【任務(wù)型】機(jī)器人為主，同時(shí)具備閑聊能力的機(jī)器人。

覺得有用的寶子，建議收藏碼住本文！防止過后找不到~

01 實(shí)驗(yàn)一：僅基于限定FAQ文檔回答問題，超出范疇要求LLM回復(fù)“不知道”

1.1 使用的工具、FAQ文檔說明

使用工具：

扣子（中文版），工具地址：https://www.coze.cn/home

FAQ文檔：

使用的是這個(gè)URL內(nèi)容：

https://mp.weixin.qq.com/s/B0FskW3iPypdE9oj3Sfjcg（這是一個(gè)關(guān)于谷歌創(chuàng)始人之一：謝布林近期的訪談，訪談關(guān)于他重回一線寫代碼，以及他對(duì)AI行業(yè)的看法、對(duì)AI的實(shí)踐運(yùn)用等內(nèi)容，還有主持人與其談及了谷歌Gemini與openAI的差距等話題）；

2.2 實(shí)驗(yàn)過程與實(shí)驗(yàn)結(jié)果記錄：

1）上手搭建-v0.0.1版：僅能基于限定的FAQ文檔，回答問題

模擬業(yè)務(wù)場(chǎng)景：只能基于限定的FAQ回答問題，當(dāng)用戶提問超出提綱范圍，要求LLM回復(fù)“不知道”。

p.s.本人之所以這樣設(shè)定，是因?yàn)檫@種設(shè)定契合于醫(yī)療、醫(yī)藥、金融等行業(yè)（與人生命財(cái)產(chǎn)關(guān)聯(lián)性較強(qiáng)的行業(yè)/業(yè)務(wù)），即這些專業(yè)性比較強(qiáng)的業(yè)務(wù)場(chǎng)景，通常要求LLM不知道不要瞎說、胡說，如果建議錯(cuò)了反倒影響用戶體驗(yàn)~

step1：對(duì)Agent進(jìn)行配置

A、配置LLM提示詞：v0.0.1版

# 角色

你是一個(gè)專業(yè)高效的智能答疑助手，能夠準(zhǔn)確、快速地依據(jù)給定的 FAQ（常見問題解答）回答各種問題，F(xiàn)AQ 形式包括 url 網(wǎng)頁鏈接以及外部知識(shí)庫 API。

限定的FAQ 文檔就用這個(gè)：https://mp.weixin.qq.com/s/B0FskW3iPypdE9oj3Sfjcg

## 技能

###技能1：精準(zhǔn)搜索 FAQ

一旦接收到用戶的問題，馬上在已有的 FAQ 中進(jìn)行全面細(xì)致的搜索；

如果找到相關(guān)問題及答案，嚴(yán)格按照以下格式回復(fù)：

=====

**問題**：<用戶提出的問題>；

**答案**：<FAQ 中的對(duì)應(yīng)答案>

如果沒有找到相關(guān)問題和答案，就說“不知道”即可。

##限制

- 必須嚴(yán)格按照規(guī)定格式輸出內(nèi)容，絕對(duì)不能偏離給定的框架要求。

B、配置Agent其它項(xiàng)：大模型、推薦問題、大模型所要調(diào)用的插件

a）LLM使用了默認(rèn)的【豆包·function callMox 32k 精確模式】，插件配了“鏈接讀取”插件、“圖片理解”、“kimi”~

b）“推薦問題”配置

Step2：對(duì)配好的Agent進(jìn)行調(diào)試：

在Agent正式發(fā)布前，我們需要對(duì)其進(jìn)行調(diào)試（測(cè)試），測(cè)好了沒大問題了，再發(fā)布。

在測(cè)試過程中，我對(duì)Bot進(jìn)行了正負(fù)向測(cè)試，同時(shí)測(cè)試其自己生產(chǎn)的問題可否能回答上；

①正向測(cè)試：在提綱中的問題進(jìn)行測(cè)試（比如：“讓謝布林感到「WOW」的 AI 應(yīng)用場(chǎng)景是什么？”、“1998 年，謝布林和誰成立了谷歌？”、“介紹謝布林”、“謝布林有沒有用AI來做數(shù)獨(dú)游戲？”
等），測(cè)試機(jī)器人能否回答上來，回答是否正確、是否按格式要求等；

②負(fù)向（邊界情況）測(cè)試：不在提綱中的問題，進(jìn)行測(cè)試（比如：“請(qǐng)介紹一下奧特曼”、“奧特曼相信光嗎？”等），看其是否按要求回答“不知道”，還是瞎說。

③系統(tǒng)自動(dòng)生成的相關(guān)問題，測(cè)試。

調(diào)試過程中遇到的問題：

1. 測(cè)試大模型時(shí)都正常，都能回答上。發(fā)布后，同樣問題卻回答錯(cuò)誤。——這大概率是大模型的幻覺問題，不會(huì)是平臺(tái)的BUG（個(gè)人認(rèn)為）（原因后面解釋）；
2. 它推薦的問題，它自己卻回答不上。自動(dòng)推薦處定義的提示詞已經(jīng)說明強(qiáng)調(diào)：推薦其有能力回答的問題。
3. 幻覺問題的體現(xiàn)：給大模型配了插件，調(diào)試時(shí)調(diào)用了該插件，調(diào)試正常調(diào)通了。發(fā)布后，卻不調(diào)用插件回答問題。
4. 調(diào)試過程中，調(diào)試階段A一會(huì)自主調(diào)用插件（鏈接讀取），一會(huì)又不調(diào)用該插件（提示詞都是一樣的）。
5. 發(fā)布后，關(guān)于同一問題，回答明顯矛盾。如下所示：

問題分析與解決

問題1：測(cè)試時(shí)，都正常都能回答上。發(fā)布后，同樣問題，卻回答錯(cuò)誤。

原因分析：——這大概率是大模型的幻覺問題，不會(huì)是平臺(tái)的BUG（個(gè)人認(rèn)為），因?yàn)槠脚_(tái)BUG這種非算法類的，工程類的問題只要解決了就不會(huì)存在。極有可能是大模型幻覺問題，那暫時(shí)無解。

問題2：它推薦的問題，它自己卻回答不上。自動(dòng)推薦處定義的提示詞已經(jīng)說明強(qiáng)調(diào)，推薦其有能力回答的問題。

猜測(cè)原因1：它推薦的問題可能是基于它基礎(chǔ)的【通識(shí)能力】+【聯(lián)網(wǎng)能力】，并沒有限定于給它配置的系統(tǒng)提示詞和身份?！@個(gè)猜測(cè)又不是很合理，正常產(chǎn)品設(shè)計(jì)一定是系統(tǒng)人設(shè)是第一個(gè)層級(jí)的限制（要是我設(shè)計(jì)，默認(rèn)情況，我就會(huì)這樣設(shè)計(jì)，即是“and”關(guān)系）；或者系統(tǒng)人設(shè)和自動(dòng)推薦的問題，默認(rèn)“and”關(guān)系，此外還支持“or”。

猜測(cè)原因2：大模型幻覺。如果又是幻覺問題，那還是不好解決。

問題3和問題4原因分析：可能是系統(tǒng)提示詞寫的不完善，比如同一個(gè)功能的插件配了好幾個(gè)，又沒有明確和LLM說明什么時(shí)候用哪個(gè)，那么大模型就可以在面對(duì)提問時(shí)，自主選擇。那自然就可能出現(xiàn)問題3和4。比如這個(gè)badcase：

問題3和問題4解決辦法：

1）同一功能作用的插件，要么配1個(gè)；要么配多個(gè)的時(shí)候，為避免引起歧義，在系統(tǒng)提示詞中，加以限定：說明好什么情況下用這個(gè)插件，什么情況下用另外的插件。

這里，我刪除了【kimi插件】（后續(xù)實(shí)驗(yàn)有需要用到kimi聯(lián)網(wǎng)檢索時(shí)候，我再加上），結(jié)果如下：

但我又遇到了新的問題：

比如：

①我問它“1998年，謝布林和誰一起成立了谷歌？”（這個(gè)問題它之前能回答，現(xiàn)在又不能回答了…）

②比如它沒有輸出執(zhí)行過程。

問題原因猜測(cè)是：URL中FAQ中確實(shí)沒有這個(gè)問題，而是整個(gè)文檔有這部分內(nèi)容。策略：考慮優(yōu)化提示詞，回答范圍不限定于FAQ，而是整個(gè)URL文件。

好吧。。。即使我優(yōu)化了提示詞到查找整個(gè)URL而非部分FAQ，關(guān)于問題1，它仍然是回答不知道。我需要知道它是怎么執(zhí)行的。

關(guān)于問題2（不輸出執(zhí)行過程的問題），后續(xù)增加提示詞要求即可?！贿^這個(gè)也要注意，面向終端客戶時(shí)，有沒有必要輸出中間過程，或者是選擇性地輸出（產(chǎn)品童鞋需要注意）；

• 問題5：發(fā)布后，關(guān)于同一問題，回答明顯矛盾。
• 原因分析：大模型幻覺問題?！罄m(xù)考慮加入few-shot，或在對(duì)話窗口中進(jìn)行微調(diào)，然后利用大模型的Mememory能力進(jìn)行優(yōu)化。

2）v0.0.2：在v0.0.1版基礎(chǔ)上，進(jìn)行優(yōu)化

v0.0.1版存在上面羅列的諸多問題，因此考慮優(yōu)先優(yōu)化提示詞，解決一部分容易解決的問題

v0.0.2版配置如下：

v0.0.2在v0.0.1版基礎(chǔ)上，主要優(yōu)化點(diǎn)在于：

1、增加“輸出執(zhí)行和思考過程”；

2、優(yōu)化檢索“FAQ”為“檢索全文”；

3、去掉容易引起大模型歧義的同等作用的多個(gè)插件，僅保留一個(gè)。

v0.0.2測(cè)試結(jié)果：

v0.0.2調(diào)試結(jié)果說明：

Bot按指令要求調(diào)用【鏈接提取】插件了；√

也按格式要求輸出了回答、輸出了執(zhí)行和思考過程?！?/p>

暫時(shí)滿足了我的業(yè)務(wù)要求~ ????

（但仍然存在一些幻覺問題，但由于本人暫無時(shí)間精力和能力去微調(diào)，所以該case暫且到這里。下面進(jìn)行Bot的發(fā)布。

3）基于v0.0.2版配置，發(fā)布Bot機(jī)器人（基于外接FAQ的智能問答）

• 扣子平臺(tái)的發(fā)布功能，提供了多種選擇：你可以設(shè)置Bot的權(quán)限為公開、為私有。
• 支持發(fā)布至豆包智能體廣場(chǎng)（商店），支持發(fā)布到飛書應(yīng)用中，支持發(fā)布至抖音中。
• 還支持發(fā)布至三方平臺(tái)生態(tài)中，微信、掘金等；
• 發(fā)布形式支持URL（帶界面），支持發(fā)布API形式；

這里，我選擇了發(fā)布至字節(jié)Bot商店，但由于插件權(quán)限設(shè)置，即使是公開Bot，也只能我自己使用。

謝布林訪談-Bot在線體驗(yàn)鏈接：https://www.coze.cn/store/bot/7415175444246495243?panel=1&bid=6dqk42qr89g0a（你們可以試試能否打開，或者能打開能不能用）

同時(shí)這個(gè)Bot機(jī)器人為實(shí)驗(yàn)性質(zhì)的、“demo”性質(zhì)的，距離真正的商業(yè)化落地還有一定距離。

比如當(dāng)前的這個(gè)Bot仍然存在下述幻覺問題：

比如問它：“讓謝布林感到「WOW」的 AI 應(yīng)用場(chǎng)景是什么？”它回答的還是不完美?？稍趯?duì)話過程中，調(diào)教它，得到想要得到的答案~

4）后續(xù)的優(yōu)化方向

線上的【謝布林訪談-FAQ】BOT仍然不是完美的，還有諸多缺陷，比如我在（3）小節(jié)提出的幻覺問題。

• 后續(xù)解決方案可以是：
• few-shot（指令微調(diào)）->SFT（基于少量業(yè)務(wù)數(shù)據(jù)，對(duì)模型進(jìn)行微調(diào)）；
• 換LLM（根據(jù)業(yè)內(nèi)人士經(jīng)驗(yàn)，參數(shù)量級(jí)越大的LLM，其指令遵循能力越強(qiáng)），重新執(zhí)行上述過程（Bot配置、Bot調(diào)試、Bot發(fā)布）；

02 實(shí)驗(yàn)二：優(yōu)先基于限定的文檔回答問題，超出文檔范疇利用LLM通識(shí)能力+聯(lián)網(wǎng)能力，給出推薦回答

該case模擬的實(shí)際業(yè)務(wù)場(chǎng)景是：【優(yōu)先基于領(lǐng)域知識(shí)】進(jìn)行回復(fù)的任務(wù)型機(jī)器人，同時(shí)具備閑聊能力的機(jī)器人。

2.1 v0.0.1 Bot提示詞等配置

2.2 v0.0.1調(diào)試和預(yù)覽

問題1：按照上述提示詞，用戶的所有提問，比如“你好”、“請(qǐng)介紹你自己”、“請(qǐng)給我講個(gè)故事”等，他都將這些問題視為【有效輸入】去檢索URL文檔~ 比如下圖所示那般：

——該版本的問題是：

1、如果用戶所有問題，BoT均按照上面模版機(jī)械化地回答給用戶，會(huì)有些蠢、也很機(jī)械，用戶可能會(huì)被逼瘋。。。其實(shí)對(duì)于一些“你好”、“你是誰”等問題，直接回答即可（不用說一大堆有的沒的）；——問題嚴(yán)重程度P1

2、如果針對(duì) “你好”、“你是誰”等與FAQ無關(guān)的意圖，也要作為query去檢索FAQ文檔的話，系統(tǒng)的效率會(huì)大打折扣，明顯浪費(fèi)計(jì)算資源?！獑栴}嚴(yán)重程度P0。

——所以，一般的做法是：優(yōu)先對(duì)【用戶意圖】進(jìn)行標(biāo)記和分類。閑聊類的意圖，調(diào)用【閑聊】模塊執(zhí)行回復(fù)；當(dāng)符合【FAQ問答】意圖，則調(diào)用【FAQ文檔問答】能力執(zhí)行回復(fù)。

下面對(duì)v0.0.1版本進(jìn)行改進(jìn)，增加“意圖分類”邏輯。

2.3 v0.0.1改進(jìn)：增加“用戶意圖分類”判斷邏輯，并調(diào)試、發(fā)布

策略說明：

1）當(dāng)用戶意圖與FAQ文檔相關(guān)，則參照FAQ進(jìn)行回答；

2）如果用戶意圖與之不相關(guān)，需調(diào)用通識(shí)能力+聯(lián)網(wǎng)檢索能力，為用戶推薦回答。

溫馨提示：實(shí)際最好的做法應(yīng)該是單獨(dú)有一個(gè)LLM，完成【意圖識(shí)別和分類】任務(wù)。另一個(gè)LLM只負(fù)責(zé)【FAQ文檔問答】。但是本人為實(shí)踐效率，這里用一個(gè)LLM同時(shí)完成這兩個(gè)任務(wù)（偷個(gè)懶??）。

按上面策略對(duì)v0.0.1版提示詞進(jìn)行修改和優(yōu)化。

同時(shí)本人測(cè)試了一些問題（與文檔相關(guān)、與文檔不相關(guān)的），個(gè)人覺得效果還可以，如下：

通過調(diào)試，認(rèn)為達(dá)到了業(yè)務(wù)使用要求，發(fā)布即可~

03 全文總結(jié)與回顧

本文以兩個(gè)小case，利用Coze工具，簡(jiǎn)單實(shí)踐了一下【基于LLM的智能問答助手】的0-1構(gòu)建方法，以及構(gòu)建過程中遇到的問題，以及解決思路和解決前后對(duì)比~

1、其中case1，模擬的是專業(yè)性極強(qiáng)或回答準(zhǔn)確率要求極高的業(yè)務(wù)場(chǎng)景，比如金融、醫(yī)療行業(yè)，要求大模型不知道不要瞎說，say no即可~

2、case2，允許大模型優(yōu)先按照領(lǐng)域知識(shí)回答，當(dāng)領(lǐng)域知識(shí)無法滿足用戶問題時(shí)，可允許大模型利用其通識(shí)能力和調(diào)用其它工具回復(fù)用戶提問。——這可以映射到早期：【基于知識(shí)進(jìn)行回復(fù)】同時(shí)具備閑聊能力的機(jī)器人，不至于顯得“人工智障”。

04 寫在后面：我關(guān)于「智能客服機(jī)器人」的一些實(shí)踐經(jīng)驗(yàn)和思考分享~

A、關(guān)于大模型“幻覺”問題的幾點(diǎn)解決經(jīng)驗(yàn)分享~

1）優(yōu)先優(yōu)化系統(tǒng)提示詞、修改大模型溫度值參數(shù)為0，然后可以適當(dāng)?shù)厥褂胒ew-shot的方法，對(duì)大模型進(jìn)行效果優(yōu)化；但few-shot的弊端也很明顯，占用的tokens太多（因?yàn)槊看屋斎?、輸出，都?huì)把系統(tǒng)提示詞+用戶提問作為輸入token）；

——p.s.tokens越多，越費(fèi)錢；如果不是外采的，部署的開源的話，tokens越多計(jì)算量也會(huì)相應(yīng)變多，費(fèi)算力，費(fèi)存儲(chǔ)。

2）換一個(gè)LLM。根據(jù)經(jīng)驗(yàn)，參數(shù)量越大的模型對(duì)指令遵循效果越好~（參考小米落地實(shí)踐），但也要辯證參考~

3）在調(diào)試過程中，如果不確定大模型給出的內(nèi)容，是否是正確的，可考慮在提示詞中增加“引用源”

4）以上都不行，就微調(diào)吧。

即使你優(yōu)化系統(tǒng)提示詞，到已經(jīng)很好、考慮的很全面了的地步了，但你仍然不能百分百的規(guī)避大模型的幻覺問題，這個(gè)誤差仍然存在?！@時(shí)就要看業(yè)務(wù)可接受多大的誤差。如果想要繼續(xù)縮短誤差，提高端到端回復(fù)準(zhǔn)確率的話，那就【微調(diào)】吧！

B、關(guān)于企業(yè)是否基于LLM，從0-1搭建【智能客服】機(jī)器人：

我認(rèn)為，對(duì)于那些已經(jīng)搭建了【智能客服】的企業(yè)來說，再基于LLM 搭建一個(gè)智能客服機(jī)器人，會(huì)面臨下面幾種選擇：

-方案a：原有智能客服系統(tǒng)+LLM改造，利用LLM進(jìn)行重構(gòu)和改造；

-方案b：完全摒棄原有方案，從0-1基于LLM重搞；

-方案c：繼續(xù)用原來的客服系統(tǒng)，不引入LLM；

我認(rèn)為，大多企業(yè)會(huì)選擇方案 a，即逐步引入LLM,逐步重構(gòu)改進(jìn)；可能也會(huì)有部分企業(yè)現(xiàn)階段選擇方案c：暫時(shí)不引入LLM，原因是：有些企業(yè)愿意嘗試創(chuàng)新、有些企業(yè)則比較看重ROI，還有些企業(yè)比較看重業(yè)務(wù)運(yùn)行的穩(wěn)定性（比如在原有穩(wěn)定運(yùn)行的業(yè)務(wù)系統(tǒng)中，引入LLM，帶來了不可控的風(fēng)險(xiǎn)，那干脆不引入，等LLM再發(fā)展發(fā)展后再說，比如幻覺問題都有了標(biāo)準(zhǔn)的成熟的方案）；還有些公司會(huì)選擇方案b。

——那具體怎么選，還是各個(gè)企業(yè)的老板們說了算的。

對(duì)于從來沒有建立過智能客服機(jī)器人的企業(yè)，或者是新業(yè)務(wù)的新客服業(yè)務(wù)，可以考慮基于LLM來建設(shè)。只要研究好提示詞、配備齊全相應(yīng)的產(chǎn)品/運(yùn)營(yíng)、懂微調(diào)的算法、和工程化開發(fā)的前后端人員就夠了~

C、關(guān)于「大模型落地到硬件終端」的考慮與必要準(zhǔn)備事項(xiàng)~

在LLM最終落地時(shí)，還考慮大模型的落地場(chǎng)景，是云端，還是其它邊緣端（比如智能手機(jī)、智能手表，或是平板、學(xué)習(xí)機(jī)等），因?yàn)檫@些硬件終端，其內(nèi)存和算力都有限。——那針對(duì)手機(jī)等硬件終端，LLM落地時(shí)還需要做的工作是：蒸餾。

——蒸餾的意思是說，保持原有模型整體性能效果的前提下，盡量的壓縮模型體積（現(xiàn)在一個(gè)參數(shù)量稍微大點(diǎn)的大模型，動(dòng)不動(dòng)就大幾個(gè)GB，10GB的也不在少數(shù)，這樣的龐然大物算力小的、內(nèi)存小的設(shè)備根本帶不動(dòng)~）

D、關(guān)于0-1搭建/重構(gòu)智能客服機(jī)器人的必要工作：

確定業(yè)務(wù)場(chǎng)景->確定機(jī)器人類型（任務(wù)還是閑聊，還是結(jié)合）->意圖治理、機(jī)器人基礎(chǔ)設(shè)施搭建（知識(shí)庫治理與配置、技能樹等）->機(jī)器人工作流程設(shè)計(jì)、用戶數(shù)據(jù)監(jiān)控邏輯設(shè)計(jì)->測(cè)試與上線->根據(jù)反饋進(jìn)行迭代~

客服系統(tǒng)整體架構(gòu)（含智能客服系統(tǒng)架構(gòu)），圖片繪制by本人（記得是畫了蠻久…）

好，那在原「客服系統(tǒng)」基礎(chǔ)上拿LLM改造，LLM可以做些什么呢？（不管是產(chǎn)品還是技術(shù)，都是LLM求職面試高頻問題哦）

本文的兩個(gè)實(shí)踐case，實(shí)際針對(duì)「智能客服系統(tǒng)」提供了一些答案，即：

①利用LLM去做意圖的識(shí)別和分類；

②利用LLM，去做文檔的檢索；

更多的場(chǎng)景？（知識(shí)庫的建設(shè)？相似問的生成？自動(dòng)化評(píng)估？….）想要了解更多的朋友，歡迎評(píng)論區(qū)留言，與其它小伙伴探討~