想要減輕大模型的幻覺?來試試傳統開發與大模型技術結合的新模式

0 評論 371 瀏覽 0 收藏 7 分鐘

AI幻覺一直是各個AI開發者頭疼的問題之一,而且我們也無法保證AI的回答完美無缺。本文將帶你深入探討大模型技術與傳統軟件開發之間的根本區別,并提出如何將兩者的優勢結合起來,以實現更高效、更準確的開發模式。

你是否曾經希望大模型技術能給出100%正確的結果,卻屢屢失望?

你是否曾經一度懷疑自己不會用還是太高看大模型了,導致你的判斷失誤?

我想說,一切指望著大模型輸出100%正確的這個出發點就有問題,核心就是搞錯了傳統開發和大模型開發的差異和邏輯思路。

那,如何既能使用大模型優秀的推理能力也能同時保證100%正確呢?

我們將深度探討這些問題,揭示大模型與傳統開發思路的矛盾,并提出新的解決方案。

01 傳統開發與大模型開發的根本區別

在探討為什么大模型技術無法實現100%準確的結果之前,我們需要先理解傳統開發思路與大模型技術之間的根本區別。

傳統開發的特點:強邏輯與穩定性

傳統的軟件開發方法通?;诿鞔_的邏輯判斷和規則。這些規則由開發者定義,代碼的執行是確定性的:只要輸入相同,輸出結果就會完全一致。

這種方法的優點在于其結果的可預測性和穩定性。例如,金融軟件中的交易系統、銀行系統的賬務處理等,都需要精確無誤的結果,因此傳統開發方式的邏輯性和一致性非常重要。

大模型開發的特點:模型訓練和推理的不確定性

與傳統開發不同,大模型開發(如大型語言模型和深度學習模型)依賴于海量的數據和復雜的算法進行推理。

這些模型的訓練過程涉及從大量數據中學習模式和關系,而不是明確的規則。因此,大模型的輸出具有一定的隨機性和不確定性。

例如,生成式AI在創作文本時,雖然可以生成高質量的內容,但由于其基于概率的推理,輸出結果可能會有所不同,即使輸入條件相同。這種不確定性使得大模型的結果難以保證100%的準確性。

02 新型開發模式:傳統開發與大模型開發的結合

討論結合的模式,先科普一下當前的軟件是如何完成開發的,當前軟件用戶看到的和用到的是用戶界面,這個主要由前端完成;而一些基于用戶的操作而引發的一些處理邏輯,大部分是由后端完成。

核心思路:前端用大模型+傳統開發,處理自然語言和簡單邏輯;后端用傳統開發,處理數據計算和復雜邏輯。

前端如何結合?

在用戶與系統的交互前端,大模型技術可以用于處理復雜的自然語言查詢和生成智能回復。

大模型能夠理解用戶的問題,并基于其訓練數據生成自然流暢的回答。

例如,在政務服務的智能客服系統中,用戶可能會問:“如何申請居住證?”大模型可以解析用戶的查詢,理解其意圖,并生成詳細的回答,包括所需的申請材料、步驟和注意事項。

案例分享:政務智能客服

1. 大模型處理用戶提問和回復

在用戶發起問題時(例如:“如何辦理護照?”),智能客服系統的前端利用大模型技術進行自然語言理解。大模型能夠分析用戶的意圖,提取關鍵字,并生成詳細的回答。

這些回答包括辦理護照所需的材料、申請流程、收費標準等信息。如果用戶有更多問題,大模型還可以根據上下文繼續進行交互。

2. 后端傳統開發確保數據一致性

后端主要負責存儲用戶的查詢記錄、處理申請數據和管理事務流程。傳統開發方法用于實現這些功能,包括數據存儲、事務管理、規則引擎等。

例如,后臺系統會根據用戶的查詢記錄更新相關的服務狀態,管理申請的審批流程,并確保數據的一致性和準確性。傳統系統的穩定性在這里至關重要,因為它確保了業務邏輯的準確執行。

最后的話

如果你自認為真的懂大模型技術,請早點放棄100%正確的幻想,有兩種解決思路:

第一種:接受90%多的正確率(在某些場合人還不到80%),這種就很適合直接用大模型技術處理。

第二種:采用新型開發思路,各取所長。將復雜邏輯交給傳統開發,將自然語言處理和理解交給大模型。

希望帶給你一些啟發,加油。

作者:柳星聊產品,公眾號:柳星聊產品

本文由 @柳星聊產品 原創發布于人人都是產品經理。未經許可,禁止轉載。

題圖來自 Unsplash,基于 CC0 協議

該文觀點僅代表作者本人,人人都是產品經理平臺僅提供信息存儲空間服務。

更多精彩內容,請關注人人都是產品經理微信公眾號或下載App
評論
評論請登錄
  1. 目前還沒評論,等你發揮!