Prompt實用技巧、應用方向以及實踐感悟

0 評論 2516 瀏覽 17 收藏 17 分鐘

關于提示詞的寫法和技巧,其實已經有很多方法和說明,但不同的場景采用的方法會不一樣。本文作者整理了吳恩達的Prompt課程里的提示詞技巧,特別適合互聯(lián)網人的工作,推薦各位學習。

前段時間花了一些時間研究了prompt,也上手了Coze平臺的bot搭建,寫這篇文章一方面想分享下一些prompt實用的技巧和應用方向,另一方面聊聊透過prompt從另一個視角對大模型的理解。

還記得GPT4剛出來那會兒,我所在的團隊領導們特別興奮,GPT4的智能水平要比3.5強很多,對上下文的理解和邏輯性都要好一些,那時候我們也做了一個聊天機器人的面向海外的應用,很多人說prompt自然語言的編程會在未來取代傳統(tǒng)的編程方式,人人都是程序員的時代將要來臨,那時候面對一個新東西,一知半解,沒有自己的獨立思考,但真正沉下心來去理解被后的運作機制以及自己上手體驗后覺得好像不是那么回事兒。當然一個更好的prompt會越接近你的理想答案,但能達到理想化的答案似乎還有些距離。

下面寫給大家分享一些實用的prompt的技巧,技巧的來源主要來源于吳恩達的prompt課程。

一、Prompt的實用技巧

1. 運用分隔符增強可讀性

如果我們想讓模型幫助我們用一句話總結段落的內容, 我們可以將段落的內容用一些分隔符包起來,這樣模型就能更好的識別哪些是需要處理的內容,哪些是要求。

案例展示:

“`
發(fā)現(xiàn)科技與設計的完美結合,iPhone為您帶來前所未有的智能手機體驗。配備超視網膜XDR顯示屏,呈現(xiàn)驚艷的色彩和細節(jié),無論是瀏覽照片還是觀看視頻,都能感受到前所未有的視覺震撼。搭載最新的A17仿生芯片,性能卓越,確保多任務處理流暢自如,讓您的每一次操作都快如閃電。

“`

請幫我把”””內的內容用一句話概括出來。

所運用的分隔符可以有多種形式,包括像:

  • 三引號:“”“
  • 三重反引號:“`
  • 三連字符:—
  • 尖括號:<>
  • XML標簽:<tag></tag>

2. 要求結構化輸出

結構化輸出的目的是提升模型結果的可用性,比如通過總結段落的內容,讓模型輸出JSON格式的結果,那這個結果就可以直接拿來和數(shù)據庫進行交互了,或者把輸出的內容轉換成表格的形式等等。

案例展示:

這里的格式不單單僅支持JSON,像XML ,HTML都可以,甚至你可以給模型一些格式要求,模型按照你定義的格式進行內容重寫。

3. 讓大模型檢查條件是否滿足

在寫讓大模型執(zhí)行任務的prompt時,可以先讓模型檢查下執(zhí)行任務的前置條件是否滿足,如果不滿足需要及時指出,否則會差生條件不滿足的情況下仍執(zhí)行任務的錯誤行為。

案例展示:

4. 少量樣本提示(Few-shot prompting)

如果你是一個產品經理,你經常會和設計師溝通,你內心有自己的想法,這個功能呈現(xiàn)的交互和樣式大概是什么風格,很多時候你和設計師按照你的想法描述了很多很具體,但往往比不上直接丟給設計師你想要的案例參照來的更明確,大語言模型也一樣,你需要給他一些Few-shot。

案例描述:

5. 將一個復雜的任務進行拆解,按步驟給到模型(給模型時間思考)

試想下如果老板給你布置一個短時間內無法完成且需要自拆解梳理的任務,但他需要你當天就提交一份解決方案,你能把這個事情在這么短的時間內做好嗎?很難吧,這里模型也是一樣,你需要將復雜的任務按步驟拆解后讓他執(zhí)行。

案例描述:

6. 在讓模型做判斷前,讓模型先思考自己這么解決(給模型時間思考)

這也是圍繞“給模型思考時間”思想給出的技巧,這里還是類比人類,人在去判斷一個數(shù)學提的答案對還是錯是需要時間的,大模型也是這樣,如果直接讓模型判斷,就會出現(xiàn)幻覺,本來是錯的模型會說對,或者會給你一個模棱兩可的答案。

這里案例我找了好多數(shù)學題的例子似乎沒有難倒過GPT的,但在吳恩達列舉的例子里出現(xiàn)過這種情況,可能是模型的能力日益增強的緣故,大家如果有興趣可以嘗試給大模型一些題目案例用兩種prompt方式,一種讓模型先思考再解決,一種是直接給出答案,看是否有差別。

7. 避免模型出現(xiàn)幻覺

某些時候你給模型一個不存在不符合事實的信息,他會很認真的提供一些更詳細的解釋或描述,這就是所謂的模型幻覺。

吳恩達在他的prompt課程中為了一定程度上規(guī)避這些問題,他給出了一些解決方案:

1)首先讓模型找到相關信息;

2)然后根據相關信息回答問題;

3)最后你可以讓模型回答的內容中體現(xiàn)出用了哪些相關信息。

案例描述:

8. 根據模型回答的結果迭代prompt

這就像做一個產品一樣,一個好的產品需要通過用戶數(shù)據的反饋不斷的迭代才能形成,模型首次回答的內容可能和你的期望差的比較遠,那你就可以迭代你的prompt,比如你在首次prompt獲得的回答字數(shù)過多,那你就可以在prompt中增加字數(shù)限制的描述;還比如希望在prompt最后給出的結果末尾加上一些額外信息,那可以吧這些要求補充在prompt內。

案例描述:

以上就是吳恩達的prompt課程的主要內容,除此之外他還在課程中提到了幾個大語言模型的應用方向,這里也給大家介紹一下:

二、大模型應用方向

1. 總結類應用

現(xiàn)在很多的一些O2O的APP中會有評論模塊,有的用戶評論的內容比較長,不利于信息的快速獲取,這里就可以利用LLM的總結能力,再比如我們要快速了解一本書或一個PPT內的核心要點,也可以通過大模型實現(xiàn),相信這塊兒的應用大家日常也都見過或用過。

2. 文本預測類應用

之前在看AI產品機會的時候,有一家做外呼推銷系統(tǒng)的公司在招聘的時候就有描述他們內部在做一套圍繞用戶回答內容通過大模型自動進行標簽分類的系統(tǒng), 具體場景是他們希望能通過用戶在收到推銷電話后的回復內容來推測推銷失敗的原因,而這個原因他們預先定義好標簽,例如:產品本身原因、推銷不專業(yè)、用戶不接受電話推銷的方式等,那大語言模型這里的作用就是根據用戶回復的內容來定義原因。這個案例就很好的運用了文本預測這個功能。

吳恩達在課程中也列舉了兩個很有價值的例子:

1)將評論的內容通過prompt格式化輸出json格式的數(shù)據能做有效的數(shù)據存儲和使用;

2)通過大模型的推斷能力為一篇文章生成不同的標簽,標簽的形式以json形式輸出并存儲。

這里如果能把預測的內容形成JOSN格式標簽化直接和數(shù)據庫交互,這一點就很有想象空間,比如我們要定某天去某地的機票,那模型就可以直接把定機票所需的字段從對話中總結預測出來,在通過格式化的形式傳給訂票系統(tǒng), 訂票系統(tǒng)通過就可以格局字段顯示相關的航班信息供用戶選擇了。

再比如點外賣,玲瑯滿目的外賣,我有時候就很難去選擇,同樣通過大模型的預測和總結能力從對話中總結預測出來從而推薦一些匹配度比較高的外賣商家出來。這么看來有沒有可能未來的推薦模式會被模型給革命掉!

3. 文本轉換類應用

上面將的將對話內容格式化也是文本轉化的方式,格式化成JSON或HTML等格式,關于HTML格式,這里似乎又是一個能有一些創(chuàng)新機會的點,最早的建站需要code,到后來有一些低代碼平臺實現(xiàn)拖拉拽的形式,到大模型這里,可能提供一些文案就能幫你生成,這么一來用戶自己建站的要求就越來越低了,人人都可輕松建站。

除了這些,轉換類應用常見的還有翻譯軟件,文本校驗軟件,大模型目前完全有能力去檢查出文本中的錯別字或者語法錯誤,以前為了實現(xiàn)這個能力需要花精力去訓練小模型,現(xiàn)在通用的大模型就能搞定了。針對這個場景,我個人在創(chuàng)作一些文章時,經常會出現(xiàn)錯別字,公眾號編輯器里有查錯字的功能,但其他好多編輯器是沒有的,這就使得我需要花時間去review我自己寫的內容,如果把它做成瀏覽器插件的形式是不是就能覆蓋大多數(shù)平臺了呢?

最后還有一類是語氣轉換,比如在郵件營銷場景下,某些時候我希望發(fā)送郵件內容的語氣篇商務正式,某些時候體現(xiàn)出友好的,那我就可以提要求讓模型自動轉化郵件語氣,這個語氣轉換功能幾乎現(xiàn)在大部分主流的郵件服務商都在用。

4. 擴展類應用

針對這個功能場景,我之前在做郵件類的AI功能的時候也有涉及過,給一些郵件內容的要點,把它擴寫成一篇完整的郵件內容, 簡單理解就是通過將一個短文本信息通過大模型擴寫成一個長文本信息,open AI在針對這個場景推出了一個參數(shù)叫:Temperature,這個值可以調整擴寫內容的精確度,取值范圍在0~1 ,趨近于0表示模型給的內容更精準,而趨近于1表示模型給的內容更有創(chuàng)造性,根據不同的需求給這個參數(shù)賦值。

三、Coze Bot prompt實踐分享

端午節(jié)前,我在Coze平臺上試圖做一個關于節(jié)日海報生成的Bot,做這個應用也是因為看到了Coze新上了圖片流的功能模塊且正值端午前夕,就想著能不能做一個自動生成端午節(jié)海報的Bot。

應用的實現(xiàn)邏輯大概是這樣的,需要模型按照prompt編寫的執(zhí)行順序從用戶那里獲取幾個信息:節(jié)日名、公司對外二維碼(公眾號二維碼、企微碼)、公司LOGO、企業(yè)聯(lián)系方式,獲取后將這些內容賦值給起初定義好的變量,這里變量是在圖片流中會用到,圖片流中提前搭建好了如何將這些內容組合到一起生成一個海報的方法。

就這一套功能,我大概花了3天左右的時間,最后的結果是勉強能生成符合企業(yè)節(jié)日宣傳需求的海報,當然樣式和canvas、高定設計這種現(xiàn)成的模版沒法比。

成功率大概在10%左右,成功率低的原因是模型有時候會不按照你設置的步驟執(zhí)行,比如這個Bot需要在用戶那里獲取依次獲取四個信息,有時候模型會只獲取兩個就執(zhí)行工作流了,有時候跳步驟執(zhí)行,有時候干脆不執(zhí)行就回答一些沒用的廢話,我之前想過如果把成功率提升到百分之70或以上或許就有一定的商業(yè)價值,但似乎很困難。

我并不清楚是否有更好的prompt的方式能將其成功率提升,但從目前來看模型還沒有達到按照prompt約束的步驟能穩(wěn)定執(zhí)行的地步,甚至當步驟過多時穩(wěn)定執(zhí)行的成功率還很低很低,這或許需要大模型技術后續(xù)的升級和優(yōu)化 ,也需要一些工程化產品化的能力將其解決,有興趣的同學我們可以一起探討。

我一直覺得模型最大的能力在于交互上的革新,將來有一天我們點外賣、訂機票等操作可能不需要傳統(tǒng)的人機交互的形式,取而代之的是語音交互,說可比對著屏幕打字敲擊方便多了。

本文由 @產品蕭書 原創(chuàng)發(fā)布于人人都是產品經理。未經作者許可,禁止轉載

題圖來自 Unsplash,基于CC0協(xié)議

該文觀點僅代表作者本人,人人都是產品經理平臺僅提供信息存儲空間服務

更多精彩內容,請關注人人都是產品經理微信公眾號或下載App
評論
評論請登錄
  1. 目前還沒評論,等你發(fā)揮!