AI應用“Hello World” | 發現AI智能應用配置越來越好玩了

0 評論 877 瀏覽 3 收藏 18 分鐘

自從各個大模型廠家發布智能體之后,AI應用的上手難度一下子降低了很多。本來之前還因為提示詞和AI幻覺的問題使用頻率不是那么高,而現在coze的相關功能,讓我們能放心配置智能應用了。

去年底到今年初參加AI類的課程學習后,一直處于觀望狀態。一方面是已很久沒有在技術層面工作,沒有特別好的商業化方向情況下,狠不下心深入鉆研Coding。另一方面,去年年中那會兒,各平臺陸續推出一些可以定制化智能應用的平臺能力,但在試用后發現靈活性都很不好,常見的就是Prompt以及一些基本接口對話參數(如:temperature)的優化配置能力。試了之后發現寫Prompt確實有些有趣的地方,幾句話的輸入相較于以前寫大段的判斷、循環邏輯代碼,效率似乎一下子提升不少。但也真是感受到寫Prompt非常挑戰,因為目前流行的LLM實際為對下一塊輸出進行預測的系統,如果是編制一段冗長的Prompt,從輸入到輸出的不確定性著實太強,牽一發而動全身。

或許這也是為什么在那個階段,盡管很火,但大模型主要應用也還是在單點的文本生成、提煉總結以及基于知識庫的人機對話的原因。

除此之外,即使到目前似乎也還沒見到除了ChatGPT外,脫離底層Coding可以商業化得比較好案例,沒有看到這個領域里耀眼的“Killer Application”。

一、Coze初探,看到了更多靈活性

知道Coze也是去年底,某老師介紹了一下Coze尤其是它自動優化人設Prompt的功能比較好用。不過當時好像在國內還沒辦法很好地使用。一轉眼半年過去了,上周再一接觸Coze,發現有了很多很棒的能力,國內也可以方便的接入了,無論早些時候上線的工作流、數據庫,還是最近上線的“多Agents”,或者日趨豐富的“插件”,如:搜索新聞咨詢的“頭條新聞”,查找電影信息的“燈塔”,從圖片中提取文本信息的“Simple OCR”,還有“墨跡天氣”、“飛常準”、“獵聘”、“高德地圖”等等。

讓我一下子想到了當年:

  • Java迎來三方類庫的爆發
  • 手機端迎來Android開發生態

它就好像

  • 原本只能一頁頁作圖的PPT突然增加了操作便捷的動畫功能
  • 原本只能一個個分析只能基于底表計算的Excel突然增加了透視圖

舉個例子它有多快以及多好玩:就在剛剛我搜索到剛發布不久的插件“栗子看板”,通過創建一個Bot,添加“板栗看板”插件,輸入一個人設請Coze給優化一下,然后測試了一下插件給的Demo:

發送給機器人

我們做SaaS軟件需求開發,請幫我設計一個需求管理看板。

機器人回復:

打開“修改看板”鏈接就可以看到一個配置好的看板:

說實話,其實仔細看能看出來,輸出并不夠理想(還沒試過別的LLM底座),不過這個從搭建Bot到生成看板的速度(我大概只用了5分),可看到還是很有潛力。

去年底僅僅只有Prompt和一些對話參數可以定制化的時候,我并不相信在這個階段,如果不給配置層提供足夠的確定性而僅僅依賴Prompt,應用層配置機器人能翻得出太大的浪花。因為知乎AI課程里老師的一句話,我很是認同,也有一些自己的理解,這句話大概是這么說的“我們要把AI當人看”。我們會遺忘、會曲解、會陷入由自己已知的信息的封閉世界里,而我覺得AI也是。

計算機程序提供的確定性正是在這最近幾十年幫助我們工作生活越來越高效的有利武器。所以當下我認為很多可以有效的幫助我們生活提效應用還是離不開邏輯上的確定性的。這就又回到了把“AI當人看”的邏輯,如果AI類似人,它就很難一下子記得住超級復雜的文字化的流程、機制、要求,甚至還有圖片、數據留存和更為復雜的聯網檢索操作,然后還非常好的去平衡好這里面的沖突去巧妙的實現我們的指令和需求。這不僅對LLM,對編寫Prompt的人也是極大的挑戰并擁有極大的不確定性。這是我看到去年情況下AIGC很難高效產出Killer Application來支持生活工作中很多事務,釋放人力的原因。簡單總結就是:

先前的Bot配置項太少,僅僅是一個Prompt和幾個對話參數,很難讓一個Bot高質量的幫助我們完成許多“非創意”類的工作、生活的提效。

那最新的Bot配置平臺是怎么解決這個問題的呢?以Coze為例,如上一節所述我們看到除了簡單的Prompt,還提供了工作流、知識庫、插件、數據庫、甚至多Agent能力。在我看來:

  • 引入“工作流”就像給Bot引入了“SOP”
  • 引入“插件”就像給Bot引入了“工具庫”
  • 引入“數據庫”就像給Bot引入了“長期記憶”
  • 引入“知識庫”就像給Bot引入了“關鍵的決策參考消息”
  • 最牛的是引入“多Agent”就像組建了一個Bot團隊,除了可以構建一個更為復雜的Agent面試團隊在同一個面試中從不同專業領域、管理領域進行發問,同時還可以有Agent扮演情緒觀察者的角色時刻關注面試人的情緒以及時的提醒面試官給予鼓勵或答疑,而面試結果如何我們也可以再設一個Agent專門負責。多Agent的另外一個好處應該說繼承了軟件研發里解耦合專業分工的邏輯,以我目前的認知水平來看,它的確會為Bot的調試帶來更高的確定性,減少單Agent的人設Prompt牽一發而動全身的風險。

就像現實生活中復雜工作往往也是多人完成一樣。

二、似乎有一個做智能應用層的“藝術家”的機會

最近試過了Coze一些相對深度的功能,突然后知后覺的感到這就像是給了我們一個在AI應用層做“藝術家”的機會。

就像軟件架構師在底層各種網絡架構、軟件架構、組件框架分層和編程模式方面,結合需求,享受著代碼的藝術。

又像Excel的數據分析大師,借助各種統計分析方法論,結合Excel中各種組件功能,結合需求享受著分析的藝術。

又像PPT大牛,手握各種呈現樣式、色彩搭配、動畫組合,結合需求享受著把枯燥內容鮮活化的呈現的藝術。

目前粗淺的認為,類似Coze這樣的AI應用搭建平臺,正給我們提供了一個結合用戶需求,通過組合設計各類Propmt,Agent協作模式,插件和工作流設計的一個藝術方向。

三、變與不變

突如其來的新技術、功能變化一下讓人應接不暇,陶醉在嘗試各種變化的小功能中一下反而讓自己找不著北。到底這些新功能怎么給我們帶來具體的價值呢?

仔細一想,發現問題似乎也并沒很難,其實目前這個變化還沒有天翻地覆到顛覆原有用戶需求驅動的邏輯。而我認為用戶需求出發這就是到目前為止那個不變的部分。那在這個邏輯底下原本一些場景的用戶需求分析的基本方法就還仍然適用。我想如下之前做產品或效能提升類工作時所使用的機會點探尋邏輯還是用得上的:

看著圖上要素有點多,其實邏輯還是非常簡單的,就是產品領域常說的產品市場匹配(PMF:Product-Marketing Fit)。這里把“市場”更為具象化為實際工作,拆工作流的目的是為了細探真正的有價值的痛點,而“產品”因為本次的變化主要來自技術革新,因此就從新技術的特性出發去看智能應用這個新技術的特性可以去“匹”配到什么樣的工作痛點。最終幫助我們完成技術驅動的新產品機會點探索。

四、用項目管理領域打個樣

邏輯不難理解,不過sample還是需要的,這里以項目管理工作者角度快速舉個例子(但不夠完善),看看上述邏輯是如何完成的。說實話即使是身在項目管理工作多年,想要想到一個相對落地又能真正達到效率提升的機會也并不是很多,雖然LLM有了文本理解力,但目前很多項目管理經驗、環境信息(如干系人的風格,組織氛圍,企業戰略)并沒有顯性化或者明文化,使得不可能讓AI做出較為完整和正確的決策與建議。但好在例如關于提煉規整會議紀要這類工作因為LLM的出現,正在從原來的不太可行或高成本逐漸轉變為可行。相信隨著LLM的進一步完善及插件的豐富,至少在工作生活提效或者提質量上還是大有可為的。圖中“項目管理面試對練機器人”或許就是一個例子。

圖:從工作模塊到產品機會點分析的一個小Sample,非正式版

五、我的Coze “Hello World”-項目通識答

不能光說不練,自然也要做一做,以下就是上周跑的一個Coze “Hello World”。

是一個邏輯很簡單的基于公眾號文章作為知識庫的項目管理通識問答機器人(僅做Demo,還不完善)。

1. 效果

2. 設計

  • 它的目標的:在我的公眾號以公眾號的知識為主、互聯網搜索為輔提供簡單的項目管理通識介紹服務。
  • 它的運行邏輯是(通過Prompt而非工作流實現):以公眾號的知識為主、互聯網搜索為輔提供簡單的項目管理通識介紹。
  • 它主要運用了Coze的以下幾個能力:
  1. 單Agent配置-“人設與回復邏輯”
  2. 插件
  3. 知識
  4. 接入微信公眾號

3. 關鍵配置

人設與回復邏輯:通過初擬一句話描述,然后使用Coze的提示詞優化功能優化,之后再參考其它優秀提示詞的一些做法進行完善。然后結合運行邏輯的設計進行調整。本次整個過程預計耗時15分鐘。

# 角色
你是一個專業的項目管理知識整理專家,能夠通過深入研究知識庫現有內容及通過搜索引擎搜索,精準且全面地解答用戶關于項目管理通識類的問題。

## 技能
### 技能 1: 解答常見問題
1. 當用戶提出項目管理通識類問題時,首先分析問題核心。
2. 運用知識庫獲取準確全面的信息進行回答,如果知識庫無相關信息則通過插件進行互聯網搜索,針對知識庫和搜索引擎返回的內容,優先選用知識庫內容進行回答。
3. 以清晰易懂的方式回答問題,回復示例:

– ?? 您的問題: <用戶提出的問題>
– ?? 大模型的答案: <詳細且準確的回答>

### 技能 2: 知識梳理
1. 對于復雜的項目管理知識,能夠進行系統梳理和總結。
2. 以結構化的方式呈現,如使用列表、圖表等。

## 限制:
– 只解答與項目管理通識相關的問題,拒絕回答無關話題,并告知用戶可以提問與項目管理相關的問題。
– 所輸出的內容必須按照給定的格式進行組織,不能偏離框架要求。
– 答案應準確、清晰、簡潔,避免冗長和復雜的表述。
– 如果知識庫和搜索均沒有相關較為準確的答案,不要編造知識,承認目前還未掌握,并彈出“www.baidu.com”提示用戶可以進一步在搜索引擎搜索。
– 在每一句答復后面強制備注,備注內容為:“(以上答案為大模型生成,請謹慎使用)”

知識:因為希望借助公眾號的知識進行回答,因此需要定向給AI輸入相關知識,這里就需要用到Coze的知識功能。一開始想用Excel讓信息更格式化一些也便于搜索到內容時可以關聯到對應文章鏈接,但后來發現Excel導入的形式文章內容太長會有截斷。最后選擇了文本格式,且選擇在線數據形式,來導入公眾號文章。

圖:Agent配置的知識配置入口

圖:創建知識庫彈窗

插件:通過使用插件自動添加功能,右上角的“圓A”,然后自己再做一些篩選。部分插件有一些配置項可以設置。

圖:插件

關于綁定到微信訂閱號:

見官方介紹:https://www.coze.cn/docs/guides/wechat_subscription

| 末尾

本公眾號的AI探索之旅,在路上,愿一起共勉。公眾號偏項目管理人士較多,如你對用AI對項目管理提效感興趣想討論,歡迎交流。

作者:Talen;公眾號:良小嘴兒

本文由 @Talen 原創發布于人人都是產品經理。未經許可,禁止轉載

題圖來自Unsplash,基于CC0協議

該文觀點僅代表作者本人,人人都是產品經理平臺僅提供信息存儲空間服務。

更多精彩內容,請關注人人都是產品經理微信公眾號或下載App
評論
評論請登錄
  1. 目前還沒評論,等你發揮!