如何建立人和AI協(xié)同工作中的信任?

2 評論 3593 瀏覽 12 收藏 13 分鐘

隨著技術(shù)的發(fā)展,AI這個“聰明的工具”出現(xiàn)了,它不再是簡單被操作,具有全新的性質(zhì)。那我們今天就來聊聊怎樣建立人與AI協(xié)同中的信任。

一直以來我們都在嘗試更多的利用AI算法分擔(dān)客服的日常工作,比如幫助客服挑選用戶喜歡的商品,或是主動回答一些買家問題。

但是在大促復(fù)盤后卻發(fā)現(xiàn),在客服人員最忙碌的時候,ai相關(guān)功能的關(guān)閉率反而上升了,很奇怪對吧。我們訪談了一些客服,收集了一些比較共性的聲音,“不是自己配置的,不放心” “有時候發(fā)錯,耽誤事” ,諸如此類。

看得出來客服不太信任這些有AI介入的功能,所以今天我們就來聊聊怎樣建立人與AI協(xié)同中的信任。

Part 1:為什么人與AI的信任關(guān)系這么重要?

隨著技術(shù)的發(fā)展,AI這個“聰明的工具”出現(xiàn)了,它不再是簡單被操作,具有全新的性質(zhì)。

1. 【黑盒性】工作原理不再能被簡單理解

ai這個“工具”的工作原理正在變?yōu)楹诤?,和普通?yīng)用軟件直觀的輸入-輸出過程相比,普通人越來越難以真正明白AI在“想什么”。

下圖是卷積神經(jīng)網(wǎng)絡(luò)系統(tǒng)原理圖,常用在自然語言處理中,我也看不懂,放這兒意思意思。

2. 【平等性】在合作中的地位逐漸提升

傳統(tǒng)的工作流是以人為主,操作“工具”為輔。但隨著ai的能力提升,讓人和“工具”更接近平等的合作伙伴,雙方都互有訴求。

3. 【滲透性】全方位的介入日常工作生活

普通的一天:起床,用siri查詢天氣。出門,用地圖app查看路線?;丶?,網(wǎng)站根推薦視頻和游戲。AI以生活助理,路線規(guī)劃,內(nèi)容推薦,玩伴等各種方式,越來越多的融入我們的日常,成為不可缺少的重要一環(huán)

面對這個看不透又離不開的伙伴,信任就變得前所未有的重要。

Part 2:怎樣建立和強化信任?

從信任的產(chǎn)生機制入手,因不同的產(chǎn)生原因,信任可以分為三種:

(1)威懾性信任:通過懲罰類的手段強制各參與方產(chǎn)生信任的機制

常見案例:商業(yè)合同,基于法律的權(quán)威讓簽署雙方互相信任。

(2)技術(shù)性信任:通過技術(shù)手段使各參與方產(chǎn)生信任的機制

常見案例:大眾點評,通過第三方(老顧客)提供的信息,幫助新顧客和店鋪互相信任。

(3)了解性信任:基于參與各方之間深入的了解而產(chǎn)生信任的機制

常見案例: 社區(qū)無人小店,基于鄰里之間的深入了解(如工作單位)而產(chǎn)生的自助商業(yè)模式。

在實際情況中,由于威懾性和技術(shù)性信任都是基于客觀共識,所以起效速度快,可以用來快速建立信任。了解性信任需要大量信息和個人判斷,只能逐漸起效,但是對比前兩種信任,信任程度會更深,所以可以在后續(xù)過程中使用。

Part 3:實踐落地

總結(jié)以往的案例,會發(fā)現(xiàn)技術(shù)性和了解性信任相結(jié)合的手段效果通常不錯。他們起效時間互補,信任程度還能不斷加深。而威懾性信任,想什么呢,還想威懾用戶不成?

常見的人-AI的交互過程大致可分成“接觸—提供原始信息—獲得處理結(jié)果”3個節(jié)點:

我們總結(jié)了各個節(jié)點中,一些常用的提升信任感的設(shè)計技巧,在下文中結(jié)合案例進行說明。

節(jié)點1. 接觸

在這個節(jié)點,用戶面對陌生的ai工具,常常僅憑第一印象決定是否嘗試,為了讓用戶快速形成正向認(rèn)知。

常見的可以采用以下幾個手段:

1.1 合理使用第三方評價/成功案例等手段,快速建立可信的第一印象

這個很好理解,有第三方背書的產(chǎn)品總是看起來靠譜一些,畢竟有先行者探路,只要跟著用就好了。

DO:曉多客服機器人的案例中,通過行業(yè)龍頭和政府客戶的案例,給瀏覽者快速建立了可信,可靠的印象。

1.2 借助相似的現(xiàn)有認(rèn)知,幫助用戶了解AI

介紹一個完全陌生的對象通常比較困難,而如果合理借用現(xiàn)有認(rèn)知,則可以相對容易一些,例如家具廣告使用“家具中的勞斯萊斯”這樣的說辭,借用用戶對勞斯萊斯品牌的固有認(rèn)知,來傳達自己產(chǎn)品的高級感。

DO:常見的助理類AI,通常借用“家庭助手”“生活助理”“專屬秘書”這樣的現(xiàn)有心智,快速傳達本身全能,聰明,可靠的能力預(yù)期。

1.3 介紹AI的能力而非技術(shù)

復(fù)雜先進的技術(shù)讓AI有能力完成日常任務(wù),但是在用戶看來,技術(shù)深澀且沒有感染力,理解困難,并非核心關(guān)注點,如果一味的介紹技術(shù),用戶很容易失去興趣。

DO:Google? Assistant的官網(wǎng)首頁,借用生活中常見的場景讓用戶快速明確的了解AI能力,而背后復(fù)雜的IOT,語音識別,近遠場聲音捕捉等技術(shù)等都被隱藏了起來。

DONT:相比之下,天貓精靈的官網(wǎng)首頁做了大量的性能數(shù)據(jù)列舉,用戶對產(chǎn)品能力了解不夠,感染力就弱了很多。

1.4 讓用戶了解ai的真實能力邊界和影響范圍,建立合理預(yù)期

現(xiàn)有技術(shù)條件下,AI的真實能力有限,一味夸大會讓用戶建立過高的預(yù)期,最終在使用過程中流失,因此,需要讓用戶了解AI的真實能力邊界,在部分嚴(yán)謹(jǐn)?shù)氖褂脠鼍爸?,這一點尤其重要。

節(jié)點2. 主動/被動的提供原始信息

在這個節(jié)點,需要用戶主動或被動的提供原始信息以進行后續(xù)加工,為了讓用戶放心,情愿的提供數(shù)據(jù),可以采用以下手段:

2.1 說明數(shù)據(jù)來源和去向,增加ai的透明度和可信度

當(dāng)希望用戶提供信息時,可以通過解釋數(shù)據(jù)來源,可能的用處等,增加AI的透明度和可信度,例如我們需要用戶提供地理位置,搜索記錄等隱私信息時,就需要著重說明對這些信息的保護措施,打消用戶的顧慮。進一步也可以引導(dǎo)用戶提供更多的信息,帶來更優(yōu)質(zhì)的結(jié)果。

2.2 闡述對原始信息的要求,增加用戶使用的成功率

AI對原始信息通常有一定要求,如語音信息需盡量避免方言,采用常規(guī)語法,地理位置信息要求相當(dāng)?shù)木?。讓用戶了解這些隱藏的要求,能夠很大程度增加用戶使用的成功率。

當(dāng)下chatbot的能力還無法支持用戶天馬行空的提問和千奇百怪的問法,為了保證較好的使用效果,可以主動引導(dǎo)用戶在固定范圍內(nèi),使用規(guī)范問法提問。

DO:Siri主動引導(dǎo)用戶學(xué)習(xí)chatbot的問題/問法。

DONT:讓用戶隨意提問,但實際上無法應(yīng)對,實際使用體感較差。

節(jié)點3. 獲得處理結(jié)果

在這個節(jié)點,用戶獲得了經(jīng)ai加工后的數(shù)據(jù)結(jié)果,可以使用以下手段,提升用戶對結(jié)果的接納度。

3.1 簡述運作原理,讓用戶了解其行為和處理結(jié)果的關(guān)系

讓用戶盡量了解系統(tǒng)的工作原理,在用戶操作后進行解釋是最好的時機。無論AI的處理結(jié)果是否和用戶預(yù)期一致,解釋“為什么”都能夠更容易的獲取用戶的信任。

Do:各類搜索結(jié)果,通常都會包含一定程度的解釋。

3.2 提示可能包含的偶發(fā)風(fēng)險

當(dāng)場景比較特殊時,需要明確ai的限制性,并且向用戶作出解釋。

Do:在路線規(guī)劃的場景中,由于路況信息復(fù)雜,信息獲取受限,需要提示用戶考慮偶發(fā)情況。

3.3 提供優(yōu)化處理結(jié)果的方式

因為現(xiàn)階段的各種限制,ai輸出的結(jié)果往往不盡如人意,若長期無法優(yōu)化,就會失去用戶的信任,最終流失。為了解決這一問題,可以嘗試讓用戶了解其可以通過某種途徑逐漸優(yōu)化結(jié)果,保持信任

Do:某chatbot,管理員可以在后臺主動優(yōu)化答案。

Do:推薦算法通過“喜歡” “不喜歡”,用戶能主動參與答案優(yōu)化。

Do:配置ai對話能力時,用戶能夠主動測試并優(yōu)化回答。

寫在后面

通過以上這些手段,可以幫助人和ai之間建立相對穩(wěn)固的信任關(guān)系。但是在實際設(shè)計過程中,也要注意整體節(jié)奏的把控,一次性要求用戶徹底的信任常常適得其反,引導(dǎo)用戶逐步提升信任度會是比較穩(wěn)妥的方式。

 

本文由 @閑鄰張 原創(chuàng)發(fā)布于人人都是產(chǎn)品經(jīng)理。未經(jīng)許可,禁止轉(zhuǎn)載

題圖來自Unsplash,基于CC0協(xié)議

更多精彩內(nèi)容,請關(guān)注人人都是產(chǎn)品經(jīng)理微信公眾號或下載App
評論
評論請登錄
  1. 666

    來自浙江 回復(fù)
  2. 簡直是及時雨,正想找人與機器產(chǎn)生信任相關(guān)的資料呢

    來自上海 回復(fù)