體驗科普 |「順序效應」會影響NPS得分嗎?

0 評論 1174 瀏覽 2 收藏 16 分鐘

在工作和生活中,有時說話對象的說話順序不同,會很大程度上影響人們的判斷,這就是“順序效應”,這類“順序效應”也出現在了問卷調查場景中。那么,“順序效應”會影響NPS得分嗎?一起來看看作者的解讀。

試想一下,當你辛辛苦苦排了一個小時的隊進到餐廳,坐下正準備點你最愛吃的宮保雞丁時,服務員跟你說:

“我們的招牌菜是蒜蓉粉絲蝦,今天打8折?!?/p>

“宮保雞丁已經賣完了?!?/p>

你會不會很失落,甚至有點想換家店吃?

但如果將這兩句話的順序調換一下,你的情緒和想法會有所變化嗎?這會不會讓你產生“失而復得”的感覺,幫助沖淡一些“壞消息”帶來的沖擊?

研究告訴我們,說話順序不同,的確會影響人們的想法和判斷,也就是順序效應(Order Effects)—— 一種事物呈現的順序會影響人們判斷的現象,它出現在我們生活當中的很多方面。

問卷調查中同樣也存在順序效應。一些研究發現,問卷中某些題目或選項的排列順序會對受訪者的答案產生影響。

那么,具體都有哪些題目會受到順序效應的影響?在測量經典體驗指標NPS(凈推薦值)時,NPS題目在問卷中出現的先后順序又是否會影響人們打分的最終結果?本篇文章讓我們來共同探討一下。

一、為什么順序效應會出現在問卷調查當中?

在問卷調查中出現順序效應的原因,有以下兩種可能:

  1. 在填答問卷時,受訪者受到前面題目的“引導”,繼而對后面的填答造成了影響;
  2. 受訪者希望在問卷調查中保持答案的一致性(至少看起來一致),并避免“認知失調”。

認知失調(Cognitive Dissonance)闡述了人的態度變化過程,認為個體對事物的態度和行為間應該是一致的,如果不一致就會產生認知失調,并會導致心里緊張,人就會通過改變認知或行為來重新達到平衡。

也就是說,如果受訪者在填答問卷時,對某一看法非常認同,即使他們本身并不那么認同另一個問題,順序效應可能也會促使他們認同。更微妙的是,一些負面或正面的問題措辭,也會使受訪者產生不同的想法,從而影響他們的答案。

美國社會學家霍華德·舒曼和斯坦利·普雷斯特在其著作 Questions and Answers in Attitude Surveys 中指出,順序效應在問卷中的出現次數不算普遍,但已經有足夠的實例表明這種現象并不罕見。

二、總體-具體問題順序效應

為了更深入地了解問卷中的順序效應,我們可以先了解它的一種表現形式——總體-具體順序效應(General-Specific Order Effect),即總體問題(如“你對你生活的總體滿意度如何?”)與具體問題(如“你對你的婚姻/工作滿意度如何?”)之間的先后順序會對題目的相關性平均得分產生影響。

相關性是指2道題目之間的關聯程度;而平均得分是指該道題目分數的平均值。

2012年,在美國心理學教授塞斯·卡普蘭的研究中,通過在兩組調查中(分別為美國6000名軍人的總體滿意度分析和88位普通職工的工作滿意度分析)將總體問題和具體問題的順序進行調換,他發現,當總體問題排在具體問題的前面時,題目的平均得分較低,但相關性較高。

上述調查的總體問題為“你對你工作的總體滿意度如何”;具體問題為“請給你的工作時長進行滿意度打分”。

而在另一項由市場研究教授Seigyoung Auh負責的研究(針對191名客戶對他們理發師的滿意度調研)中,他們發現,當把詢問總體滿意度的題目放在問卷最前面時,題目的平均得分會更低(約6%)。

但是,如果把具體題目(如“您在多大程度上同意‘我的理發師技藝非常高超’這句話?”)放在總體題目(如“您在多大程度上同意‘總體來說我對我的理發師很滿意’這句話?”)的前面時,總體題目的得分會更高,因為這樣的排序可能會使題目具備更高的相關性。如果調查領域是涉及電腦或者一些昂貴的家用電器,建議先問具體題目,再問總體題目,這樣的話會讓答題者感到更自然流暢。

雖然上述兩項研究得出的結果不盡相同,但都證明了順序效應是確實存在的。

三、NPS問題的順序效應

現在,針對“客戶體驗的順序效應”的研究還不是很多,例如哲學教授詹姆斯·劉易斯早前研究了順序效應對可用性態度的影響,但在SUS、UMUX和CSUQ這三類問卷當中并沒有發現明顯的順序效應。

  • SUS ——系統可用性量表
  • UMUX ——用戶體驗的可用性指標
  • CSUQ ——電腦系統可用性問卷

在NPS方面,至少有CX專家Adam Ramshaw的一份研究報告可以證明,相較于在問卷后期提出NPS的相關問題,當NPS問題出現在問卷前期時,分數會更高。但該報告并沒有給出具體數據表明,會造成多大程度的影響。

同時,在包含NPS問題的SUPR-Q問卷中, UX專家赫弗南發現,如果在完成其他7道SUPR-Q題目后,再向受訪者提問NPS的相關問題,最終得到的NPS分數會下降。但目前還不清楚,這種影響是一頁一題的呈現模式導致,還是網絡調查的高流失率引起的。

SUPR-Q問卷,即Standardized Universal Percentile Rank Questionnaire(標準化用戶體驗百分等級問卷),用于評估網站的感知可用性,考察維度包括可用性、可信度、外觀及忠誠度。一般包括以下7道題目:

  1. 網站使用起來很簡單
  2. 網站內導航清晰
  3. 我感覺從該網站上購買東西很放心
  4. 我有信心從該網站發展自己的業務
  5. 網站設計非常吸引人
  6. 網站介紹簡潔明了
  7. 我未來還會再次登陸這個網站

因此,關于NPS是否會受到順序效應的影響,我們還需要進一步探究:

研究1:NPS問題的先后位置會影響其最終得分嗎?

2018年11月,杰夫·索羅博士(以下簡稱博士)對2674名受訪者進行了在線調查。博士先讓受訪者回想最近推薦過的產品或服務,接著又詢問了他們向朋友或同事推薦這一產品或服務的可能性有多大。下面,我們將這類與“推薦可能性”相關的問題統稱為NPS問題。

博士將NPS問題出現的位置設置為研究的自變量,出現的位置分別在問卷的前期(在40道題目之后)或后期(在72道題目之后)。為此,博士創建了多組問卷,每批受訪者將交替看到在不同位置出現的NPS問題。

結果發現,調整NPS問題出現的先后位置并不會產生順序效應:

1. 通過計算兩組的NPS平均得分,得出兩組的分數分別為8.8和8.9,兩組之間僅有0.1分的差異,且無統計學意義(P=9)。

P值代表概率,反映某一事件發生的可能性大小。統計學根據顯著性檢驗方法得到P值,P值越小,統計學差異越顯著,一般認為P<0.05 有統計學差異。

2. 在統計受訪者每個選項得分的數據時,各個選項的NPS得分的百分比也非常接近(如下圖所示),這表明其他選項的得分也沒有受到影響。

圖:兩組的NPS選項得分統計表

為了進一步探究,博士還統計并比較了亞馬遜、沃爾瑪、易貝、塔吉特、Spotify和Hulu這6家企業的NPS得分,而后發現,當NPS問題出現在問卷前期時,一半企業的NPS值較高;而當NPS問題出現在問卷后期時,另一半的企業得分較高。也就是說,基于NPS問題出現的時間,沒有統計學差異,甚至沒有可辨別的模式(如下圖)。

圖:各公司的NPS得分統計表

研究2:在SUPR-Q問卷中,NPS問題的先后位置會影響其得分嗎?

在另一研究中,博士探究了SUPR-Q問卷中NPS問題的先后位置對其分數的影響。

研究收集了501名受訪者的數據(2018年10-11月),受訪者被要求先在6個財經網頁和6個餐飲網頁中隨機瀏覽一個,然后完成7道SUPR-Q類型的問題和1道NPS問題。

8道問題會同時出現在同一頁面上(如下圖),但在12個網站中,接近一半的受訪者看到的題目順序會被調換。也就是說,有一半的受訪者看到NPS問題出現在問卷的前面,另一半的受訪者會看到NPS問題出現在問卷的后面。

該圖片由體驗家XMPlus翻譯

研究發現,兩組NPS的平均得分幾乎相同(NPS在前的得分為8.26,NPS在后的得分為8.25)。除此之外,其他7道SUPR-Q題目的平均得分也沒有差異(SUPR-Q在前的得分為4.25,SUPR-Q在后的得分為4.28,P=641)。

NPS問題的順序對相關性的影響

在某些情況下,研究人員希望從SUPR-Q題目中預測用戶的NPS得分(例如從網站的可用性和可信性分數來預測NPS得分),以此來觀察相關性是否會因為問卷題目的不同呈現順序而產生不同的影響。在這次研究中,博士得出了一個新發現:

當NPS問題在問卷的前面(開頭的位置)時,比它跟在7道SUPR-Q題目的后面具有更高的相關性。數據顯示,在5道題目中,當NPS問題在其余4道題目的前面時,調整后的R方為40.2%;而如果NPS問題跟在其余4道題目的后面,調整后的R方就下降為32.6%。

R方(R-squared)是一種衡量相關性的指標,一般用于回歸模型中來評估預測值和實際值的符合程度。調整后的R方(Adjusted R-squared)同時考慮了樣本量和回歸中自變量的個數的影響,較R方的測算更為準確。調整后的R方越大,表示模型擬合度越好,可解釋程度越高。

這個數據表明,當態度更加寬泛的總體題目首先出現在問卷時,其相關性更高。

四、研究要點和總結

在本期文章中,我們回顧了一些問卷中的順序效應的相關文獻,還就杰夫·索羅博士的兩項針對NPS題目順序的在線實驗進行了探討,經過總結,我們發現:

1. NPS得分不受順序效應的影響

在不同的網頁、產品或服務的問卷調查中,無論NPS題目是在問卷的前面還是后面,它們的NPS平均得分以及分數的分布幾乎是相同的。

2. 順序效應使相關性存在差異

當NPS題目放在了SUPR-Q題目的前面時,調整后的R方可以增加約7%,即相關性更高。但博士認為,這些SUPR-Q題目并沒有指明具體的屬性(如定價或某項具體功能),態度更加廣泛,因此可以解釋結果的部分差異性。

3. 順序效應真實存在,但很難預測

很多研究已經表明,順序效應是真實存在的,但尚未清楚順序效應什么時候會出現、以及會造成多大程度的影響。

4. 順序效應受到多因素影響

根據一些已發表的文獻,問卷主題、上下文語境及題目順序的調整都可能產生不同類型的順序效應。

在博士的第一項研究中,第一組將40道題目放在了NPS問題的前面,第二組更是將72道題目放在了NPS問題的前面。這樣一來,順序效應有可能因為題目的數量較多而被削弱影響,又或者是被其他問題所掩蓋,也可能是受訪者對推薦的態度不太容易受到題目順序的影響。

未來在開展順序效應的研究時,需要盡量分離出這些影響,同時也需要更多的研究數據去判斷是否存在這些影響。

參考資料:

  1. Does Changing the Order of the NPS Item Affect Results?
  2. 什么是順序效應(order effect)?
  3. 順序效應(A+醫學百科 )
  4. 問卷設計|問題選項的順序效應
  5. [科普中國]認知失調理論
  6. Net Promoter Score Benchmarks: Don’t Waste Your Time On External Data
  7. 15 種國際可用性測試經典量表(一)
  8. 統計學中的“P”值是什么意思
  9. R方(R-squared)
  10. 【回歸分析】R、R平方與調整后的R平方

作者:何嘉欣、金子淇;編輯:樊佳瑩

本文由 @體驗家XMPlus 原創發布于人人都是產品經理,未經許可,禁止轉載

題圖來自 Unsplash,基于 CC0 協議

該文觀點僅代表作者本人,人人都是產品經理平臺僅提供信息存儲空間服務。

更多精彩內容,請關注人人都是產品經理微信公眾號或下載App
評論
評論請登錄
  1. 目前還沒評論,等你發揮!