設(shè)計(jì)效果檢驗(yàn)之道:如何去除其他噪點(diǎn),讓設(shè)計(jì)因素成為唯一的驗(yàn)證點(diǎn)
據(jù)了解,作者的這套設(shè)計(jì)效果檢驗(yàn)方法論已經(jīng)過(guò)了一年多的實(shí)踐,值得一閱。
設(shè)計(jì)效果檢驗(yàn),即針對(duì)設(shè)計(jì)師的設(shè)計(jì)方案進(jìn)行數(shù)據(jù)驗(yàn)證,通過(guò)客觀的數(shù)據(jù)來(lái)量化一部分設(shè)計(jì)方案中較為主觀或存在爭(zhēng)議的地方,以此判斷設(shè)計(jì)方案的優(yōu)劣,從而得出檢驗(yàn)結(jié)論。
眾所周知,每個(gè)人對(duì)設(shè)計(jì)的評(píng)判是主觀的,設(shè)計(jì)效果也不容易被直接量化。所以針對(duì)設(shè)計(jì)效果的數(shù)據(jù)檢驗(yàn)變得很有必要,它可以輔助設(shè)計(jì)決策,沉淀出優(yōu)秀的設(shè)計(jì)案例,并且進(jìn)一步衍化出更好的方案,同時(shí)好的設(shè)計(jì)方法論得以傳承。從長(zhǎng)遠(yuǎn)角度來(lái)看,設(shè)計(jì)價(jià)值得以彰顯,設(shè)計(jì)師的說(shuō)服力得到提升。
同時(shí)我們是在一家商業(yè)公司,好的設(shè)計(jì)除了為用戶帶來(lái)良好體驗(yàn),還要體現(xiàn)商業(yè)價(jià)值。而商業(yè)價(jià)值可較為直觀的從數(shù)據(jù)中體現(xiàn),這也是設(shè)計(jì)效果檢驗(yàn)的目的之一。
那么,如何做好設(shè)計(jì)效果檢驗(yàn)?換個(gè)說(shuō)法,如何去除其他噪點(diǎn),讓設(shè)計(jì)因素成為唯一的驗(yàn)證點(diǎn),從而得到嚴(yán)謹(jǐn)可靠的檢驗(yàn)結(jié)論?且聽我一一道來(lái)。
一、檢驗(yàn)結(jié)論的可靠性
我們先從一個(gè)例子說(shuō)起:
臨近農(nóng)歷春節(jié),設(shè)計(jì)師為所在業(yè)務(wù)設(shè)計(jì)了一套春節(jié)氛圍,并在除夕前幾天發(fā)布上線。節(jié)后觀察數(shù)據(jù),發(fā)現(xiàn)春節(jié)期間頁(yè)面頂部續(xù)費(fèi)按鈕點(diǎn)擊率波動(dòng)上升,相較春節(jié)前提升幅度很大:
因此,我們得出如下結(jié)論:
由于春節(jié)氛圍的設(shè)計(jì)充分渲染喜慶的感覺,用戶被情感化的設(shè)計(jì)所打動(dòng),并轉(zhuǎn)化為實(shí)際的付費(fèi)行為。該設(shè)計(jì)為業(yè)務(wù)帶來(lái)了 XX 倍的數(shù)據(jù)提升,創(chuàng)造了 XX 的收入。后續(xù)氛圍設(shè)計(jì)都可以參考該風(fēng)格。
看完上述結(jié)論后,你有何想法?你覺得它是否科學(xué)可靠?為什么?
OK,相信你們內(nèi)心已經(jīng)有了答案。上述結(jié)論的論證過(guò)程不夠嚴(yán)謹(jǐn),因此結(jié)論也不夠讓人信服,這里列出幾點(diǎn)原因:
- 從發(fā)布時(shí)間看:氛圍恰好在春節(jié)假期上線,流量激增
- 從運(yùn)營(yíng)策略看:春節(jié)是運(yùn)營(yíng)活動(dòng)推廣的高峰期,用戶的消費(fèi)欲被大大刺激
- 從用戶角度看:春節(jié)用戶的消費(fèi)能力更強(qiáng)(年輕人有紅包、工薪族有獎(jiǎng)金)
- 從對(duì)比方式看:數(shù)據(jù)比較應(yīng)該和上一年春節(jié)比(同比),而非和節(jié)前一段時(shí)間比(環(huán)比)
所以,想要得出一個(gè)科學(xué)可靠的檢驗(yàn)結(jié)論,其論證過(guò)程就必須嚴(yán)謹(jǐn)可靠,那有哪些影響因素需要注意呢?
二、檢驗(yàn)結(jié)論影響因素
通過(guò)日常工作中實(shí)踐與總結(jié),我羅列了可能會(huì)對(duì)數(shù)據(jù)可靠性造成影響的因素:
- 時(shí)間因素(周末、月初月尾、節(jié)假日)
- 運(yùn)營(yíng)策略(紅點(diǎn)、新增入口)
- 用戶屬性(身份態(tài)、性別)
- 內(nèi)容因素(內(nèi)容、排序)
- 其他因素(網(wǎng)頁(yè)訪問(wèn)速度)
1、時(shí)間因素
一般來(lái)說(shuō),周末的流量相較于工作日會(huì)更高,用戶有更多的時(shí)間體驗(yàn)產(chǎn)品,所以流量會(huì)提升,因此不應(yīng)該拿周末的數(shù)據(jù)和工作日的數(shù)據(jù)做對(duì)比;節(jié)假日同理,而且節(jié)假日往往伴隨著消費(fèi)能力的變化,正如上面提及的春節(jié),用戶的消費(fèi)能力更強(qiáng);而月初月尾為什么是一個(gè)納入考慮的時(shí)間因素,是因?yàn)?QQ 主要的用戶是年輕的群體,不管是中小學(xué)生或大學(xué)生,月初一般是父母給生活費(fèi)、零花錢的時(shí)候,數(shù)據(jù)也表明月初的營(yíng)收數(shù)據(jù)相較于月尾要更好。
2、運(yùn)營(yíng)策略
運(yùn)營(yíng)策略主要受產(chǎn)品側(cè)的人為影響,例如在 App 中為活動(dòng)推送紅點(diǎn)消息引流,在頁(yè)面中新增運(yùn)營(yíng) Banner 位等,導(dǎo)致流量大漲,數(shù)據(jù)波動(dòng)。從而影響到設(shè)計(jì)方案的數(shù)據(jù)觀察。
舉個(gè)例子,為了縮短操作路徑,產(chǎn)品經(jīng)理與設(shè)計(jì)師溝通在「好友克隆」的詳情頁(yè)里增加了一個(gè)底部按鈕,方便用戶直接在手機(jī)中實(shí)現(xiàn)克隆好友的操作,好友克隆是會(huì)員特權(quán),可以觀察其帶動(dòng)的會(huì)員開通來(lái)檢驗(yàn)設(shè)計(jì)提升效果,發(fā)布后新增會(huì)員數(shù)量走勢(shì)如下:
原本以為這是由于路徑縮短(新增按鈕)所帶來(lái)的轉(zhuǎn)化率提升,但進(jìn)一步了解產(chǎn)品的運(yùn)營(yíng)策略后發(fā)現(xiàn),之所以數(shù)據(jù)上升,還有另外一個(gè)影響因素,即產(chǎn)品在會(huì)員中心頁(yè)面里新增了一個(gè) Banner 位:
所以因?yàn)楫a(chǎn)品策略的影響,數(shù)據(jù)的提升并非完全來(lái)自于新增了一個(gè)按鈕,雖然也無(wú)法忽略其作用。但此時(shí)的結(jié)論已經(jīng)無(wú)法做到嚴(yán)謹(jǐn)可靠了。
3、用戶屬性
用戶屬性即身份態(tài)和性別。性別大家都懂,什么是身份態(tài)?QQ 會(huì)員、超級(jí)會(huì)員、年費(fèi)會(huì)員、過(guò)期會(huì)員這些標(biāo)識(shí)了 QQ 用戶屬性的狀態(tài)就是身份態(tài)。
用戶屬性對(duì)數(shù)據(jù)檢驗(yàn)會(huì)有什么影響?舉個(gè)例子,我們希望橫向?qū)Ρ葍蓚€(gè)活動(dòng)頁(yè)面中開通按鈕的設(shè)計(jì)效果對(duì)轉(zhuǎn)化率的影響,所以準(zhǔn)備了兩個(gè)運(yùn)營(yíng)活動(dòng)的數(shù)據(jù)來(lái)比較:
但上述兩個(gè)活動(dòng)有明顯的性別傾向,如左側(cè)傾向于男性,右側(cè)傾向于女性(而且內(nèi)容不一樣);在手 Q 中男女比例和消費(fèi)能力都不一樣,所以橫向?qū)Ρ炔痪邆鋰?yán)謹(jǐn)性。身份態(tài)同理,針對(duì)年費(fèi)會(huì)員的活動(dòng)數(shù)據(jù),和針對(duì)過(guò)期回流用戶的活動(dòng)數(shù)據(jù)兩者不適合做比較,因?yàn)橄M(fèi)能力不同。
4、內(nèi)容因素
內(nèi)容本身以及它的排序也會(huì)影響數(shù)據(jù),這常體現(xiàn)于列表或運(yùn)營(yíng)位中。舉個(gè)例子,我們希望分析運(yùn)營(yíng)圖顏色對(duì)其點(diǎn)擊率的影響。那么必須確保其內(nèi)容不變(免費(fèi)領(lǐng)10元紅包),同時(shí)排序不變(保持在第一位)。
之所以排序需要特別拿出來(lái)說(shuō),是因?yàn)樽詮挠辛司?xì)化運(yùn)營(yíng)之后,運(yùn)營(yíng)內(nèi)容會(huì)針對(duì)不同的標(biāo)簽用戶來(lái)差異化展示,這必然會(huì)影響到其排序和是否可見。由上圖可分析,運(yùn)營(yíng)圖顏色的改變短期會(huì)刺激用戶的點(diǎn)擊,但從長(zhǎng)遠(yuǎn)來(lái)看點(diǎn)擊率并無(wú)大幅的提升。
5、其他因素
其他因素如網(wǎng)頁(yè)的加載速度越快,用戶操作愉悅感更強(qiáng),更能促成付費(fèi)行為的成功率。改版前后若有頁(yè)面性能上的提升,也會(huì)影響到數(shù)據(jù)的準(zhǔn)確度。
當(dāng)然,要想在一次設(shè)計(jì)效果檢驗(yàn)流程中做到完全規(guī)避上述影響也非易事,這里需要設(shè)計(jì)師和產(chǎn)品經(jīng)理溝通密切,明確目標(biāo),創(chuàng)造條件達(dá)成目的。說(shuō)完影響因素,接下來(lái)說(shuō)說(shuō)怎么樣去規(guī)避這些因素,做好數(shù)據(jù)校驗(yàn)。
三、數(shù)據(jù)檢驗(yàn)方法
簡(jiǎn)單來(lái)說(shuō),檢驗(yàn)方式可以概括為:灰度發(fā)布(A/B Test)和新舊版對(duì)比。
1、灰度發(fā)布
灰度發(fā)布即非全量發(fā)布,一部分用戶體驗(yàn)新版,一部分用戶仍然使用舊版。例如,針對(duì)某個(gè)新的設(shè)計(jì)方案,灰度 20% 的用戶(如 QQ 尾號(hào)是 0、1 的用戶)體驗(yàn)到新的設(shè)計(jì)方案,剩下 80% 的用戶依舊使用的是原有設(shè)計(jì)。這里以 QQ 尾號(hào)為例,當(dāng)然也可以通過(guò)手機(jī)尾號(hào),用戶獨(dú)立 ID 等信息來(lái)控制發(fā)布比例。
灰度發(fā)布包括了 A/B Test。和灰度發(fā)布不同的是,A/B Test 一般針對(duì)兩種不一樣的設(shè)計(jì)方案,均分給兩個(gè)群體的人使用。如針對(duì) A、B 兩種設(shè)計(jì)方案,50% 的用戶(QQ 尾號(hào)為 0-4)體驗(yàn)到 A 方案,另外 50% 的用戶(QQ 尾號(hào)為 5-9)的用戶體驗(yàn)到 B 方案。
使用灰度發(fā)布的好處體現(xiàn)在哪里?它可以確保同一時(shí)間內(nèi),由不具備明顯身份屬性差異的隨機(jī)用戶來(lái)體驗(yàn)同一個(gè)內(nèi)容和排序下不同設(shè)計(jì)方案,規(guī)避了時(shí)間因素、產(chǎn)品策略、用戶屬性、內(nèi)容差異,這種情況下得到的數(shù)據(jù)是相對(duì)精準(zhǔn)可靠的,灰度發(fā)布的驗(yàn)證方式更加有針對(duì)性。
2、新舊版對(duì)比
若沒有條件進(jìn)行灰度發(fā)布或 A/B Test(人力、時(shí)間、技術(shù)等條件不允許),則可以通過(guò)新舊版數(shù)據(jù)對(duì)比。以發(fā)布時(shí)間為分界點(diǎn),進(jìn)行前后數(shù)據(jù)對(duì)比。
灰度發(fā)布確保了單一變量的對(duì)比,而新舊版對(duì)比則可能接受到很多因素的影響,正如上面所列出來(lái)的影響因素。但也是有辦法做到盡量嚴(yán)謹(jǐn)可靠的。
其中時(shí)間因素是影響比較大的,為排除時(shí)間影響,可遵循原則如下:
- 看同比不看環(huán)比
- 看平均值不看峰值
- 時(shí)間段內(nèi)包含的周末數(shù)量一致
- 去掉波動(dòng)大的數(shù)據(jù)
同時(shí)還需注意:我們的原則是每次驗(yàn)證一個(gè)小點(diǎn)(單一變量),若存在多種變化同時(shí)發(fā)終生,則結(jié)論無(wú)法保證嚴(yán)謹(jǐn)。所以多變量是我們?cè)谧鰯?shù)據(jù)檢驗(yàn)時(shí)要規(guī)避的情況。
?四、總結(jié)
為什么要做設(shè)計(jì)效果檢驗(yàn)?在開頭已經(jīng)強(qiáng)調(diào),我們希望數(shù)據(jù)能更多的被考慮進(jìn)用戶體驗(yàn)設(shè)計(jì)流程中,輔助設(shè)計(jì)決策,為業(yè)務(wù)帶來(lái)價(jià)值同時(shí)提升設(shè)計(jì)效率,而嚴(yán)謹(jǐn)?shù)恼撟C過(guò)程可以幫助我們排除其他影響噪點(diǎn),專注于對(duì)比不同的設(shè)計(jì)方案對(duì)數(shù)據(jù)的影響。當(dāng)然,數(shù)據(jù)不是衡量設(shè)計(jì)好壞的唯一指標(biāo),數(shù)據(jù)也不是設(shè)計(jì)的目的。
這套設(shè)計(jì)效果檢驗(yàn)方法論經(jīng)過(guò)了一年多的實(shí)踐,也為我們沉淀了一些較為優(yōu)質(zhì)的設(shè)計(jì)案例,期待未來(lái)與各位分享。
作者:Hahn
來(lái)自:騰訊ISUX
- 目前還沒評(píng)論,等你發(fā)揮!