完全基于個人理解的海外產品運營-上線測試

0 評論 784 瀏覽 4 收藏 10 分鐘

本文將深入探討如何進行有效的上線測試,確保每一步都為最終的產品成功貢獻力量。繼續閱讀,了解測試的核心指標、圍欄指標以及三種主要的測試方法,讓你的產品在競爭激烈的市場中脫穎而出。

有了一個自己能夠靈活使用的體系之后,接下來需要考慮的問題就是如何上線測試了,測試的方法看上去很復雜,其實只要理解了核心,理順了思路,測試,易如反掌。

01 核心指標和圍欄指標

首先,測試重點在于要測什么,要測的這一項,就是本次測試的“核心指標”,在測試中要特別注意控制核心指標的數量,一次測試中原則上只有一個核心指標,但實際操作中在特殊情況下允許靈活變通。

比如當一個版本中同時修改了數據備份和磁盤格式化,在兩個點關聯度很低,可以在同一個版本中作為分別兩個不同的核心指標來記錄數據波動情況,并結合后續的數據進行分析。

核心指標的表現往往決定了本次測試的成功與否,它的數據波動也反應了本次修改帶給用戶實際的感受以及對產品最終的影響。

完全基于個人理解的海外產品運營-上線測試

產品上的一個修改影響的往往不只修改點本身,這樣就需要關注更多的次級指標,也就是“圍欄指標”。

雖然不鼓勵這樣做,但在測試的時候確實可以直接將產品最終的收益情況,如轉化率或者平均用戶價值,作為圍欄指標。每次測試中可以有多個圍欄指標,它們可能是與核心指標密切相關的,也可能僅僅是因為在產品中有著重要的地位。

圍欄指標一般并不能直接反應測試結果,但它們對于數據異常記錄,或核心指標波動的說明以及數據支撐方面都是必要的存在。

02 測試方法

確定好了測試測什么之后,就要看具體怎么測了,目前在工作中比較常用的有三種測試方法。

完全基于個人理解的海外產品運營-上線測試

1. 直接上線,前后對比

對于中小規模的產品來說,這種方法可能是最常用的,在日常工作中,使用這種方式往往是因為進行測試的這個產品樣本量有限或者本次測試的重要程度較低。

因為如何嚴謹的按照A/B對比測試進行的話,這些產品所需要的測試時間可能往往會在幾個月甚至幾年,這在實際工作中是不現實的。但這種測試得到的結果其準確程度并不是百分百確定的,因為時間段的不同意味著除了產品本身,很有可能存在著其它的變量。

舉個例子:在圣誕節或者大型促銷季時進行前后時間段對比測試的話,一般來說意義就不大了,因為隨著促銷季的到來,用戶的轉化意愿和轉化能力都有可能出現非常大的變化,這期間的數據波動很有可能并不是產品變化引起的或者數據波動的主要原因并不是產品的變化。

因此,如果使用直接上線,前后對比的方式進行測試,首先要確定這個時間段能不能測試,然后要控制好時間和變量,要收集到足夠的樣本量才能進行計算,避免偶發情況;其次,在測試結束后,仍然需要在一定時間內繼續對數據進行跟蹤,確認測試結果。

2. A/B對比測試

A/B對比測試相對來說是一種更準確的測試方式,即在同一時間分別上線A和B兩個版本,將用戶按照1:1的比例隨機分配給兩個版本,然后觀察A和B兩個版本分別的表現情況。

這種測試方式對參與測試的樣本量是有一定要求的,因為要將所有參與測試的樣本平均分成兩份,如果數據量較小的情況下仍然A/B,很有可能導致測試過程中出現過多的偶發情況;一般來說樣本量越大,測試的結果也就越準確。

在測試前我們可以在專業網站(比如evanmiller.org)上先計算一下所需的樣本量,以此為參考,再對自己需要樣本量做到心中有數。即使我們無法完全達到需要的樣本量也沒有關系,因為可以根據核心指標的表現情況,結合圍欄指標共同進行判斷。

3. 灰度測試

在擔心本次修改會對用戶或市場造成較大的沖擊,無法確定用戶或市場反應時,灰度發布是一個不錯的選擇?;叶劝l布的重點在于如何控制上線節奏,把握用戶比例。一般情況下不提倡邊走邊看,最好是先設定時間段,比如首先計劃好第一周上線30%,第二周提升至上線50%,第三周70%,第四周100%,在比例調整前要注意觀察數據,為比例調整提供充足的判斷依據。

這種測試方式比較特別,如果可以的話,在測試期間需要特別注意收集用戶反饋和評價的變化,可以是被動地等待用戶提交反饋,也可以主動地向用戶詢問意見和建議,然后再根據數據波動和反饋情況,看是否需要進行調整。

03 測試結果

總的來說,測試結果一般有以下幾種:

完全基于個人理解的海外產品運營-上線測試

  1. 若核心指標與圍欄指標皆為正向,且超出預期,則說明需要進行預期管理優化;
  2. 若核心指標與圍欄指標皆為正向,且符合預期,則說明該項目具有實際價值和意義,開啟復盤梳理上線流程,可以推廣至其它產品分別進行測試;
  3. 若核心指標與圍欄指標表現不一致,測試結果存在異常,則需要詳細分析數據情況,如果確有異常,需要找出異常點,進行調整并重新測試,如果是其它原因,也需要對其進行具體分析和調整。
  4. 若核心指標與圍欄指標,或皆為負向,則需要考察具體原因,確定后考慮繼續推進或調整重測或放棄測試進行回滾。

04 特別注意事項

產品測試的坑還是挺多的,這里列出比較重要的幾個點,需要特別注意。

完全基于個人理解的海外產品運營-上線測試

1. 上線驗證

一定一定一定要確認,是不是真的上線了。這一點特別重要!

2. 數據跟蹤

在測試前就要做好相關的信息收集和事件埋點工作,只有數據跟蹤準備充足,拿到了數據,才能得出一個準確的測試結果。

3. 修改點的控制

并不是所有的修改都要進行測試,也并不是一次測試就要把所有的點全修改了拿過來測。一般情況下,修改的點越少,測試的結果越準確。

如果一次修改中修改了幾個相互關聯的點,那么在測試的數據分析中需要格外的慎重,不可輕易下結論。

4. 效果不好怎么辦

上線之前要給測試“留后路”,要提前準備好撤回或者回退的機制。不過,這并不是說有一點風吹草動就要取消測試了,每次測試盡量觀測完整的周期,這個周期長度需要在測試前就確認好,可以是一周或者兩周。

產品運營的主體階段基本就已經結束了,剩下最后的內容就是復盤了,下一篇具體說明一下,產品運營方案上線之后的復盤工作。

作者:吳桐,公眾號:二喵的蠢奴才

本文由 @吳桐 原創發布于人人都是產品經理。未經作者許可,禁止轉載。

題圖來自Unsplash,基于CC0協議。

該文觀點僅代表作者本人,人人都是產品經理平臺僅提供信息存儲空間服務。

更多精彩內容,請關注人人都是產品經理微信公眾號或下載App
評論
評論請登錄
  1. 目前還沒評論,等你發揮!