以 K12 產品為例,說說如何組織用戶內測活動
編輯導語:我們都知道產品會經過不斷的測試,在產品功能上線前,通過招募內測用戶對產品功能進行先行體驗測試,對于實際上線后的產品質量會有一定的幫助;本文作者以 K12 產品為例,分享了如何組織用戶內測活動,我們一起來了解一下吧。
在產品功能上線前,最后的環節一般是由測試同學撰寫產品測試用例,測試通過后部署上線。
但由于測試同學人力有限,對于用戶的使用場景、設備類型以及網絡情況很難做到全面模擬,難免有所疏漏;遂在產品上線前增加小規模的用戶內測環節,對于提高上線后的產品質量,減少 Bug 出現的風險,會有一定的幫助。
那么,如何去組織一場用戶內測活動,需要注意的點都有哪些?通過這篇復盤文檔,我們從0開始梳理這些問題。
01 回顧目標
回顧歷次的用戶內測活動,目標一共可以分為以下三種:
1)暴露未測試到的 Bug
如果產品涉及比較大的更新,例如上線全新的功能或是更改大范圍的程序代碼,此時就需要重點關注在測試過程中出現的 Bug 數量和 Bug 類型,關注是否有影響用戶使用的問題出現,以及出現的頻率;然后再依據問題的類型和數量去判斷優先級,對接產研同學去修復問題,保證最終上線的質量。
2)預知產品上線后可能的風險
通過內測活動,我們需要模擬更多接近真實的使用場景,從而去發現隱藏其中的問題,也可以通過對內測安裝包的數據埋點,拿到該功能一部分的用戶使用數據,從產品研發的角度,去預知產品上線后可能的風險,從而進行規避,做好應對方案,提升產品的穩定性。
3)收集用戶的反饋
內測活動是產品和用戶進行溝通的好機會,我們可以借此機會收集用戶對于產品和功能的建議或評價,當然不一定局限于每次的重點測試功能,用戶對于產品全局的意見統統可以收集,作為后續產品迭代的參考。
02 回顧過程
在確定一場內測活動的目標后,在活動流程中有哪些需要關注的點呢?我從以下5個方面分別來整理一下。
1)人員招募
拿我之前組織過的幾次活動來說,因為產品的類型是 K12 學生用戶,主要集中于小學年級。
如果直接招募小學年級的學生作為測試用戶,一是會影響學生的學習進度,另外如果出現比較嚴重的產品質量問題,會不利于產品形象的塑造;所以,我們將招募的人群屬性定位在小學年齡段的寶媽群體。
那如何去找到這類人群呢?
我們將目標鎖定在了一些正規的兼職群、兼職論壇,通過發布任務信息招募用戶進群,方便進行后續的任務指導;在這個環節我們還發現,經常參加兼職活動的人會有自己的兼職圈,通過向這些用戶借力,可以讓我們的招募進度產生裂變的效果。
我們在人員招募和管理時,選擇了 QQ 群的方式。因為 QQ 群提供了比較完善的群管理和群文件支持,可以在流程上減少我們的人力。
如果產品是非 K12 類的話,也可以通過正式版本 App 內的彈窗提醒,來招募意向參加內測的用戶,引導這些用戶主動下載測試版本的 App,配合反饋活動去引導大家充分測試、暴露問題;但此方法對產品類型、用戶屬性又會有一定的限制,且需要產品研發同學的支持,大家可以按照實際情況進行選擇。
2)活動成本
為了激勵內測用戶更充分的參加活動,我們可以設定一定數量的獎品、獎金等激勵方式,如果是社交屬性比較強的產品,也可以發放站內勛章、稱號等虛擬物品。
激勵方式選擇的前提是要保證大部分的用戶都會喜歡,這樣才可以激發用戶反饋的動力;如果最后的活動獎勵對于用戶來說不痛不癢,那活動的效果可能會大打折扣。
由于我們招募的活動用戶大部分來源于外部兼職論壇,所以我們就采取最直接的方法——獎金,作為激勵方式;獎金發放的標準以參加測試的時長、問題反饋的數量質量為標準,因為所有參與活動的用戶都已經添加到QQ群內,所以我們可以通過群紅包的形式,來節省我們發放獎金的人力。
通過每次內測活動的人數,我們可以預估活動的成本支出,以此來向 Leader 或者合作的業務部門進行報備;另外,因為發放群紅包不能取得發票,所以還需要提前和財稅同學來確定流程的合規性。
3)組織測試
接下來就要開始準備測試了,這個環節也是非常重要的一個環節,會直接決定我們的活動目標是否完成。
首先,我們需要和產品研發同學確認測試版本安裝包的交付時間。在之前的實操過程中,因為已經在報名時建立了活動群,就可以把安裝包發送到群內,引導參與活動的用戶下載安裝。
在安裝過程中需要注意,iOS 用戶需要下載官方測試的 Testflight App才能參加測試,Android 用戶需要在安裝過程中留意手機是否有提醒“跳轉到官方市場安裝、該版本未通過驗證”的提示,需要引導用戶跳過這些提示,確保用戶安裝的是參與活動的版本。
那怎么去引導用戶針對新上線的功能進行測試呢?我這里采取了兩個辦法。
因為是 K12 直播授課類的產品,針對于有關直播才可以測試的新功能,可以協調內部同事通過模擬老師真實的上課情況;在設定好直播時間后,及時的通知內測用戶預留時間參加,然后在直播的過程中引導內測用戶的操作。這里需要注意的是,如果是通過直播引導用戶參與測試,那么要在直播中去描述如何操作、操作產生的結果以及如何去記錄問題,方便后續的問題追溯。
除此之外的非直播課功能,可以通過截圖標記、錄屏或者 gif 圖、流程圖的形式,做一個功能操作的說明文檔,以圖文、視頻的形式去引導用戶操作,從而暴露問題。
4)問題收集
因為內測版本和正式版本的不同,為了避免內測活動對正式版本的反饋數據有影響,所以在問題收集的環節需要選擇一個獨立的收集用戶反饋的入口。
在之前的活動中,我采用的方式都是問卷收集,請參與活動的用戶填寫自己的賬號、遇到問題的時間點以及對應的截圖或者復現錄屏,再配合產品的埋點數據,已經基本滿足定位問題的要求。
收到內測用戶反饋的問題后,要對用戶描述的問題以及問題的緊急程序進行排序整理。為了計算相同類型的反饋出現的頻率,在整理用戶反饋時,除了要將用戶的基本信息(賬號、設備類型等)和反饋信息(問題描述+截圖)進行對應外,還可以將用戶描述的問題以不同類型的詞語代替,以便于最后統計同一問題的量級;對于不理解或者不能確定的反饋內容,需要和用戶進行二次確認,切勿進行推測。
5)后續跟進
在整理完用戶反饋的問題后,可以將文檔發送給負責項目的產品研發同學來進行后續跟進。
在文檔中,針對于用戶反饋的影響使用的問題,需要評估是否屬于 Bug 以及后續的修復計劃;針對于用戶的需求建議,需要評估后續是否需要迭代以及迭代計劃。
03 評估結果
對內測活動的結果分析,有助于我們評估每次活動的效果和質量,有以下兩個維度:
- 活動人數:目標招募人數,實際招募人數、內測版本安裝人數、問題反饋的人數;
- 反饋質量:活動總反饋數量、有效反饋數量、確定是Bug的反饋數量、確定是需求建議的反饋數量。
通過對比每次活動中的 實際招募人數 → 內測版本安裝人數 → 問題反饋的人數中每個環節的轉化率,來幫助我們去優化活動的形式;而通過有效反饋數量和活動總反饋數量的變化,可以幫助我們優化內測用戶的反饋教育環節,幫助我們獲取更高質量的反饋。
04 分析原因
這個環節說兩個我曾經在活動中踩過的坑,希望可以幫助大家避雷。
最初,為了激發報名用戶對于發現問題的積極性,設置了額外的反饋獎勵,并把獎勵標準設定成了反饋數量的前三名;前幾次活動結束后我們觀察數據,發現有效反饋的占比只有 40% 左右,重復反饋和無效反饋的數量會比較多。
于是后面我們就更改了反饋獎勵的規則,以“質量 + 數量”為標準,并公開反饋質量較好的反饋,給到參與活動的用戶一個正向的促進作用;在后續的內測活動中,有效反饋的占比就可以穩定在 70% 左右。
還有一次 500人+規模的內測活動,我們依然使用 QQ 群這種方式去做 1 對 N 的用戶管理與內測教育,但活動人數的增長導致內測教育的難度增加,1 對 N 的模式顯然已經不再適用。
在活動結束時為參與用戶發放獎勵時,也會因為頻繁的進行紅包交易而被騰訊官方敏感提醒,造成封號風險;針對于這種情況,我們在建立活動群時一定要將備用的管理賬號也拉入群內,同時增加內測教育的人力。
從長期來看的話,在歷次活動中發掘一部分內測的優質用戶,并賦予這些用戶推廣、管理內測活動的能力,對于釋放我們自身的人力也會有很大的好處。
05 總結經驗
因為 K12 行業的特殊性,所以我們選擇了 QQ 群發放內測包 + 招募外部用戶的方式,來對即將上線的新功能進行測試。
內測活動的關鍵,就是要招募到足夠的用戶,得到更多的反饋后去支持產品迭代;內測版本對比正式版本,會提前體驗新功能,在招募時配上“限量招募”“邀請體驗”的字眼,可以助力我們的招募進度。
在內測進行中,要做好對內測用戶的功能宣傳與反饋教育,設定合適的激勵機制從而去得到更多高質量的反饋。
同時,要及時的發掘在內測活動中積極參與且反饋質量較高的用戶,將這類用戶塑造為我們每次內測活動中的“形象角色”,給到其他參與活動的用戶一個正向的積極作用。
本文由@白說運營 原創發布于人人都是產品經理,未經許可,不得轉載。
題圖來自Unsplash,基于CC0協議。
有幫助,感謝
公眾號搜不到