如何設計出一個實用高效的埋點管理系統(tǒng)?
編輯導語:埋點管理系統(tǒng)的搭建在一定程度上解決了埋點設計管理混亂的問題,方便數(shù)據查詢,提高了團隊的溝通效率,進而推動整體業(yè)務項目的高效進行。本篇文章里,作者就如何設計一個高效便利的埋點管理系統(tǒng)做了總結,一起來看一下。
一、為什么要做埋點管理系統(tǒng)?
如果你是一名數(shù)據分析師,是否有過這樣的經歷:
當你需要查詢APP產品埋點數(shù)據的時候,你不得不經常找數(shù)據產品經理去確認是否已有埋點,埋了哪些字段,是否已有上報數(shù)據等。常常這些埋點事件元信息分散在多個產品經理手上,信息散亂,分析師使用埋點數(shù)據之前溝通成本極高,影響數(shù)據使用的效率……
不僅如此,如果遇到埋點數(shù)據異常,追溯埋點歷史問題過程也是非常的漫長,需要數(shù)據產品經理去跟業(yè)務產品經理確認埋點需求的版本,然后數(shù)據產品經理確認埋點設計需求的批次,然后給到開發(fā),開發(fā)同事再去查找問題……
以上種種問題一直是困擾著我們埋點工作的痛點。埋點場景的痛點我總結為以下5點:
- 埋點需求及埋點設計文檔管理散亂,產品、開發(fā)、測試協(xié)同溝通效率低下,嚴重影響工作效率。
- 埋點事件元信息管理散亂,常是分布在多個產品經理手上,分析師使用埋點數(shù)據時需要查詢埋點需求及埋點事件的元信息這個過程鏈路長,溝通成本非常高,埋點元信息使用查詢極其不便利。
- 若出現(xiàn)埋點數(shù)據異常問題,若開發(fā)同事需要追溯埋點歷史數(shù)據,則更是需要有當時的埋點需求批次和埋點設計文檔作為輔助,元信息管理散亂,極其影響debug的效率。
- 非可視化測試,驗收埋點難度太大。每次都要跑去數(shù)據庫了查詢,對于沒有寫SQL基礎的業(yè)務經理來說,驗收埋點數(shù)據的效率就會比埃及地下。
- 數(shù)據校驗流程混亂,版本管理難度大,開發(fā)同學常常要自己開發(fā)一個后臺管理功能來管理埋點發(fā)布或下線的版本。
二、埋點管理系統(tǒng)是什么?
埋點管理系統(tǒng)本質是解決數(shù)據采集及數(shù)據使用場景問題的業(yè)務系統(tǒng),業(yè)務方則是數(shù)據產品、數(shù)據開發(fā)工程師、數(shù)據分析師等數(shù)據團隊的人員。
比較常見的例子,數(shù)據分析師在業(yè)務處于快速發(fā)展的階段大概率只讓你取數(shù),未必讓你真正去做業(yè)務數(shù)據分析的活兒。
等數(shù)據取數(shù)這類需求達到一定的數(shù)量,老板才會想著去開發(fā)可視化類的取數(shù)工具,幫助數(shù)據分析師從大量的數(shù)據查詢和報表開發(fā)的工作解脫出來,去做更加有價值的業(yè)務專題分析的工作。
回到我們的主題,埋點管理系統(tǒng)也常常會等到埋點需求非常多,從埋點需求產出端、到埋點需求使用方都感覺到這個合作流程已經影響了整體的工作效率的時候,埋點管理系統(tǒng)才會被老板想到,這個工具是否可以替代原本的零散和低效的協(xié)同模式來提高大家的工作效率。所以,埋點管理系統(tǒng)本身是一個提升數(shù)據同事工作效率的工具。
埋點管理系統(tǒng)能解決問題主要有以下5點:
- 解決了埋點需求及埋點設計管理散亂,產品團隊、開發(fā)團及測試團隊,數(shù)據應用團隊的協(xié)同溝通效率低下問題。
- 解決了數(shù)據應用場景中需要高頻及便利地查詢查詢埋點事件元信息問題。
- 解決了開發(fā)同事在遇到埋點數(shù)據異常需要追溯歷史埋點的歷史文檔尋找的版本管理問題。
- 通過可視化抓包,解決了埋點數(shù)據驗收的重度依賴數(shù)據庫查詢的相對低效的方法。
- 通過可視化對比校驗和發(fā)布/下線能力,解決了開發(fā)同事單獨管理埋點需求的版本及發(fā)布場景問題,并有明確的數(shù)據校驗流程,從而間接提升數(shù)據質量的管理。
三、如何設計埋點管理系統(tǒng)?
1. 業(yè)務流程確認
說了埋點管理系統(tǒng)能解決的問題,接下來聊聊埋點管理系統(tǒng)長啥樣,如何才能設計出解決我們以上問題的埋點管理系統(tǒng)。在此之前,我們先了解埋點場景的業(yè)務流程:
圖一:埋點業(yè)務流程圖1
2. 系統(tǒng)功能確認
業(yè)務流程確認了,我們就在對應的業(yè)務流程上增加產品功能模塊去承載每個業(yè)務流程節(jié)點的需求,如下圖:
圖二:埋點業(yè)務流程圖2
3. 事件模型確認
在了解系統(tǒng)功能設計之前,我們先了解一下埋點管理系統(tǒng)里涉及到的全部管理對象及對象之間的關系。
埋點管理系統(tǒng)一共涉及到四個對象,分別是應用、埋點需求批次、埋點事件、事件屬性。他們之間的關系是自上而下的邏輯關系。
圖三:埋點事件模型圖
4. 系統(tǒng)功能架構設計
通過埋點業(yè)務流程及事件模型的梳理,我們得出了多個系統(tǒng)功能模塊,拆解出來的埋點系統(tǒng)功能結構如下圖:
圖四:埋點管理系統(tǒng)功能結構圖
下面我們將對系統(tǒng)的每個功能模塊展開闡述:
1)應用管理
應用管理功能主要是承載業(yè)務團隊新增一個APP/小程序/H5/web端等業(yè)務產品對象,我們需要在系統(tǒng)里先創(chuàng)建一個新的埋點產品對象,然后才有后續(xù)增加的埋點需求及事件元信息等。
這個模塊包含應用新增、刪除、編輯等基礎功能。產品團隊需要負責的埋點產品都可以放在這里統(tǒng)一管理。
圖五:應用管理列表圖
2)埋點需求管理
埋點需求管理功能主要承載集中管理業(yè)務團隊提過來給產品團隊的埋點需求文檔,這里可以創(chuàng)建需求、編輯需求、下鉆需求、下線需求等。
在這里,需求按照批次來進行管理,每一個埋點需求都有一個唯一的批次號,掛載到對應的應用及版本上,并且點擊單個埋點需求批次號,可以直接下鉆到該埋點需求下的全部事件列表。
圖六:埋點需求管理列表圖
3)事件管理
管理功能則承載來所有埋點需求拆解出來需要開發(fā)的埋點事件元信息,這里可以創(chuàng)建事件、編輯事件、下鉆事件、搜索事件、下線事件等。
事件是埋點拆解的最小對象單元,在這里每個事件都要掛載在對應的埋點需求批次上,系統(tǒng)里沒有獨立自自己游蕩的事件。這樣所有的應用、埋點需求批次和事件都有了映射關系。當需要使用埋點數(shù)據時,先來埋點管理系統(tǒng)查找埋點需求批次,這種清晰的映射關系在查詢埋點元信息時提供了高效的途徑。
圖七:事件管理列表圖
4)屬性管理
屬性管理功能模塊承載的是常用的有共性的屬性。一個個獨立的屬性常用屬性,比如用用戶ID、用戶客戶端系統(tǒng)、在線時長等屬性,可以在屬性管理這里完成注冊。
在用戶新建事件時,可以直接引用已注冊完成的屬性綁定到事件上,減少用戶填寫事件屬性信息時的大量重復填寫工作。
5)埋點校驗
走到這里,埋點已經開發(fā)完成了,到了測試、驗收、上線的環(huán)節(jié)。這里的埋點校驗包含兩部分,可視化抓包測試及開發(fā)環(huán)境和測試環(huán)境的信息對比。完成這兩個環(huán)節(jié)之后,開發(fā)同事才可以把埋點發(fā)布到正式環(huán)境。
可視化抓包測試:
可視化抓包功能頁主要提供給產品經理和測試同學可以現(xiàn)場抽樣測試事件數(shù)據,檢查上報的屬性是否已經完整,屬性值是否準確。
圖八:埋點數(shù)據實時抓包圖
對比與同步:
在線對比和發(fā)布功能頁則是承載了開發(fā)童鞋對比生產環(huán)境和測試環(huán)境埋點元信息的差異之處,幫助快速確認已經進行了變更處理之處。及支持開發(fā)童鞋在線可視化發(fā)布埋點事件,便捷高效。
圖九:埋點需求對比及同步功能圖
6)埋點監(jiān)控
埋點監(jiān)控功能承載的則是埋點管理系統(tǒng)全部埋點事件的及任務運行的結果監(jiān)控。包括展示全部埋點應用統(tǒng)計數(shù)、埋點需求統(tǒng)計數(shù)、事件統(tǒng)計數(shù)、有效在線事件統(tǒng)計數(shù)、異常的埋點事件數(shù)、未處理的埋點需求/事件數(shù)等,是統(tǒng)計和展示整個系統(tǒng)管理對象及對象運行情況的監(jiān)控功能模塊。
方便參與埋點工作的同事了解整體產品的埋點任務運行情況,和及時發(fā)現(xiàn)埋點上報數(shù)據的異常情況。也是埋點管理系統(tǒng)的一個必不可少的模塊。
四、寫在最后
以上從埋點管理系統(tǒng)的定位和解決的痛點問題,及系統(tǒng)的建設過程給大家闡述一遍,希望能幫助大家在對埋點管理系統(tǒng)及建設有個相對完整的認識。
最后,總結幾點系統(tǒng)建設過程中的思考分享給大家:
1)埋點管理系統(tǒng)是一個服務于數(shù)據團隊但涉及合作團隊較多的系統(tǒng)。在不同公司,可能埋點業(yè)務流程不一樣,而我這里分享的是我經歷過的埋點工作場景中協(xié)同效率比較高效的埋點業(yè)務流程,希望能提供參考借鑒。
2)埋點需求批次跟應用版本號不完全保持一致,不要當作是形同對象而相互替代。因為很可能在后期版本增加早期發(fā)版的產品功能的埋點。如果當作同一個問題處理,將導致埋點需求管理能力可擴展性太弱,很快整個系統(tǒng)都陷入了管理瓶頸。
3)埋點管理系統(tǒng)真實可以提升業(yè)務、產品、開發(fā)、數(shù)據分析多個團隊的協(xié)同效率,用起來非常爽,能早建設盡早建設。
此處完結。
本文由 @九果女孩Maky 原創(chuàng)發(fā)布于人人都是產品經理,未經許可,禁止轉載
題圖來自Pexels,基于 CC0 協(xié)議
超級棒?。。?/p>
請問,批量同步的功能是解決什么問題呢。謝謝回復
很不錯