小進階:數據指標體系和數據治理的管理
關於做者:小姬,某知名互聯網公司產品專家,對數據採集、生產、加工有所瞭解,指望多和你們交流數據知識,以數據做爲提出好問題的基礎,發掘商業價值。android
0x00 前言
我將整理文章分享數據工做中的經驗,由於業務內容上的差別,可能致使你們的理解不一致,沒法體會到場景中的諸多特殊性,不過相信不斷的溝通和交流,能夠解決不少問題。上次咱們分析了一下職場基本功,爲何要重視需求質量,常見的數據需求文檔改怎麼寫。今天咱們來就聊一聊上次文章中的一個重點關鍵字「數據指標體系」的周邊。web
歷史導讀:小訣竅:不妨嘗試從交付質量上戰勝對手面試
如下,Enjoy:微信
0x01 爲何要搭建指標體系
在《小訣竅:不妨嘗試從交付質量上戰勝對手》咱們提到過爲何要搭建指標體系,相信你們在看數據相關招聘崗位簡介的時候,也常常看到有關搭建指標體系的要求,所以這裏簡單的給出兩點作指標體系的重要性。工具
-
搭建穩定的數據觀測體系(維度指標體系),讓數據從生產到使用的整個流程更加標準、可靠;測試
-
穩定的數據觀測體系,不只可以讓數據加工、使用的效率提高,還有利於統一認知,規範數據建設者的工做方法,解決數據維度/指標膨脹,數據不一致的問題,從而拉昇內部的相關人員總體的數據專業水平。spa
若是你們仍然對搭建指標體系的做用和意義存在不一樣的見解和看法,但願繼續深刻的溝通了解,歡迎評論留言或者加入咱們的微信羣聊共同交流。設計
0x02 怎麼搭建指標體系
咱們先思考簡單的數據問題,這是我做爲校招面試官常常會同你們溝通的一個案例。接口
-
若是你如今成爲一個產品項目的負責人,你想看到哪些數據指標,爲何要分析這些數據指標?生命週期
-
咱們如今聚焦一下,從剛纔列出的數據指標序列中選出x個指標,怎麼選,爲何?
第1題考察點
-
互聯網行業是否熟悉,可以對行業的數據指標有多深的瞭解;
-
基本的度量和效果評估意識,構建數據和商業業務的關係抽象能力。
備註:相信我,不少候選人連像樣的指標都回答不上幾個,更沒法洞察數據和商業之間的關係。
第2題考察點
-
有限的選擇下,是否有判斷主次的邏輯能力,針對自身的觀點和知識可否自我革新昇華;
-
更深層次的思考,爲何要以更少的數據指標去判斷商業行爲。
這個題目對於處於職場實際工做中的同行來講一樣具備考察須要,咱們評估一個產品項目所須要的指標是越多越好,仍是會存在其中一個適度的分界點(投入產出比的最大化)。
話題回到正題,怎麼搭建指標體系?
首先任何沒有管理或是數據指標系統的組織中,數據指標的需求形式都相似於第1題的樣式存在,團隊中不一樣的人擁有不一樣的度量單位和評估體系(即便這我的認識到第2題問題的存在,他自身的指標體系依然處於第1題)。
數據指標體系必須是搭建於組織或者一個團體的共識,讓整個組織和團體內的度量單位和評估體系,第1題是缺少管理,肆意生產的野蠻方式。讓整個組織和團隊提高到第2題的水平達成一致纔是數據指標體系。
-
數據指標體系不是收集指標彙總起來,也不是將全部數據需求全覆蓋;
-
數據指標體系是以最小的投入搭建科學的效果評估指標,讓組織和團隊達到統一認知的事情;
在《小訣竅:不妨嘗試從交付質量上戰勝對手》咱們提到過爲何要搭建指標體系,咱們將(「平臺:枚舉值:所有、iOS、android、其餘,例如web、TV歸爲「其餘」)重點看一下,在搭建指標體系過程當中,咱們將數據量較小的平臺(web、TV)聚合,不在容許對相似數據的過分效果分析(不容許什麼都想要的態度)。
思考:人民幣中爲何存在的是1元、5元、10元,2元錢的紙幣爲何退出了歷史舞臺。國際貨幣爲何不能全部國家發行,美圓的做用是什麼?
0x03 指標體系的評估標準
指標體系除了有科學的方法搭建,還會存在不少主觀的判斷。咱們在搭建指標體系的時候,常常遇到的問題是爲何你們要遵循這套指標體系,它的權威性怎麼獲得保障。
-
指標體系的搭建很是依賴領導的背書和強勢承認
-
指標體系的搭建相對於提高團隊的全員水平,因此這不是簡單事
-
指標體系也有生命週期,不斷的產品項目階段須要的指標體系不一樣
基於以上的幾點,指標體系的搭建方法論就很明確了,首先作到領導的承認(指標體系至關於和領導之間的一種協議),其次指標體系的宣貫傳播工做不可或缺,其次指標體系的內容須要長期的維護。從這三點咱們能夠梳理出一個目標的觀測值:
-
基於領導的承認,指標體系是否解決領導提出的問題,問題的量化目標就是指標體系的目標
-
提升全員的水平怎麼證實,問卷、考試、需求文檔的質量或引用、指標體系內容的訪問數據
-
指標體系內容的更新頻次、更新數量,內容彙報
註釋:我認爲最佳的指望是指標體系內容做爲知識,沉澱於知識庫工具中。經過知識的訪問量,以及定義的測試來判斷指標體系價值。
0x03 指標體系的管理內容
數據指標的概念咱們不少同窗聽過,而且也常常看到招聘職位上的要求。但究竟指標體系的怎麼落地,包含什麼內容相信不多有人真實有過經歷。
我對指標體系的理解整體有這個幾個觀點:
-
不一樣組織或者團體指望指標體系解決的問題一致,但落地的指標體系內容不一樣
-
指標體系落地產物強依賴於業務,不一樣的業務存在不一樣的玩法
-
指標體系多數狀況下連同管理工具一塊兒落地
-
我認爲當前的指標體系,均不能很高效的解決指望問題,我本身目前較爲理想的方案也未實際執行
指標體系中的業務指標內容(簡版)
-
指標名稱:意向UV // 名稱要保持惟一
-
指標類型:基礎指標 // 指標的計算方式,直接計算生成,仍是多個指標計算生成
-
主題分類:流量主題 // 根據業務須要,對指標進行分類管理
-
業務定義/指標口徑:意向頁面的訪問用戶數 // 對指標的定義描述,目前看這塊問題不少,歧義不少
-
統計維度:平臺,城市,版本,業務類型…… // 實際工做中會發現,統計的維度不少
指標體系中的指標技術內容(簡版)
-
指標代碼:flow_intention_uv // 代碼要保持惟一,若是指標名稱業務內惟一,指標代碼要全系統惟一
-
數據類型:bigint // 指標的存儲數據類型,數據倉庫中指標類型重要的不是很大
-
數據計算模型:略 // 指標計算的SQL邏輯,實際工做中感受問題很大
-
字段名稱:intention_uv // 對應數據表或是取數邏輯中的字段名稱
-
計算公式:count(intention_uv) // 實際工做中,閱讀理解還行,意義不大
以上爲咱們管理指標體系中的簡版內容,實際狀況根據不一樣的業務需求,以及工具的搭配使用須要的內容會更多一點,基本上都是爲了維護運營指標體系,更好的管理指標名稱和口徑定義。
我認爲當前的指標體系,均不能很高效的解決指望問題,我本身目前較爲理想的方案也未實際執行。以上述的指標內容爲例存在不少問題,好比:
意向UV:意向頁面的訪問用戶數,在理解這個指標的時候須要存在一個前提條件,什麼是意向頁面。那麼就會涉及到一個意向頁面的概念,可是意向 頁面自己不做爲指標內容被管理。意向頁面的定義「意向頁面爲詳細介紹商品內容的頁面。又或者理解爲:在當前頁面只需「1步」便可進入交易流程的頁面,爲意向頁面。)」。
另外,數據計算模型:略 // 指標計算的SQL邏輯,實際工做中感受問題很大。咱們也會發現實際的工做當中,數據指標不會單獨出現,更多的時候是日期+維度1+維度2+……維度N+指標1+指標2+指標N的方式出現,數據的模型計算也是根據需求表頭設計搭建的。
除去以上兩個問題,指標體系的內容運營維護還會存在不少問題,這直接影響指標體系的搭建是否成功且實用。目前我所接觸的範疇內,以上的管理方式適合傳統企業的指標體系管理,在數據迭代速度快,多維分析強的互聯網領域並不能接受業務的調整。
我比較理想的管理方式(當前處於嘗試當中):
-
搭建百科形式的知識庫,以知識庫管理指標體系,將指標的內容管理作成百科形式,不斷的積累內容,纔有可能進行知識的普及實用價值,纔有可能標準化。(指標百科是什麼東西,你們看一下「北京市」的百度百科便可,從不一樣的角度介紹北京,數據指標也應該有這樣的補充,介紹指標的業務背景,概念定義,相干關係,所須要的數據源等等)
-
分類方式的改變,不能單純的以指標做爲分類。應該以業務分組合,好比咱們看PUSH消息的數據效果,應該逐漸的是創建PUSH消息應該看那些維度和指標,解決不一樣的同窗對一樣業務存在不一樣的考量數據指標體系的問題。在搭建指標百科的同時創建數據效果監控總體的目標對齊,PUSH效果怎麼評估,是否能夠標準的穩定下來一樣的一套數據,頁面怎麼效果評估,是否能夠標準的穩定下來一樣的一套數據。
以理想的方式搭建指標管理內容,在我前面的文章《小訣竅:不妨嘗試從交付質量上戰勝對手》中有提到,咱們能夠根據需求的類型作分類進行固化。
0x04 指標體系的管理工具
管理指標體系內容搭建的管理工具,咱們一般將其和元數據管理放在一塊兒。也能夠看出元數據管理和指標體系管理很相似(元數據的管也存在指標體系一樣的問題),在管理指標體系內容的時候,基本涉及如下下幾塊內容:
-
數據倉庫表管理 // 通常只涉及應用層數據
-
數據指標管理 // 管理上面提到的指標內容,新增,編輯,刪除,狀態等
-
數據維度管理 // 相似指標內容,新增,編輯,刪除,狀態等
-
數據模型管理 // 管理指標或者數據表頭計算的模型,新增,編輯,刪除,狀態等
-
數據應用服務管理 // 支持數據可視化,或者數據服務的方式,接口等
-
數據權限管理 // 管理工具的權限運營維護
備註:指標體系的管理工具,須創建相關的運營維護流程。
固然,正如我幾回提到當前的指標體系內容的管理不理想的問題,這是不少人遇到的問題,我也在探索新的管理方式,後期我會單獨開篇文章總結以知識庫工具怎麼配合指標體系的你們。