工業大數據的理論體系算法
一、工業大數據的意義:從DIKW體系的角度看學習
我用DIKW體系的觀點解釋大數據的意義:將人類帶入智能社會。大數據夠把人類帶入智能社會的核心優點在於「知識」的生產和應用。咱們把智能理解爲「感知、決策和執行」的統一,則大數據能很好地提供「感知」和「決策」所須要的知識。大數據
二、大數據與業務系統的關係:概念。設計
不少人把數據和大數據混淆起來。一個典型的表現是把業務系統(如MES、ERP)的功能說成大數據的應用,彷佛只要數據都是大數據。在我看來業務系統看數據,側重數據用於完成特定業務的一次利用。數據做爲信息的載體,數據的生命週期相對較短。blog
大數據則側重數據的二次利用或重複利用,數據主要做爲知識的載體。固然:大數據主要由業務系統(如ERP、MES)產生、積累,並最終服務於業務系統。生命週期
三、大數據的特徵:甲乙方的視角深度學習
甲乙雙方看待大數據的特徵是不一樣的。數據分析
其中,甲方就是但願經過大數據創造價值、改進業務的業務人員,而乙方是幫助甲方實現目標的IT技術人員。數學
大數據的甲方視角:有三個特徵(樣本=全體等,後面詳細展開),都與獲取知識相關。而獲取了知識才能創造價值。大數據的乙方視角即「4V特徵」。這四個特徵關注的是IT技術人員數據處理的困難。產品
顯然,乙方的工做應該服從甲方的業務需求。從這個意義上講,乙方可能遇到4V涉及的困難、也可能遇不到,視甲方的實際狀況而定。我講的課主要是甲方視角,而IT專業人士講的課主要是乙方視角。
四、大數據與知識獲取的可行性(甲方視角、大數據特徵)
(從甲方看)大數據的價值在於產生知識。人們常常提到的大數據的幾個特徵(樣本=全體、相關非因果、混雜性),均可以歸結爲便於得到知識。
l樣本=全體。解決知識的存在性問題。人類的一切知識都來源於歷史;若是大數據可以完整地記錄歷史,就會蘊含知識。這一點強調的是樣本分佈的完整性。
l不拘泥於因果。通常說法的是「相關關係而非因果關係」,而我將其改成「不拘泥於因果」。人類的知識有不少種,一種是說不出來的「默會知識」、一種是說的清楚的知識;而說得清楚的知識又包括理論知識和經驗知識。其中,理論知識是講究因果的;若是有把知識拘泥於因果則是不完備的。因此,「不拘泥於因果」解決了知識完的整性問題。
l混雜性。本質是知識的可得到、可驗證性,保證知識的質量。得到知識的一個本質要求是區分偶然聯繫和非偶然聯繫。混雜性能夠用於解決這個問題。
換句話說,這三個特色保證了知識的存在性、完整性和可得到性。這就是大數據的意義所在。咱們知道:智能製造須要知識才能造成閉環、互聯網可讓知識的價值放大。因此,在智能製造、工業互聯網的背景下,大數據的價值猛增。
五、知識類型的角度:多角度觀察
我一直認爲,大數據的價值在於得到、存儲和運用知識的能力。而「知識」能夠分類——能夠從多個維度來看:
l默會知識、經驗知識、理論知識。
默會知識就是說不清楚、難以變成程序代碼的感性知識。例如,從圖像中人是一我的、下棋時對「勢」的理解,都是感性知識。
感性知識以外的經驗知識。這些知識說得清楚怎麼作,不必定須要說明緣由。如某種方法較好、哪條路走的快等——實際上好就是好了,不必定須要解釋。
理論知識就是說得清楚緣由、能夠解釋、甚至可計算的知識。
如前所述,大數據的優點在於能夠更容易地得到默會和經驗知識——這在過去是很難的。過去計算機用到的知識,每每須要人們寫成代碼——但這只是人們大腦中的一部分知識。單純依靠理性知識,難以實現智能化。
l正向知識(建模得到)、逆向知識(根因分析)。
從緣由到結果的知識,我稱其爲正向知識。數學建模過程就是創建正向知識。從結果到緣由的知識,我稱爲逆向知識。就是所謂的根因分析。
l聯繫型知識、設計型知識。
因果知識、感性知識等體現的都是信息之間的聯繫。而設計型的知識指的是產品、工藝設計等。設計型知識佔用的計算機存儲量很大。在大數據時代,設計型知識容易存儲、處理了。
六、大數據得到知識的途徑:承載知識和提煉知識
用大數據得到知識有兩種方式:一種就是數據自己就承載知識;一種是數據承載的是信息、須要從數據提煉出知識。
第一種典型的就是產品設計數據、各類標準、成功案例等。快速響應、個性化定製的前提和手段,就是這種知識的共享。
對於這些知識,有時候會面臨的困難之一是如何找到它們。而找到這些知識自己就多是須要得到的知識。典型的就是谷歌搜索。AI算法對解決這個問題多是有用的。
第二種知識就是前面說的、經過建模或根因分析獲得的知識。工業上對知識是有明確需求的、以致於難以達到;但機理倒是相對明確的。我談的不少方法論,其實就是在這兩個方面的。下面還會提到。
七、經過大數據得到價值:轉型升級才能創造藍海
從某種意義上說,大數據創造價值就是促進知識創造價值。這些知識要用在提升質量、效率,下降成本等具體問題上,才能創造價值。
人們遇到的真正困惑,或許是如何找到這些「問題」。這些問題大概能夠分紅兩類:一類是現有業務的痛點;第二類是轉型升級之後面臨新的要求。
對於業務痛點,每每是:「該作的都作了,剩下的每每是難以作的。」因此,難以找到合適的問題。對於這類困惑,大數據只是手段之一。每每要綜合運用各類手段,大數據才能給創造價值。
對於第二類困惑,每每是業務自己或外部變化引起的。例如,採用了新的生產方式或技術手段、用戶對質量要求提升了、數字化水平提升了、企業的業務重心轉移了(創新和服務的比重增大了)等等。這些變化,我統稱爲「轉型升級」。對於這類新的問題,大數據方法比較容易發揮做用。
數據分析曾經被認爲是「沒有辦法的辦法」。我把最近忽然變熱的緣由,歸結到智能製造相關技術引起的企業轉型升級。這時,大數據技術進入了一個藍海。大數據進入藍海的緣由,不只是得到知識更方便等緣由,更是知識的放大:把知識變成計算機可執行的代碼、實現人機知識的共享,知識在互聯網上實現共享,都會讓知識的價值倍增。從而讓「知識生產」的經濟性大大提高。
整體上看,轉型升級是戰略問題,大數據應用是戰術問題。戰略重點的改變,才能給大數據的應用創造條件。不然,再好的技術均可能成爲屠龍之技。
八、大數據建模分析的方法論:算法只是細節問題
談到大數據分析與建模,不少人立刻想到各類算法。在我看來,對數據分析與建模問題來講,算法問題實際上是戰術問題——也就是說,還須要有個戰略問題,用來決定分析什麼問題、分析問題的次序和路徑等。CRISP_DM就是這個層面上的邏輯。我還想將其邏輯進一步簡化:
一、明確業務需求;肯定需求是真實的、一旦分析成功則具備可行性。
二、數據分析方法:解決問題的次序和切入點的問題。
三、分析問題的具體算法。如迴歸、決策樹、深度學習等。
其中,前面兩步作得好的話,後面的算法會比較簡單。我總以爲,學術界把算法看得過重、過分重視算法技巧。技巧易於發論文,但不符合工程邏輯。
9、總結
人們關注工業大數據的終極目標是創造價值;方向是提高智能化;核心問題是知識的獲取和應用。用好大數據的關鍵搞清楚戰略和戰術的關係,也就是作什麼事情、作事的次序和切入點等問題。單純從分析方法或數據角度看問題,是看不清楚問題全貌的。