七步精通Python機器學習

七步精通Python機器學習

0 評論

開始。這是最容易使人喪失鬥志的兩個字。邁出第一步一般最艱難。當能夠選擇的方向太多時，就更讓人兩腿發軟了。

從哪裏開始？

本文旨在經過七個步驟，使用所有免費的線上資料，幫助新人獲取最基本的 Python 機器學習知識，直至成爲博學的機器學習實踐者。這篇概述的主要目的是帶領讀者接觸衆多免費的學習資源。這些資源有不少，但哪些是最好的？哪些相互補充？怎樣的學習順序才最好？

我假定本文的讀者不是如下任何領域的專家：

▪  機器學習 
▪  Python 
▪  任何Python的機器學習、科學計算、數據分析庫
 

若是你有前兩個領域其一或所有的基礎知識，可能會頗有幫助，但這些也不是必需的。在下面幾個步驟中的前幾項多花點時間就能夠彌補。

第一步：基本 Python 技能 

若是要使用 Python 進行機器學習，擁有對 Python 有基礎的理解很是關鍵。幸運的是，Python 是當前廣泛使用的流行語言，並歸入了科學計算和機器學習的內容，因此找到入門教程並不困難。在選擇起點時，很大程度上要取決於你以前的 Python 經驗和編程經驗。
 

首先要安裝 Python 。因爲咱們要使用機器學習和科學計算的 packages ，這裏建議安裝  Anaconda。Anaconda 是一個可在 Linux , OSX , Windows 上運行的 Python 實現工具，擁有所需的機器學習 packages ，包括 numpy，scikit-learn，matplotlib。它還包含iPython Notebook ，一個帶有許多教程的交互式環境。這裏推薦使用 Python 2.7 ，不是由於特殊緣由，只是由於它是目前安裝版本中的主流。

若是你以前沒有編程知識，建議你閱讀這本免費電子書，而後再接觸其餘學習材料：
▪  Python The Hard Way 做者Zed A. Shaw 
 

若是你以前有編程知識，但不是Python的，又或者你的Python水平很基礎，推薦下列一種或幾種教程：
▪  Google Developers Python Course（(強烈推薦給視覺型學習者）

▪  An Introduction to Python for Scientific Computing (from UCSB Engineering) 做者 M. Scott Shell (一個很好的 Python 科學計算簡介，60 頁) 

對於想要速成課程的人，這裏有：
▪  Learn X in Y Minutes (X = Python) 
固然，若是你是個經驗豐富的Python程序員，能夠跳過這一步。儘管如此，仍是建議你把通俗易懂的 Python documentation  放在手邊。 

第二步：機器學習基礎技能

KDnuggets 的 Zachary Lipton 指出，人們對於「數據科學家」的認知千差萬別。這其實是對機器學習領域的反映。數據科學家在不一樣程度上使用計算學習算法。要創建和使用支持向量機模型，熟知核函數方法是不是必需的？答案固然不是。就像現實生活中的許多事情同樣，所須要的理論深刻程度與具體的實際應用有關。獲取對機器學習算法的深刻理解不是本文的討論範圍， 並且這一般須要在學術領域投入大量時間，或者至少要經過密集的自學才能達到。

 

好消息是，你沒必要擁有博士級別的機器學習理論能力才能進行實踐，就如同不是全部程序員都必須接受計算機理論教育才能寫好代碼。

 

吳恩達在 Coursera 的課程飽受讚譽。但個人建議是去看看一名之前的學生作的筆記。略過那些針對 Octave（一個與 Python 無關的，類 Matlab 語言）的內容。須要注意，這些不是「官方」的筆記，雖然看起來的確抓住了吳恩達課程材料的相關內容。若是你有時間，能夠本身去 Coursera 完成這個課程 ：Andrew Ng's Machine Learning course 。 
▪  非官方課程筆記連接 

除了吳恩達的課程之外，還有不少其餘視頻教程。我是Tom Mitchell的粉絲，下面是他（與Maria-Florina Balcan共同完成的）最新的課程視頻，對學習者很是友好：

▪  Tom Mitchell Machine Learning Lectures 

你不須要如今看徹底部的筆記和視頻。比較好的策略是向前推動，去作下面的練習，須要的時候再查閱筆記和視頻。好比，你要作一個迴歸模型，就能夠去查閱吳恩達課程有關回歸的筆記以及/或者Mitchell的視頻。 

第三步：科學計算 Python packages 一覽 

好了。如今咱們有了 Python 編程經驗，並對機器學習有所瞭解。Python 有不少爲機器學習提供便利的開源庫。一般它們被稱爲Python科學庫（scientific Python libraries），用以執行基本的數據科學任務（這裏有一點程度主觀色彩）：

 

▪  numpy - 主要用於N維數組

▪  pandas - Python數據分析庫，包含dataframe等結構

▪  matplotlib - 2D繪圖庫，產出質量足以進行印刷的圖

▪  scikit-learn - 數據分析、數據挖掘任務使用的機器學習算法

學習以上這些內容可使用：

▪  Scipy Lecture Notes 做者 Gaël Varoquaux， Emmanuelle Gouillart， Olav Vahtras 

下面這個pandas教程也不錯，貼近主題：

▪  10 Minutes to Pandas 

在後面的教程中你會看到其餘一些packages，好比包括Seaborn，一個基於matplotlib的可視化庫。前面提到的packages （再次認可具備必定主觀色彩）是許多Python機器學習任務的核心工具。不過，理解它們也可讓你在以後的教程中更好理解其餘相關packages。

好了，如今到了有意思的部分.....
 

 

第四步：開始用Python進行機器學習

Python。搞定。

機器學習基礎。搞定。

Numpy。搞定。

Pandas。搞定。

Matplotlib。搞定。 

是時候用Python的標準機器學習庫，scikit-learn，實現機器學習算法了。


scikit-learn 算法選擇圖

下面許多教程和練習都基於交互式環境iPython (Jupyter) Notebook。這些iPython Notebooks有些能夠在網上觀看，有些能夠下載到本地電腦。
▪  iPython Notebook概覽 斯坦福大學 

也請注意下面的資源來自網絡。全部資源屬於做者。若是出於某種緣由，你發現有做者沒有被說起，請告知我，我會盡快改正。在此特別要向Jake VanderPlas，Randal Olson，Donne Martin，Kevin Markham，Colin Raffel致敬，感謝他們提供的優秀免費資源。

下面是scikit-learn的入門教程。在進行下一個步驟以前，推薦作完下列所有教程。

對於scikit-learn的總體介紹，它是Python最經常使用的通用機器學習庫，包含knn最近鄰算法：
▪  An Introduction to scikit-learn 做者 Jake VanderPlas 

更深刻更寬泛的介紹，包含一個新手項目，從頭至尾使用一個著名的數據集：
▪  Example Machine Learning Notebook 做者Randal Olson 

專一於scikit-learn中評估不一樣模型的策略，涉及訓練集/測試集拆分：
▪  Model Evaluation 做者 Kevin Markham 

 

第五步：Python機器學習主題

在scikit-learn打下基礎之後，咱們能夠探索更多有用的常見算法。讓咱們從最知名的機器學習算法之一，k-means聚類開始。對於無監督學習問題，k-means一般簡單有效：
▪  k-means Clustering 做者Jake VanderPlas 

接下來是分類，讓咱們看看史上最流行的分類方法之一，決策樹：
▪  Decision Trees via The Grimm Scientist 

分類以後，是連續數字變量的預測：
▪  Linear Regression 做者 Jake VanderPlas 

經過邏輯斯蒂迴歸，咱們能夠用迴歸解決分類問題：
▪  Logistic Regression 做者Kevin Markham 


第六步：Python高級機器學習

接觸過scikit-learn，如今讓咱們把注意力轉向更高級的內容。首先是支持向量機，一個無需線性的分類器，它依賴複雜的數據轉換，把數據投向高維空間。
▪  Support Vector Machines 做者 Jake VanderPlas 

接下來是隨機森林，一種集成分類器。下面的教程經過 Kaggle Titanic Competition講解。 
▪  Kaggle Titanic Competition (with Random Forests) 做者 Donne Martin 

降維是一種減小問題涉及的變量數目的方法。PCA主成分分析是一種無監督學習降維的特殊形式：
▪  Dimensionality Reduction 做者 Jake VanderPlas 

在開始下一步以前，能夠暫停一下，回想咱們在短短的時間已經走了多遠。
經過使用Python和它的機器學習庫，咱們涵蓋了一些最經常使用最知名的機器學習算法（knn最近鄰，k-means聚類，支持向量機），瞭解了一種強有力的集成方法（隨機森林），涉及了一些其餘機器學習支持方案（降維，模型驗證技巧）。在一些基礎機器學習的技巧的幫助下，咱們開始有了一個漸漸豐富的工具箱。

在結束之前，讓咱們給工具箱增長一個需求很大的工具：

 

第七步 ：Python深度學習

學習，深深地。

處處都在深度學習！深度學習基於過去幾十年的神經網絡研究，但最近幾年的發展大大增長了深度神經網絡的能力和對於它的興趣。若是你不熟悉深度學習，KDnuggets 有許多文章 ，詳細介紹最近的進展、成果，以及對這項技術的讚譽。 

本文的最後一部分並不想成爲某種深度學習示範教程。咱們會關注基於兩個Python深度學習庫的簡單應用。對於想了解更多的讀者，我推薦下面這本免費在線書：
▪  Neural Networks and Deep Learning 做者 Michael Nielsen 

Theano 
Theano是咱們關注的第一個Python深度學習庫。根據做者所說：

做爲一個Python庫，Theano讓你能夠有效定義、優化、評估包含多維數組的數學表達式。

下面的Theano深度學習教程很長，但很是不錯，描述詳細，有大量評論：
▪  Theano Deep Learning Tutorial 做者 Colin Raffel 

Caffe 
咱們關注的另外一個庫是Caffe。根據它的做者所說：

Caffe是一個深度學習框架。開發過程當中時刻考慮着表達式、速度、模型。 它是由Berkeley Vision and Learning Center (BVLC) 和社區貢獻者共同開發的。

這個教程是本文的壓軸。儘管上面列舉了一些有趣的案例，沒有那個比得上下面這個：用Caffe實現Google的 #DeepDream。但願你喜歡！理解這個教程之後，盡情玩樂，讓你的處理器開始本身作夢吧。 
▪  Dreaming Deep with Caffe via Google's GitHub 
 

 

我不敢保證Python機器學習是速成的或簡單的。但只要投入時間，遵循這七個步驟，你無疑會對於這個領域擁有足夠的熟練度和理解，會使用流行的Python庫實現許多機器學習算法，甚至當今深度學習領域的前沿內容。

 

做者簡介: Matthew Mayo是一名計算機專業的研究生。他目前在從事並行機器學習算法方面的論文工做。同時他也是一個數據挖掘學習者，數據愛好者，立志成爲機器學習科學家。