從機器學習到深度學習資料整理

從機器學習到深度學習資料整理

　　在過去的大半年中，博主一直在進行人工智能相關知識的自學。因爲人工智能最近兩年的火熱，從網上可以找到很是多的資料，包括：MOOC、博客等，博主也花費了不少的時間從衆多的資源中找到了一條「從入門到進階」的學習之路。在此，博主根據本身的學習體驗，將所用到的資料彙總在本片博文中。因爲博主目前的研究對象主要是圖像，所以在材料選擇的過程當中會重點關注圖像方面的知識，可是博主在下文中所推薦的資料中也涵蓋了關於文本、語音處理的內容，讀者能夠根據本身的須要選擇性閱讀。

1、入門資料

　　（1）吳恩達《機器學習》（網易雲課堂）

　　入門學習的首選，課程全面介紹了機器學習的基礎知識，不多涉及到高深的理論或者證實，經過學習這個課程能夠幫助初學者快速掌握機器學習的經典算法，而且得到對機器學習相關技術的全面認識。吳老師在授課的時候使用的是matlab（octave），而且課程還有相應的練習（可在網絡上面找到）。所配套的練習經過指導編程實踐一步步地教初學者完成課程中相關的算法，完成該練習可進一步加深學習者對機器學習基礎知識的認識。博主感受該課程很是適合做爲初學者的首選課程。

　　（2）斯坦福大學 CS231 Convolutional Neural Networks for Visual Recognition 課程

　　由斯坦福大學李飛飛課題組開設的關於深度學習（主要是圖像方面）的課程。儘管該課程最終的目的主要是介紹卷積神經網絡的，可是在課程內容的前大半會詳細地介紹而且解讀一些機器學習的基礎內容，例如：cross-entropy loss， stochastic gradient descent，backpropagation和各類響應函數等，這些內容是對吳恩達老師教學內容的巨大補充，須要仔細閱讀而且掌握。其中，博主尤爲認爲好好研究一下梯度降低法，領會該算法的運算過程是十分重要的，博主的這一篇博客或許可以對讀者有些許幫助。該課程的視頻內容好像能夠在B站上面找到，並且也隨課程配套了相應的編程練習（以python爲編程語言）。

　　（2）吳恩達《卷積神經網絡》（網易雲課堂）

　　對於須要從事圖像相關算法研究的讀者，確定沒法繞開卷積神經網絡。吳恩達老師在網易雲課堂的微專業中提供了一個專門針對卷積神經網絡的課程。該課程和《機器學習》課程的講授風格十分相似，很是適合對卷積神經網絡沒有太多背景知識的讀者學習。另外，上述第二個課程的後半部分也有專門針對卷積神經網絡的內容，能夠搭配本課程的內容一塊兒學習。

2、實踐資料

　　通過對上述內容的學習以後，我相信讀者對深度學習的基礎內容就有了一個初步的掌握，接下來就能夠經過一些自主的編程實踐來內化所學到的知識，使得它們成爲本身的傍身技能。接下來博主就介紹兩部分別針Tensorflow和Keras應用的書籍。

　　（1）Learning Tensorflow: A Guide to Building Deep Learning System(by Tom Hope, Yehezkel S.Resheff & Itay Lieder)

　　Tensorflow是目前最廣爲應用的深度學習框架，大量的深度學習算法都應用到了該框架，也所以是從事相關工做人員所必須掌握的框架之一。博主所推薦的這本書好像是谷歌公司的研發人員所編著的，書中的內容主要介紹了Tensorflow框架的安裝，基本組成及如何在不一樣的深度學習任務中應用該框架。對每一部分的內容，書中配備了很詳細的代碼供讀者參考，很是利於學習者的實踐操做，並且本書中還對一些模型的基礎知識進行了回顧，這些內容可以很好地幫助學習者將基礎概念與實踐操做結合起來。

　　（2）Deep Learning with Python(by Francois Chollet)

　　這本書所介紹的框架是Keras，這是一個創建在Tensorflow上的高級深度學習庫（目前已是Tensorflow官方的高級接口），相較於Tensorflow，應用該框架建模更爲簡潔、直觀，並且提供了豐富的函數供研發人員使用。博主所推薦的這本書是Keras庫的初版的做者所寫的，書中的內容涵蓋了從機器學習到深度學習應用的所有內容，而且提供了大量的代碼示例，這本書在博主看來既是一本全面回顧機器學習到深度學習發展脈絡和基礎知識的教材，也是一本應用Keras庫的參考指南。

3、理論進階

　　相較於上述所推薦的內容"知其然，而不知其因此然「的特色，這一部分所推薦的資料會聚焦於機器學習和深度學習更爲理論化的一面，博主主要推薦的兩本材料爲：《統計學習方法》和線上圖書《Deep Learning》

　　（1）《統計學習方法》 李航著

　　李航老師的這本書關注的是機器學習的理論剖析，對機器學習的基本元素、常見算法，進行了數學上的定義、分析和推演，經過對這些內容的學習，我以爲會讓讀者對這些算法有更爲深入的認識。從博主本身目前閱讀體驗來看，感受頗有難度，須要較爲紮實的數學功底纔可以明白老師在書中所講解的內容。

　　（2）《Deep Learning》（by Ian Goodfellow and Yoshua Bengio and Aaron Courville）

　　這是一本線上的圖書，兼顧深度學習內容的廣度和深度，涵蓋了十分豐富的學習內容。其中第一部分歸納性地講解了學習者所必備的基礎知識，包括：線性代數、機率論與信息論等，讀者能夠根據這部份內容的指引查漏補缺。第二部分則介紹了目前已經很是成熟的深度學習技術，包括：神經網絡、卷積神經網絡、序列信號處理等。第三部分則介紹了目前還處於積極研究的深度學習領域，包括特徵學習等等。書中的不少內容都有很是詳細的理論探討和數學推導，博主感受是一本很是難啃的書。

　　最後，博主給你們提供兩個網站連接：連接1和連接2，你們能夠在其中找到很是豐富的免費學習資料。最後祝你們學習愉快，早日成爲領域大牛！

##本文爲博主原創內容，轉摘請註明出處。