機器學習(Machine Learning)&深刻學習(Deep Learning)資料

• 《Brief History of Machine Learning》

　　介紹:這是一篇介紹機器學習歷史的文章，介紹很全面，從感知機、神經網絡、決策樹、SVM、Adaboost 到隨機森林、Deep Learning.

• 《Deep Learning in Neural Networks: An Overview》

　　介紹:這是瑞士人工智能實驗室 Jurgen Schmidhuber 寫的最新版本《神經網絡與深度學習綜述》本綜述的特色是以時間排序，從 1940 年開始講起，到 60-80 年代，80-90 年代，一直講到 2000 年後及最近幾年的進展。涵蓋了 deep learning 裏各類 tricks，引用很是全面.

• 《A Gentle Introduction to Scikit-Learn: A Python Machine Learning Library》

　　介紹:這是一份 python 機器學習庫，若是您是一位 python 工程師並且想深刻機器學習.那麼這篇文章或許可以幫助到你.

• 《How to Layout and Manage Your Machine Learning Project》

　　介紹:這一篇介紹若是設計和管理屬於你本身的機器學習項目的文章，裏面提供了管理模版、數據管理與實踐方法.

• 《Machine Learning is Fun!》

　　介紹:若是你還不知道什麼是機器學習，或則是剛剛學習感受到很枯燥乏味。那麼推薦一讀。這篇文章已經被翻譯成中文，若是有興趣能夠移步 http://blog.jobbole.com/67616/

• 《R語言參考卡片》

　　介紹:R語言是機器學習的主要語言，有不少的朋友想學習R語言，可是老是忘記一些函數與關鍵字的含義。那麼這篇文章或許可以幫助到你

• 《Choosing a Machine Learning Classifier》

　　介紹:我該如何選擇機器學習算法，這篇文章比較直觀的比較了 Naive Bayes，Logistic Regression，SVM，決策樹等方法的優劣，另外討論了樣本大小、Feature 與 Model 權衡等問題。此外還有已經翻譯了的版本:http://www.52ml.net/15063.html

• 《An Introduction to Deep Learning: From Perceptrons to Deep Networks》

　　介紹：深度學習概述：從感知機到深度網絡，做者對於例子的選擇、理論的介紹都很到位，由淺入深。翻譯版本：http://www.cnblogs.com/xiaowanyer/p/3701944.html

• 《The LION Way: Machine Learning plus Intelligent Optimization》

　　介紹:<機器學習與優化>這是一本機器學習的小冊子， 短短 300 多頁道盡機器學習的方方面面. 圖文並茂， 生動易懂， 沒有一坨坨公式的煩惱. 適合新手入門打基礎， 也適合老手溫故而知新. 比起 MLAPP/PRML 等大部頭， 也許這本你更須要!具體內容推薦閱讀:http://intelligent-optimization.org/LIONbook/

• 《深度學習與統計學習理論》

　　介紹:做者是來自百度，不過他本人已經在 2014 年 4 月份申請離職了。可是這篇文章很不錯若是你不知道深度學習與支持向量機/統計學習理論有什麼聯繫？那麼應該當即看看這篇文章.

• 《計算機科學中的數學》

　　介紹:這本書是由谷歌公司和 MIT 共同出品的計算機科學中的數學：Mathematics for Computer Science，Eric Lehman et al 2013 。分爲 5 大部分：1）證實，概括。2）結構，數論，圖。3）計數，求和，生成函數。4）機率，隨機行走。5）遞歸。等等

• 《數據科學入門》

　　介紹:這是一本由雪城大學新編的第二版《數據科學入門》教材：偏實用型，淺顯易懂，適合想學習R語言的同窗選讀。

• 《Twenty Questions for Donald Knuth》

　　介紹:這並非一篇文檔或書籍。這是篇向圖靈獎得主 Donald Knuth 提問記錄稿： 近日， Charles Leiserson, Al Aho, Jon Bentley 等大神向 Knuth 提出了 20 個問題，內容包括 TAOCP，P/NP 問題，圖靈機，邏輯，以及爲何大神不用電郵等等。

• 《Automatic Construction and Natural-Language Description of Nonparametric Regression Models》

　　介紹：不會統計怎麼辦？不知道如何選擇合適的統計模型怎麼辦？那這篇文章你的好好讀一讀了麻省理工 Joshua B. Tenenbaum 和劍橋 Zoubin Ghahramani 合做，寫了一篇關於 automatic statistician 的文章。能夠自動選擇迴歸模型類別，還能自動寫報告...

• 《ICLR 2014 論文集》

　　介紹:對深度學習和 representation learning 最新進展有興趣的同窗能夠了解一下

• 《Introduction to Information Retrieval》

　　介紹：這是一本信息檢索相關的書籍，是由斯坦福 Manning 與谷歌副總裁 Raghavan 等合著的 Introduction to Information Retrieval 一直是北美最受歡迎的信息檢索教材之一。最近做者增長了該課程的幻燈片和做業。IR 相關資源：http://www-nlp.stanford.edu/IR-book/information-retrieval.html

• 《Machine learning in 10 pictures》

　　介紹:Deniz Yuret 用 10 張漂亮的圖來解釋機器學習重要概念：1. Bias/Variance Tradeoff 2. Overfitting 3. Bayesian / Occam's razor 4. Feature combination 5. Irrelevant feature 6. Basis function 7. Discriminative / Generative 8. Loss function 9. Least squares 10. Sparsity. 很清晰

• 《雅虎研究院的數據集彙總》

　　介紹：雅虎研究院的數據集彙總： 包括語言類數據，圖與社交類數據，評分與分類數據，計算廣告學數據，圖像數據，競賽數據，以及系統類的數據。

• 《An Introduction to Statistical Learning with Applications in R》

　　介紹：這是一本斯坦福統計學著名教授 Trevor Hastie 和 Robert Tibshirani 的新書，而且在 2014 年一月已經開課：https://class.stanford.edu/courses/HumanitiesScience/StatLearning/Winter2014/about

• Best Machine Learning Resources for Getting Started

　　介紹：機器學習最佳入門學習資料匯老是專爲機器學習初學者推薦的優質學習資源，幫助初學者快速入門。並且這篇文章的介紹已經被翻譯成中文版。若是你不怎麼熟悉，那麼我建議你先看一看中文的介紹。

• My deep learning reading list

　　介紹:主要是順着 Bengio 的 PAMI review 的文章找出來的。包括幾本綜述文章，將近 100 篇論文，各位山頭們的 Presentation。所有均可以在 google 上找到。

• Cross-Language Information Retrieval

　　介紹：這是一本書籍，主要介紹的是跨語言信息檢索方面的知識。理論不少

• 探索推薦引擎內部的祕密，第 1 部分: 推薦引擎初探

　　介紹:本文共有三個系列，做者是來自 IBM 的工程師。它主要介紹了推薦引擎相關算法，並幫助讀者高效的實現這些算法。探索推薦引擎內部的祕密，第 2 部分: 深刻推薦引擎相關算法 - 協同過濾,探索推薦引擎內部的祕密，第 3 部分: 深刻推薦引擎相關算法 - 聚類

• 《Advice for students of machine learning》

　　介紹：康奈爾大學信息科學系助理教授 David Mimno 寫的《對機器學習初學者的一點建議》， 寫的挺實際，強調實踐與理論結合，最後還引用了馮 · 諾依曼的名言: "Young man, in mathematics you don't understand things. You just get used to them."

• 分佈式並行處理的數據

　　介紹：這是一本關於分佈式並行處理的數據《Explorations in Parallel Distributed Processing: A Handbook of Models, Programs, and Exercises》，做者是斯坦福的 James L. McClelland。着重介紹了各類神級網絡算法的分佈式實現，作 Distributed Deep Learning 的童鞋能夠參考下

• 《「機器學習」是什麼？》

　　介紹:【「機器學習」是什麼？】John Platt 是微軟研究院傑出科學家，17 年來他一直在機器學習領域耕耘。近年來機器學習變得煊赫一時，Platt 和同事們遂決定開設博客，向公衆介紹機器學習的研究進展。機器學習是什麼，被應用在哪裏？來看 Platt 的這篇博文

• 《2014 年國際機器學習大會 ICML 2014 論文》

　　介紹：2014 年國際機器學習大會（ICML）已經於 6 月 21-26 日在國家會議中心隆重舉辦。本次大會由微軟亞洲研究院和清華大學聯手主辦，是這個有着 30 多年曆史並享譽世界的機器學習領域的盛會首次來到中國，已成功吸引海內外 1200 多位學者的報名參與。乾貨不少，值得深刻學習下

• 《Machine Learning for Industry: A Case Study》

　　介紹：這篇文章主要是以 Learning to Rank 爲例說明企業界機器學習的具體應用，RankNet 對 NDCG 之類不敏感，加入 NDCG 因素後變成了 LambdaRank，一樣的思想從神經網絡改成應用到 Boosted Tree 模型就成就了 LambdaMART。Chirs Burges，微軟的機器學習大神，Yahoo 2010 Learning to Rank Challenge 第一名得主，排序模型方面有 RankNet，LambdaRank，LambdaMART，尤爲以 LambdaMART 最爲突出，表明論文爲： From RankNet to LambdaRank to LambdaMART: An Overview 此外，Burges 還有不少有名的表明做，好比：A Tutorial on Support Vector Machines for Pattern Recognition
Some Notes on Applied Mathematics for Machine Learning

• 100 Best GitHub: Deep Learning

　　介紹:100 Best GitHub: Deep Learning

• 《UFLDL-斯坦福大學 Andrew Ng 教授「Deep Learning」教程》

　　介紹:本教程將闡述無監督特徵學習和深度學習的主要觀點。經過學習，你也將實現多個功能學習/深度學習算法，能看到它們爲你工做，並學習如何應 用/適應這些想法到新問題上。本教程假定機器學習的基本知識（特別是熟悉的監督學習，邏輯迴歸，梯度降低的想法），若是你不熟悉這些想法，咱們建議你去這 裏機器學習課程，並先完成第 II，III，IV 章（到邏輯迴歸）。此外這關於這套教程的源代碼在 github 上面已經有 python 版本了 UFLDL Tutorial Code

　　*《Deep Learning for Natural Language Processing and Related Applications》

　　介紹:這份文檔來自微軟研究院，精髓不少。若是須要徹底理解，須要必定的機器學習基礎。不過有些地方會讓人眼前一亮，毛塞頓開。

• Understanding Convolutions

　　介紹:這是一篇介紹圖像卷積運算的文章，講的已經算比較詳細的了

• 《Machine Learning Summer School》

　　介紹：天天請一個大牛來說座，主要涉及機器學習，大數據分析，並行計算以及人腦研究。https://www.youtube.com/user/smolix 

• 《Awesome Machine Learning》

　　介紹：一個超級完整的機器學習開源庫總結，若是你認爲這個碉堡了，那後面這個列表會更讓你驚訝：【Awesome Awesomeness】，國內已經有熱心的朋友進行了翻譯中文介紹

• 斯坦福《天然語言處理》課程視頻

　　介紹:ACL 候任主席、斯坦福大學計算機系 Chris Manning 教授的《天然語言處理》課程全部視頻已經能夠在斯坦福公開課網站上觀看了（如 Chrome 不行，可用 IE 觀看） 做業與測驗也能夠下載。

• 《Deep Learning and Shallow Learning》

　　介紹:對比 Deep Learning 和 Shallow Learning 的好文，來着浙大畢業、MIT 讀博的 Chiyuan Zhang 的博客。

• 《Recommending music on Spotify with deep learning》

　　介紹:利用卷積神經網絡作音樂推薦。

• 《Neural Networks and Deep Learning》

　　介紹：神經網絡的免費在線書，已經寫了三章了，還有對應的開源代碼：https://github.com/mnielsen/neural-networks-and-deep-learning 愛好者的福音。

• 《Java Machine Learning》

　　介紹：Java 機器學習相關平臺和開源的機器學習庫，按照大數據、NLP、計算機視覺和 Deep Learning 分類進行了整理。看起來挺全的，Java 愛好者值得收藏。

• 《Machine Learning Theory: An Introductory Primer》

　　介紹：機器學習最基本的入門文章，適合零基礎者

• 《機器學習常見算法分類彙總》

　　介紹：機器學習的算法不少。不少時候困惑人們都是，不少算法是一類算法，而有些算法又是從其餘算法中延伸出來的。這裏，咱們從兩個方面來給你們介紹，第一個方面是學習的方式，第二個方面是算法的相似性。

• 《機器學習經典論文/survey 合集》

　　介紹：看題目你已經知道了是什麼內容，沒錯。裏面有不少經典的機器學習論文值得仔細與反覆的閱讀。

• 《機器學習視頻庫》

　　介紹：視頻由加州理工學院（Caltech）出品。須要英語底子。

• 《機器學習經典書籍》

　　介紹：總結了機器學習的經典書籍，包括數學基礎和算法理論的書籍，可作爲入門參考書單。

• 《16 Free eBooks On Machine Learning》

　　介紹:16 本機器學習的電子書，能夠下載下來在 pad，手機上面任意時刻去閱讀。很少我建議你看完一本再下載一本。

• 《A Large set of Machine Learning Resources for Beginners to Mavens》

　　介紹:標題很大，重新手到專家。不過看完上面全部資料。確定是專家了

• 《機器學習最佳入門學習資料彙總》

　　介紹：入門的書真的不少，並且我已經幫你找齊了。

• 《Sibyl》

　　介紹：Sibyl 是一個監督式機器學習系統，用來解決預測方面的問題，好比 YouTube 的視頻推薦。

• 《Deep Learning》

　　介紹：Yoshua Bengio, Ian Goodfellow， Aaron Courville 著

• 《Neural Network & Text Mining》

　　介紹:關於(Deep) Neural Networks 在 NLP 和 Text Mining 方面一些 paper 的總結

• 《前景目標檢測1（總結）》

　　介紹:計算機視覺入門以前景目標檢測1（總結）

• 《行人檢測》

　　介紹:計算機視覺入門之行人檢測

• 《Deep Learning – important resources for learning and understanding》

　　介紹:Important resources for learning and understanding . Is awesome

• 《Machine Learning Theory: An Introductory Primer》

　　介紹:這又是一篇機器學習初學者的入門文章。值得一讀

• 《Neural Networks and Deep Learning》

　　介紹:在線 Neural Networks and Deep Learning 電子書

• 《Python 網頁爬蟲 & 文本處理 & 科學計算 & 機器學習 & 數據挖掘兵器譜》

　　介紹:python 的 17 個關於機器學習的工具

• 《神奇的伽瑪函數(上)》

　　介紹:下集在這裏神奇的伽瑪函數(下)

• 《分佈式機器學習的故事》

　　介紹:做者王益目前是騰訊廣告算法總監，王益博士畢業後在 google 任研究。這篇文章王益博士 7 年來從谷歌到騰訊對於分佈機器學習的所見所聞。值得細讀

• 《機器學習提高之道（Level-Up Your Machine Learning）》

　　介紹:把機器學習提高的級別分爲0~4 級，每級須要學習的教材和掌握的知識。這樣，給機器學習者提供一個上進的路線圖，以避免走彎路。另外，整個網站都是關於機器學習的，資源很豐富。

• 《Machine Learning Surveys》

　　介紹:機器學習各個方向綜述的網站

• 《Deep Learning Reading list》

　　介紹:深刻學習閱資源列表

• 《Deep Learning: Methods and Applications》

　　介紹：這是一原本自微的研究員 li Peng 和 Dong Yu 所著的關於深刻學習的方法和應用的電子書

• 《Machine Learning Summer School 2014》

　　介紹:2014 年七月 CMU 舉辦的機器學習夏季課剛剛結束有近 50 小時的視頻、十多個 PDF 版幻燈片，覆蓋深度學習，貝葉斯，分佈式機器學習，伸縮性等熱點話題。全部 13 名講師都是牛人：包括大牛 Tom Mitchell （他的［機器學習］是名校的經常使用教材），還有 CMU 李沐 .（1080P 高清喲）

• 《Sibyl: 來自 Google 的大規模機器學習系統》

　　介紹:在今年的 IEEE/IFIP 可靠系統和網絡（DSN）國際會議上，Google 軟件工程師 Tushar Chandra 作了一個關於 Sibyl 系統的主題演講。 Sibyl 是一個監督式機器學習系統，用來解決預測方面的問題，好比 YouTube 的視頻推薦。詳情請閱讀 google sibyl

• 《Building a deeper understanding of images》

　　介紹:谷歌研究院的 Christian Szegedy 在谷歌研究院的博客上簡要地介紹了他們今年參加 ImageNet 取得好成績的 GoogLeNet 系統.是關於圖像處理的。

• 《Bayesian network 與 python 機率編程實戰入門》

　　介紹:貝葉斯學習。若是不是很清可看看機率編程語言與貝葉斯方法實踐

• 《AMA: Michael I Jordan》

　　介紹:網友問伯克利機器學習大牛、美國雙料院士 Michael I. Jordan："若是你有 10 億美金，你怎麼花？Jordan: "我會用這 10 億美金建造一個 NASA 級別的天然語言處理研究項目。"

• 《機器學習&數據挖掘筆記_16（常見面試之機器學習算法思想簡單梳理）》

　　介紹:常見面試之機器學習算法思想簡單梳理

• 《文本與數據挖掘視頻彙總》

　　介紹：Videolectures 上最受歡迎的 25 個文本與數據挖掘視頻彙總

• 《怎麼選擇深度學習的 GPUs》

　　介紹:在 Kaggle 上常常取得不錯成績的 Tim Dettmers 介紹了他本身是怎麼選擇深度學習的 GPUs, 以及我的如何構建深度學習的 GPU 集羣: http://t.cn/RhpuD1G

• 《對話機器學習大神 Michael Jordan：深度模型》

　　介紹:對話機器學習大神 Michael Jordan

來自:  github.com