機器學習-積累與發現繼續

1、機器學習

基礎

機率論-wiki

數據挖掘中所需的機率論與數理統計知識

理解 Bias 與 Variance 之間的權衡
//var是不一樣訓練模型之間的差異，比如K-fold之中，若是不一樣模型之間差異很大（var大），也就是說他們都和本身的訓練集與其餘訓練集不接近，因此，不一樣模型之間var很大->他們就都不是truth；而若是bias很大，不用細講，那他們更不是truth

先驗機率與後驗機率

PR曲線、ROC曲線和AUC
詳解最大似然估計（MLE）、最大後驗機率估計（MAP），以及貝葉斯公式的理解
//MLE隱含了參數取任何值的機率都同樣，而MAP則考慮到了參數取不一樣值的機率是有差異的，有些值更容易取到，有些值不容易取到。好比扔十次硬幣，十次都是正，那MLE估計得結果就是正的機率爲1，但你們知道這明顯不可能，因此要用到先驗機率，就是上面所說，咱們預先知道了取1幾乎不可能

生成模型與判別模型

判別模型(Discriminative model)和生成模型(Generative model)

P、NP、NPC和NP-Hard相關概念的圖形和解釋

常見的幾種最優化方法（梯度降低法、牛頓法、擬牛頓法、共軛梯度法等）

數值優化（Numerical Optimization）學習系列-線搜索方法（LineSearch）

訓練集、測試集和驗證集

Logistics

Logistic迴歸原理及公式推導

嶺迴歸和lasso---迴歸的拓展

多重共線性的解決方法之——嶺迴歸與LASSO

Softmax

Softmax迴歸

SVM

支持向量機SVM（一）
支持向量機SVM（二）

SMO優化算法（Sequential minimal optimization）

深刻理解拉格朗日乘子法（Lagrange Multiplier) 和KKT條件

支持向量機通俗導論（理解SVM的三層境界）

支持向量機(SVM)的特色與不足

K-Means

Canopy Clustering

Canopy算法聚類

Canopy Clustering（Canopy聚類）

算法雜貨鋪——k均值聚類(K-means)

深刻淺出K-Means算法

基本Kmeans算法介紹及其實現

貝葉斯方法

算法雜貨鋪——分類算法之樸素貝葉斯分類(Naive Bayesian classification)

從貝葉斯方法談到貝葉斯網絡

樸素貝葉斯算法原理小結

超細緻的貝葉斯決策論

從決策樹學習談到貝葉斯分類算法、EM、HMM

決策樹

信息增益，信息增益率，Gini

決策樹的特性及優缺點

頻繁模式

FP Tree算法原理總結

主成分分析

奇異值分解（SVD）原理

機器學習中的數學(5)-強大的矩陣奇異值分解(SVD)及其應用

特徵降維-PCA（Principal Component Analysis）

PCA 降維算法詳解 以及代碼示例

主成分分析（Principal components analysis）-最大方差解釋

圖論與社交網絡

並查集——求無向圖的全部連通子圖

EM算法

EM算法（Expectation Maximization Algorithm）詳解

簡單易學的機器學習算法——EM算法

感知機

感知機（Perceptron）

反向傳播算法

前饋神經網絡與反向傳播算法（推導過程）

A Step by Step Backpropagation Example

AutoEncoder

深度學習教程之Autoencoder

玻爾茲曼機

受限玻爾茲曼機RBM最通俗易懂的教程

深度學習教程之受限玻耳茲曼機

深度信念網絡

深度信念網絡(Deep Belief Network)

深度信念神經網絡DBN最通俗易懂的教程

機器學習——DBN深度信念網絡詳解

加強學習基礎

強化學習（Reinforcement Learning, RL）初步介紹

Deep Reinforcement Learning 基礎知識

強化學習學習筆記列表

加強學習Reinforcement Learning經典算法梳理1：policy and value iteration

多臂賭博機

從Multi-arm Bandits問題分析 - RL進階

多臂賭博機系列

綜合

數據挖掘十大算法

2、系統的教程

Coursera-機器學習-Andrew NG

Build Intelligent Applications

臺大李宏毅-線性代數、ML和DL

集體智慧編程

機器學習實戰

deeplearning4j

3、大神們的Blog

學習相關

AI 傳送門（不少深度學習資料、keras入門）

Albert-Lee (表明做：Python爬蟲小白入門)

四去六進一 (表明做：機器學習(周志華西瓜書) 參考答案 總目錄)

胡蘿蔔周博客 (各類資源軟件)

龍哥盟飛龍blog(老哥瘋狂翻譯了一堆書和文檔)

大學霸(網絡攻防領域的老哥)

jerrylead (機器學習經典算法學習筆記)