機器學習數學基礎：學習線性代數，千萬不要誤入歧途！推薦一個正確學習路線

機器學習數學基礎：學習線性代數，千萬不要誤入歧途！推薦一個正確學習路線

序言

寫完《機器學習深度研究：機器學習中的高等數學/微積分及Python實現》，以爲十分對不起讀者，寫的本身都不滿意。

就像前篇所說，這種極度基礎的知識是最難介紹的，我也在思考如何轉變方式，把問題講清楚。可是頭條是不支持數學公式的，篇幅也受限。因此本篇文章，我想介紹一下本身的學習歷程，看過不錯的教材和視頻推薦給你們。這樣你們也能少走彎路，更全面的學到知識。

同時建議：貪多嚼不爛，求精不求多，我有自信，看過我推薦的這本書和視頻，線性代數就絕對能夠搞定了。

機器學習中的線性代數

線性代數是機器學習領域不可或缺的一部分，從描述算法操做的符號到代碼中算法的實現，都屬於線性代的研究範圍。線性代數在機器學習的幾乎全部地方都有使用，具體用到的知識點有：

• 向量和它的各類運算，包括加法，減法，數乘，轉置，內積
• 向量和矩陣的範數，L1範數和L2範數
• 矩陣和它的各類運算，包括加法，減法，乘法，數乘
• 逆矩陣的定義與性質
• 行列式的定義與計算方法
• 二次型的定義
• 矩陣的正定性
• 矩陣的特徵值與特徵向量
• 矩陣的奇異值分解
• 線性方程組的數值解法，尤爲是共軛梯度法

教材推薦

學習線性代數，你可千萬不要掏出同濟大學版的教材出來，這本書很是糟糕，它只適合考試複習用。

我推薦《Linear Algebra Review and Reference》

本資料爲CS229 Andrew Ng-Mechine Learning課程關於線性代數的複習講義。
英文很差的同窗也不用擔憂，已經有大佬將其翻譯成中文了，目錄以下：

• 1. 基礎概念和符號
• 1.1 基本符號
• 2.矩陣乘法
• 2.1 向量-向量乘法
• 2.2 矩陣-向量乘法
• 2.3 矩陣-矩陣乘法
• 3 運算和屬性
• 3.1 單位矩陣和對角矩陣
• 3.2 轉置
• 3.3 對稱矩陣
• 3.4 矩陣的跡
• 3.5 範數
• 3.6 線性相關性和秩
• 3.7 方陣的逆
• 3.8 正交陣
• 3.9 矩陣的值域和零空間
• 3.10 行列式
• 3.11 二次型和半正定矩陣
• 3.12 特徵值和特徵向量
• 3.13 對稱矩陣的特徵值和特徵向量
• 4.矩陣微積分
• 4.1 梯度
• 4.2 黑塞矩陣
• 4.3 二次函數和線性函數的梯度和黑塞矩陣
• 4.4 最小二乘法
• 4.5 行列式的梯度
• 4.6 特徵值優化

如需電子版請私信我：線性代數 wx：htsa360

視頻推薦

有些同窗更喜歡看視頻，這裏我吹爆一門由大名鼎鼎的3blue1brown出品的教程：《線性代數的本質》，3blue1brown的課程，動畫精美，講解生動，很是適合幫助創建數學的形象思惟，值得反覆觀看。

看過以後我相信你會發出這樣的感慨：我之前學的線性代數是什麼鬼呀！

舉個例子，叉積這個概念在機器學習中應用不能更普遍，3B1B對它的解釋：把w投射到v所在的直線上，將w在v上投影的長度乘以v的長度，就是其點積的值

想要觀看的同窗能夠去B站搜索：av6731067