TensorFlow+Keras 01 人工智能、機器學習、深度學習簡介

1 人工智能、機器學習、深度學習的關係

 「人工智能」 一詞最先是再20世紀50年代提出來的。

「 機器學習 」 是經過算法，使用大量數據進行訓練，訓練完成後會產生模型

• 有監督的學習 supervised learning
• 無監督的學習 unsupervised learning
• 加強式學習 reinforcement learning

已經應用領域：推薦引擎、定向廣告、需求預測、垃圾郵件過濾、醫學診斷、天然語言處理、搜索引擎、證券分析、視覺識別、語音識別、手寫識別等

「 深度學習 」 是機器學習的分支，其仿真人類神經網絡的工做方式，常見深度學習架構有

• 多層感知器 multi-layer perceptron
• 深度神經網絡 deep neural network ,DNN
• 卷積神經網絡 convolutional neural network , CNN
• 遞歸神經網路 recurrent neural network , RNN

已經應用領域：視覺識別，語音識別，天然語言處理，生物醫學等

 

另：

GPU（Graphics Processing Unit）爲圖形處理器，用於電腦的圖形運算，

CPU與GPU的架構有本質的不一樣，CPU 含有數顆核心，爲順序處理進行優化；而GPU 則擁有高達數千個小型且高效的核心，發揮強大並行計算能力。

深度學習以大量矩形運算模擬神經元的工做方式，該工做方式特別適合並行計算。GPU經過大量核心並行計算，在深度學習訓練中，GPU比CPU要快10~75倍。

Google 公司於2016年宣佈人工智能專用芯片 TPU（Tensor Processing Unit，張量處理單元 / 張量處理芯片）來進行計算；TPU 是專爲深度學習設計的特殊規格的邏輯芯片（IC），使得深度學習的訓練速度更快。

2 機器學習介紹

機器學習的訓練數據構成：

• 數據特徵features
• 數據標籤label

機器學習分爲兩個階段：

• 訓練Training
• 預測Predict

3 機器學習分類

3.1 有監督的學習

有監督的學習的數據具有特徵features、預測目標/標籤label兩要素。經過算法訓練並創建模型。當有新的數據時，咱們將其進行預測。

• 二元分類，特徵features的標籤label有兩個（離散）選項。
• 多元分類，特徵features的標籤label有至少兩個（離散）選項
• 迴歸分析，特徵features的標籤label是連續的值。

3.2 無監督的學習

該方式無label標籤。

如 cluster 集羣算法將數據分紅幾個差別較大的羣組，而羣組內的類似度最高。

3.3 加強式學習

加強式學習原理：藉助定義動做actions、狀態states、獎勵rewards的方式不斷訓練機器按部就班，使其學會執行某項任務的算法。

常見算法有：Q-Learning、TD（Temporal Difference）、Sarsa 等。

如訓練機器玩《超級瑪麗》電子遊戲就是藉助不斷訓練學會玩遊戲，對應狀態有：

• 動做：左、右、跳
• 狀態：當前遊戲界面
• 獎勵：得分、受傷

4 深度學習簡介

一個輸入層、一個輸出層、N個隱藏層，因此稱之爲深度學習。