深度學習-初識

深度學習這幾年很火，因此，從今天起涉足深度學習，爲將來學習，注本博文爲慕課課程
學習筆記。

1、入門基本概念

機器學習簡介

機器學習：無序數據轉化爲價值的方法
機器學習價值：從數據中抽取規律，並預測將來

機器學習應用舉例：

分類問題：圖像識別、垃圾郵件識別
迴歸問題：股價預測、房價預測
排序問題：點擊率預估、推薦
生成問題：圖像生成、圖像風格轉換、圖像文字描述生成

機器學習應用流程

內容

數據處理（採集+去zao）
模型訓練（特徵+模型）
模型評估與優化（MSE、F1-score、AUC+調參）
模型應用（A/B測試）

深度學習簡介

人工智能、機器學習、深度學習之間的關係

人工智能（AI）> 機器學習（Machine Learning）> 深度學習（Deep learning）

深度學習與機器學習關係

• 機器學習是實現人工智能的方法
• 深度學習是實現機器學習算法的技術

深度學習算法集合

• 卷積神經網絡(CNN）
• 循化神經網絡
• 自動編碼器
• 稀疏編碼
• 深度信念網絡
• 深度學習+強化學習=深度強化學習

深度學習進展

• 一、圖像分類
• 二、機器翻譯
• 三、圖像生成
• 四、字體生成
• 五、AlphaGo

2、神經網絡

一、神經元

二、邏輯迴歸模型

神經元 -> 激活函數sigmoid -> 二元類邏輯斯蒂迴歸模型

神經元 -> 多輸出

• W從向量擴展爲矩陣
• 輸出W*x則變成向量

多輸出神經元 -> softmax -> 多分類邏輯斯蒂迴歸模型

目標函數

衡量對數據的擬合程度

梯度降低

梯度降低算法即爲下山算法，找方向，而後走一步

3、Tensorflow基礎

Tensorflow簡介

Google Brain 第二代機器學習框架

計算圖模型

• 命令式變成
• 聲明式變成

TensorFlow 安裝

TensorFlow 官方文檔

TensorFlow 安裝方法

基於 VirtualEnv 的安裝

1.啓動終端（即 shell）。您將在此 shell 中執行全部後續步驟。

2.經過發出如下命令安裝 pip 和 Virtualenv：

# 在 Mac 上:
$ sudo easy_install pip  # 若是尚未安裝 pip
$ sudo pip install --upgrade virtualenv

安裝的時候報了這樣的錯誤，什麼緣由呢？

解決方法：

升級pip到最新版本（至少9.0.3）

curl https://bootstrap.pypa.io/get-pip.py | python

緣由是 Python.org sites 終止支持TLS1.0和1.1，TLS須要>=1.2

而後再重試，安裝OK

3.經過發出如下某種格式的命令建立 Virtualenv 環境

$ virtualenv --system-site-packages targetDirectory # for Python 2.7
 $ virtualenv --system-site-packages -p python3 targetDirectory # for Python 3.n

其中 targetDirectory 表示 Virtualenv 樹的頂層目錄。咱們的指令假定 targetDirectory 爲 ~/tensorflow，但您能夠選擇任何目錄。

這裏咱們選擇python2.7版本

virtualenv --system-site-packages ~/workspace/tensorflow_env

4.經過發出下列其中一條命令激活 Virtualenv 環境：

$ cd targetDirectory
$ source ./bin/activate      # If using bash, sh, ksh, or zsh
$ source ./bin/activate.csh  # If using csh or tcsh

執行上述 source 命令後，您的提示符應該會變成以下內容：

(targetDirectory)$

5.確保安裝 pip 8.1 或更高版本：

(targetDirectory)$ easy_install -U pip

6.發出如下某個命令，將 TensorFlow 及其所需的全部軟件包安裝到活動 Virtualenv 環境中：

(targetDirectory)$ pip install --upgrade tensorflow      # for Python 2.7
 (targetDirectory)$ pip3 install --upgrade tensorflow     # for Python 3.n

若是安裝失敗，則試着先執行如下命令，而後再安裝：

➜  tensorflow_env pip install --upgrade https://download.tensorflow.google.cn/mac/cpu/tensorflow-1.8.0-py2-none-any.whl

7.後續步驟
安裝好 TensorFlow 後，請驗證您的安裝以確認安裝的軟件可否正常運行。

請注意，每次在新的 shell 中使用 TensorFlow 時，您都必須激活 Virtualenv 環境。若是 Virtualenv 環境當前未處於活動狀態（即提示符不是 (targetDirectory)），請調用如下某個命令：

$ cd targetDirectory
$ source ./bin/activate      # If using bash, sh, ksh, or zsh
$ source ./bin/activate.csh  # If using csh or tcsh

您的提示符將變成以下所示，這表示您的 tensorflow 環境已處於活動狀態：

(targetDirectory)$

當 Virtualenv 環境處於活動狀態時，您就能夠從該 shell 運行 TensorFlow 程序了。

用完 TensorFlow 後，能夠經過發出如下命令來停用此環境：

(targetDirectory)$ deactivate

提示符將恢復爲您的默認提示符（由 PS1 所定義）。

本機器激活命令：

$ cd ~/workspace/tensorflow_env
$ source ./bin/activate

使用Docker安裝tensorflow

$ docker run -it -p 8888:8888 tensorflow/tensorflow

Go to your browser on http://localhost:8888/

http://127.0.0.1:8888/tree
http://(c7efe77f377a or 127.0.0.1):8888/?token=4e15bae9e2e6b657a0fb9346d31b61752feb3097b398fce2

多層神經網絡的TensorFlow實戰

一、神經元的TensorFlow實現