學習筆記之深度學習（Deep Learning）

深度學習 - 維基百科，自由的百科全書

• https://zh.wikipedia.org/wiki/%E6%B7%B1%E5%BA%A6%E5%AD%A6%E4%B9%A0
• 深度學習（deep learning）是機器學習的分支，是一種試圖使用包含複雜結構或由多重非線性變換構成的多個處理層對數據進行高層抽象的算法。
• 深度學習是機器學習中一種基於對數據進行表徵學習的算法。觀測值（例如一幅圖像）可使用多種方式來表示，如每一個像素強度值的向量，或者更抽象地表示成一系列邊、特定形狀的區域等。而使用某些特定的表示方法更容易從實例中學習任務（例如，人臉識別或面部表情識別）。深度學習的好處是用非監督式或半監督式的特徵學習和分層特徵提取高效算法來替代手工獲取特徵。
• 表徵學習的目標是尋求更好的表示方法並建立更好的模型來從大規模未標記數據中學習這些表示方法。表示方法來自神經科學，並鬆散地建立在相似神經系統中的信息處理和對通訊模式的理解上，如神經編碼，試圖定義拉動神經元的反應之間的關係以及大腦中的神經元的電活動之間的關係。
• 至今已有數種深度學習框架，如深度神經網絡、卷積神經網絡和深度置信網絡和遞歸神經網絡已被應用在計算機視覺、語音識別、天然語言處理、音頻識別與生物信息學等領域並獲取了極好的效果。
• 另外，「深度學習」已成爲相似術語，或者說是神經網絡的品牌重塑。

---

學習筆記之TensorFlow - 浩然119 - 博客園

• https://www.cnblogs.com/pegasus923/p/10400397.html

MIT深度學習教程：一文看懂CNN、RNN等7種範例（TensorFlow教程）

• https://mp.weixin.qq.com/s/YFJLsaXxSwgPS2_lfD0gng

入門 | 獻給新手的深度學習綜述 - 機器學習算法與天然語言處理

• https://mp.weixin.qq.com/s/0tQuyU4cUpHBDM0Lh7K5Hg

入門最佳！MIT發佈最新深度學習導論課，視頻和代碼都開源了

• https://mp.weixin.qq.com/s/cF5m6tOWlOPzr7QFevG5eA
• https://medium.com/tensorflow/mit-introduction-to-deep-learning-4a6f8dde1f0c?linkId=64189766
• 課程視頻：
  • https://youtu.be/5v1JnYv_yWs?list=PLtBw6njQRU-rwp5__7C0oIVt26ZgjG9NI
• lab代碼：
  • https://github.com/aamini/introtodeeplearning_labs/

資源|書籍《Python深度學習》推薦

• https://mp.weixin.qq.com/s/3PxuMaA9JgWGmhAudW5j7A

---

BEST PRACTICE

沒練過這個項目，還怎麼作 AI 工程師？- CSDN

• https://mp.weixin.qq.com/s/IhPsQyBqHt1SkFMt9UMjeg

卷積有多少種？一文讀懂深度學習中的各類卷積 - 機器學習算法與天然語言處理

• https://mp.weixin.qq.com/s/Fj4fU5eSmgFI0mkjPSNvsQ
• https://towardsdatascience.com/a-comprehensive-introduction-to-different-types-of-convolutions-in-deep-learning-669281e58215

7個實用的深度學習技巧 - 機器學習算法與Python學習

• https://mp.weixin.qq.com/s/EFLQcdQ5fIDYhra5AK0ffA
• https://towardsdatascience.com/7-practical-deep-learning-tips-97a9f514100e

秒懂各類深度CNN操做 - 機器學習算法與Python學習

• https://mp.weixin.qq.com/s/N85gA350s-lS5p-Q-vgeRA

10 大 CNN 核心模型徹底解析（附源代碼，已所有跑通）

• https://mp.weixin.qq.com/s/K4AGqhdy5RjqxXrGsP3eow
• https://zhuanlan.zhihu.com/p/66215918

一文讀懂GoogLeNet神經網絡 | CSDN博文精選

• https://mp.weixin.qq.com/s/WQqLF8UmyGq_ebSZ_2niEA

神經網絡教程：從原理到優化如此簡單 - 機器學習算法與天然語言處理

• https://mp.weixin.qq.com/s/VrrBLo-1RgPPIt3FJbO2mQ

簡單理解神經網絡幾個基礎問題

• https://mp.weixin.qq.com/s/z_WbYTR1XiHusGr5lj2XOA

訓練神經網絡時要知道的幾個要點

• https://mp.weixin.qq.com/s/amy37hQTOt7sTBfzgsjOXQ

卷積神經網絡簡介

• https://mp.weixin.qq.com/s/PU8L0fFV1GqtnjLwty2AdA
• https://towardsdatascience.com/simple-introduction-to-convolutional-neural-networks-cdf8d3077bac

乾貨|圖文並茂講述，通俗易懂的卷積解釋

• https://mp.weixin.qq.com/s/jSybohzLInsh3r9_LwsW4A
• https://www.zhihu.com/question/22298352/answer/637156871

關於深度學習中的卷積，這些是你該懂得

• https://mp.weixin.qq.com/s/JiNARoKeBhcb4WQpiMYJ2w

卷積有多少種？一文讀懂深度學習中的各類卷積

• https://mp.weixin.qq.com/s/Fj4fU5eSmgFI0mkjPSNvsQ

數據科學家必知的 5 個深度學習框架

• https://mp.weixin.qq.com/s/qzCVtMLTRzBZji8i-LN8cQ

乾貨|各種優化算法及簡單總結神經網絡訓練

• https://mp.weixin.qq.com/s/Ihxj4iE7GjrDXGUP7EFAAA

乾貨|全面理解卷積神經網絡及其不一樣架構

• https://mp.weixin.qq.com/s/U0RjbyJ-Sp0kqmEsTd9NUg

乾貨|經過函數圖像，理解26種神經網絡激活函數

• https://mp.weixin.qq.com/s/jI53YzxRzABUf5QYDPLhCw
• https://dashee87.github.io/deep%20learning/visualising-activation-functions-in-neural-networks/

深度學習碰見代碼搜索，一篇論文概覽神經代碼搜索

• https://mp.weixin.qq.com/s/B3Uv-dhB5VYJnu06N4lYBg
• https://arxiv.org/pdf/1905.03813v3.pdf

當深度強化學習碰見圖神經網絡

• https://mp.weixin.qq.com/s/BYI8j0Y4pAcsb6PFWUKOTQ

全鏈接神經網絡的原理及Python實現

• https://mp.weixin.qq.com/s/LvQy3Ujq7p_SkbTL-qg96Q
• https://github.com/tushushu

網絡運行時間提升100倍，Google使用的AI視頻理解架構有多強？

• https://mp.weixin.qq.com/s/xjQtVE-i-n1N9a0AsR6BWw
• https://ai.googleblog.com/2019/10/video-architecture-search.htm

乾貨|深度學習中的正則化技術概述（附Python+keras實現代碼）

• https://mp.weixin.qq.com/s/29c831YAdPHmmythkXJUVQ
• https://www.analyticsvidhya.com/blog/2018/04/fundamentals-deep-learning-regularization-techniques/

深度學習中的Normalization模型

• https://mp.weixin.qq.com/s/DPB5g258IUFfcwpJ2ertiQ

資源|一份全面易懂的深度學習綜述

• https://mp.weixin.qq.com/s/c_V5cva75AJnmQqZAkcLVA
• https://arxiv.org/pdf/1807.08169v1.pdf

學習一波~各大煉丹師deep learning（rnn、cnn）的調參經驗

• https://mp.weixin.qq.com/s/ZfmwS7lmL2TdwXCBbOhRGQ

Pytorch有什麼節省內存（顯存）的小技巧？

• https://mp.weixin.qq.com/s/2tvSTR_wQ6V6BGA8F4D0tQ
• https://www.zhihu.com/question/274635237/answer/755102181

給訓練踩踩油門——Pytorch加速數據讀取

• https://mp.weixin.qq.com/s/jXaItEwH10-reaiH2pKztw
• https://zhuanlan.zhihu.com/p/80695364

深度學習基礎之 Dropout

• https://mp.weixin.qq.com/s/ECXiFq2UU1XIRH_JG8MD9g
• https://medium.com/towards-artificial-intelligence/an-introduction-to-dropout-for-regularizing-deep-neural-networks-4e0826c10395

---

APPLICATION

乾貨|實戰TextCNN 文本分類

• https://mp.weixin.qq.com/s/vq4-4M46okms5_sxw9PBQA
• https://github.com/dennybritz/cnn-text-classification-tf
• https://github.com/rongshunlin/ModifyAI

基於深度學習的音樂推薦系統

• https://mp.weixin.qq.com/s/O5VzcDiAWoBLYXKo4THIYQ
• https://yishuihancheng.blog.csdn.net/

基於深度學習的人臉識別系統實戰

• https://mp.weixin.qq.com/s/3s2k_3QlwLkM82fohOxwUw
• https://yishuihancheng.blog.csdn.net/

基於face_recognition構建的人臉識別系統及應用

• https://mp.weixin.qq.com/s/abGmTWPUmfGBastJ_5m8mA
• https://yishuihancheng.blog.csdn.net/

10分鐘搭建你的第一個圖像識別模型 | 附完整代碼

• https://mp.weixin.qq.com/s/293_qdmfV4TPPViPb_tHsQ
• https://www.analyticsvidhya.com/blog/2019/01/build-image-classification-model-10-minutes/

60分鐘入門PyTorch，官方教程手把手教你訓練第一個深度學習模型

• https://mp.weixin.qq.com/s/m_THl55Xc4D_EFWFpj-1GA

基於 CNN 的驗證碼破解實戰

• https://mp.weixin.qq.com/s/TqjSNo_PodiG7yD1JFVrtA
• https://yishuihancheng.blog.csdn.net/

從0到1，Airbnb的深度學習實踐經驗總結

• https://mp.weixin.qq.com/s/ZInnwb77CX4AobstMoL2Ow
• https://blog.acolyer.org/2019/10/09/applying-deep-learning-to-airbnb-search/