2016深度學習統治人工智能？深度學習十大框架

2015 年結束了，是時候看看 2016 年的技術趨勢，尤爲是關於深度學習方面。新智元在 2015 年末發過一篇文章《深度學習會讓機器學習工程師失業嗎？》，引發很大的反響。的確，過去一年的時間裏，深度學習正在改變愈來愈多的人工智能領域。Google DeepMind 工程師 Jack Rae 預測說，過去被視爲對於中型到大型數據集來講最佳的預測算法的那些模型（好比說提高決策樹（Boosted Decision Trees）和隨機森林）將會變得無人問津。 

深度學習，或者更寬泛地說——使用聯結主義架構的機器學習算法，可能會讓機器學習算法變成過去時，由於深度學習算法還遠遠不是飽和狀態。在將來的幾年裏，頗有可能會出現一些訓練深度神經網絡的方法，讓它們可以顯著提高性能。在優化方法、激活功能、聯結結構以及初始化步驟之間，還有一些突破出現的空間。

這極可能讓不少機器學習算法接近出局的邊緣。

那麼，2016 年是否能看做深度學習正式統治人工智能的一年？若是是這樣，咱們又能爲此作好什麼準備？新智元整理了業內人士關於 2016 年的深度學習技術展望，以及 2015 年深度學習最流行的 10 大框架。

 

深度學習十大技術展望

 

IIya Sutskever：OpenAI 的研究部負責人

咱們期待看到更深度的模型（Deeper Models），相比今天的模型，它們能夠從更少的數據中學習，尤爲是在非監督學習方面，會有顯著的進步。咱們還能夠期待，在語音識別和圖像識別領域，咱們能看到更加精準並且有用的結果。

Sven Behnke：波恩大學全職教授，智能系統小組主任

我期待深度學習技術，會在那些日益增多的多結構數據問題中獲得應用。這會給深度學習帶來新的應用領域，包括機器人，數據挖掘和知識發現。

Christian Szegedy：Google 高級工程師

如今的深度學習算法和神經網絡，距離理論上可能的表現還很遠。相比一年之前，咱們如今的視覺神經網絡模型，它的價格便宜了 5 到 10 倍，處理的參數少了 15 倍，但表現的還更好。這背後是更好的網絡結構和更好的訓練方法。我相信這僅僅是開始，深度學習算法會如此便宜，它能運行在便宜的手機設備中，並且不用更多的硬件設備支撐，也不須要額外的存儲器。

Andrej Karpathy：斯坦福大學計算機科學博士，OpenAI 的研究工程師

我看到了一個趨勢，結構會趨於更大，更復雜。咱們會建造一個超大型的神經網絡，可以交換神經網絡組件，提早訓練部分網絡，增長新的模塊，連帶調整全部組件。例如，卷積神經網絡曾經是最大的深度神經網絡，可是今天它們被分離出來，做爲新的大型神經網絡一部分。類似的，如今的這些神經網絡，也會是新一年更大型神經網絡的一部分。咱們在學習樂高玩具的拼法，學會如何把它們高效拼接在一塊兒。

Pieter Abbeel：UC 伯克利大學助理教授，Gradescope 聯合創始人

依賴於監督技術的深度學習垂直領域，須要用新的方法（NLP）超過現有的技術表現。咱們會看到深度學習在非監督學習和加強學習方面的突出表現。

Eli David：Deep Instinct CTO

在過去兩年，咱們看到了深度學習在各個領域得到很大突破。但即使如此，5 年以內並不會達到人類水平的聖盃（但我認爲，終其一輩子這會出現）。咱們在各大領域看到極大的突破。特別的，我認爲最具備但願的領域，來自於非監督學習，這個世界的大部分數據是沒有標籤的，並且咱們大腦自己，也是很是好的非監督學習盒子。

當 Deep Instinct 成爲第一個在安全領域使用深度學習的公司時，能夠預計有更多的公司也會使用深度學習來部署。可是深度學習的門檻仍是很是高，尤爲對於互聯網安全公司來講，他們其實並不使用人工智能工具（只有不多的解決方案使用了傳統的機器學習技術）。因此深度學習要在安全領域獲得大規模應用，還會通過不少年的時間。

Daniel McDuff：Affectiva 研究主管

在計算機視覺、語音分析以及其餘領域，深度學習已成爲機器學習中的支配形式。我但願使用 1 到 2 個 GPUs 就能部署的準確識別系統，可以讓開發者們把新的軟件部署到真實世界。我但願更多的焦點會放在非監督訓練，或者半監督訓練的算法上。

Jörg Bornschein：Google 學者，在加拿大前沿技術研究院（CIFAR）

預測將來老是很難的。當咱們在大規模系統裏考慮機器學習，在機器人控制的系統領域，或者在大規模系統裏的大腦系統，非監督、半監督和強化學習會扮演愈發重要的角色。很明顯的是，單純的監督學習方法在理論上受到太多限制，很難解決實際問題。

Ian Goodfellow：Google 高級研究工程師

我預測在將來5年的時間裏，咱們的神經網絡能夠歸納視頻裏發生了什麼，並且有能力生成短視頻。神經網絡已經成爲視覺任務的標準解決方案。我預測神經網絡會成爲 NLP 和機器人任務的標準解決方案。我還預測神經網絡會在其餘科學領域扮演重要工具，例如在基因行爲預測，藥物，蛋白質，新的醫療方案等。

Koray Kavukcuoglu & Alex Graves：Google DeepMind 研究工程師

不少事情會在將來 5 年發生。咱們預測非監督學習和加強學習愈加重要。咱們也預測多方式學習（Multimodal Learning）的興起，並且會超越個體數據集進行學習。

 

2015 深度學習十大頂級框架

 

1.Keras

Keras 是很是極簡、高度模塊化的神經網絡庫，用 Python 寫成，並且能運行在 TensorFlow 和 Thenao 的頂層。它的設計初衷是實現更快的實驗，讓從想法到結果的時間儘量少，這是作好研究的關鍵所在。

2.MXNet

輕量、便攜、靈活性強的分佈式/移動深度學習系統，並能對動態的、突變的數據流進行調度。MXNet 能支持 Python、R、Julia、Go、Javascript 等編程語言，是出於效率和靈活性設計的深度學習框架。它可以給深度學習程序增長一些小佐料，並且能最大化產品效率。

3.Chainer

深度學習的神經網絡靈活框架。Chainer 支持各類網絡架構，包括 Feed-forward Nets、Convnets、Recurrent Nets 和 Recursive Nets。它也支持 per-batch 的架構。Chainer 支持 CUDA 計算，它在驅動 GPU 時只須要幾行代碼。它也能經過一些努力，運行在多 GPUs 的架構中。

4.Sickit-Neuralnetwork

深度神經網絡的實施，並且沒有學習崖（Learning Cliff）。這個庫可以執行多層感知器，自動編碼器和遞歸神經網絡，它運行在穩定的 Future Proof 交互界面，並能和對用戶更加友好的 Scikit-Learn 以及 Python 交互界面兼容。

5.Theano-Lights

Theano-Lights 是基於 Theano 的研究架構，提供最近一些深度學習模型的實現，以及便於訓練和測試功能。這些模型不是隱藏起來的，而是在研究和學習的過程當中，有很大的透明性和靈活性。

6.Deeppy

基於 Theano 高度擴展性的深度學習框架。

7.Idlf

Intel 的深度學習框架。

Intel Deep Learning Framework（IDLF）是一個 SDK 庫，爲深度神經網絡提供訓練和執行。

它包括一些 API，可以把構建神經網絡拓撲做爲計算工做流程，進行函數圖形優化並執行到硬件。咱們最初的重點是驅動部署在 CPU（Xeon）和 GPU（Gen）上神經網絡的物體識別（ImageNet 拓撲）。

這個 API 的設計，使咱們將來能很容易支持更多的設備。咱們的關鍵原則是在每一個 Intel 支持的平臺上實現最大性能。

8.Reinforcejs

Reinforcejs 是一個加強學習庫，可以執行常見的加強學習算法，並且能夠作 Web 端的 Demos。這個庫如今包括：

動態規劃方法（Dynamic Programming Methods）

時間差分學習（Temporal Difference Learning）（SARSA/Q-Learning）

Deep Q-Learning

Stochastic/Deterministic Policy Gradients 和 Actor Critic 架構

9.OpenDeep

OpenDeep 是服務於 Python 的一個深度學習框架，創建在 Theano 的基礎上，專一在靈活性和易用性，爲行業的數據科學家和前沿研究者服務。OpenDeep 是一個模塊化、易擴展的架構，可以用來構建幾乎全部的神經網絡框架，以解決你的問題。

10.MXNetJS

MXNetJS 是一個 DMLC/MXnet 的 Javasript 包。MXNetJS 能給瀏覽器帶來最新水平的深度學習預測 API。它經過 Emscripten 和 Amalgamation 運行。MXNetJS 容許你在各類計算圖像中，運行最新水平的深度學習預測，並給客戶端帶來深度學習的樂趣。

 

 

原文地址：http://www.oschina.net/news/69618/ten-major-frameworks-for-artificial-intelligence