深度學習如今是一個很是火爆的領域，很難對其快速的發展一一記錄。git
今年早些時候，做爲嘗試記錄深度學習領域進展的第一步，本文做者Ross Taylor建立了網站Papers With Code。該網站是一個將深度學習研究論文與其實現代碼相鏈接的社區。github
Papers With Code：www.paperswithcode.comweb
這個網站也使得做者對深度學習領域有了一個全面的瞭解。基於此，經過本文咱們能夠看到AI的研究趨勢是什麼，社區正在採用哪些框架，以及哪些技術正在受到青睞。微信
最受歡迎的發佈：BERT，vid2vid和graph_nets網絡
Google AI的BERT論文在10月份引發了深度學習界的關注。本文提出了一種深度雙向編碼器模型，該模型可實現11種NLP任務的最早進性能，包括斯坦福問答（SQUAD）數據集。 Google AI開源了他們論文的代碼，這是深度學習庫類別中，得到最多的「星星」的開源代碼。架構
論文下載地址：框架
https://arxiv.org/abs/1810.04805機器學習
論文代碼：ide
https://github.com/google-research/bert性能
NVIDIA的一篇關於視頻到視頻合成的論文，是生成建模的又一個驚人結果，生成模型是過去幾年中最受歡迎的深度學習領域之一。該文利用新穎的順序生成器體系結構，以及諸如前景和背景先驗等許多其餘設計特徵，修復了時間不連貫的問題、提升性能。 NVIDIA開源了他們的代碼，歡迎程度位居第二。
論文下載地址：
https://arxiv.org/abs/1808.06601/
代碼地址：
https://github.com/NVIDIA/vid2vid/
谷歌DeepMind關於圖形網絡的論文在今年年中受到了不少關注。圖形網絡是深度學習開始嘗試的新型結構化數據（大多數深度學習應用都是基於向量和序列）。此開源庫的受歡迎程度排列第三。
論文下載地址：
https://arxiv.org/abs/1806.01261v3
代碼：
https://github.com/deepmind/graph_nets/
最受歡迎的社區：DeOldify，BERT和Fast R-CNN
DeOldify
DeOldify使用SA-GAN，這是一個從PG-GAN得到靈感的架構，應用兩個時間尺度的更新規則。
DeOldify項目很是迷人。做者Jason Antic復現了許多生成建模領域的論文，包括自注意力GAN，逐步增加的GAN和兩個時間尺度的更新規則。在撰寫本文時，該項目的代碼在GitHub上有超過4,000顆星。
DeOldify：https://github.com/jantic/DeOldify
BERT
基於PyTorch框架而實現的BERT也很是受歡迎。深度學習社區不斷涌現的代碼每每不是基於Tensorflow就是基於PyTorch，同時用兩個框架實現的需求愈來愈大，這樣能夠方便整個深度學習社區使用它們。 做者Junseong Kim的工做清楚地說明了這一點。目前，這個項目的代碼在github上享有超過1,500個星星。
BERT：https://github.com/codertimo/bert-pytorch
Mask R-CNN
最後，Waleed Abdulla的基於Keras / TensorFlow實現Mask R-CNN是GitHub第三個得到星數最多的代碼。在架構上，該實現使用特徵金字塔網絡和ResNet101基礎網絡，而且該庫可用於許多應用，例如3D建築物重建，自動駕駛汽車的物體檢測，地圖中的建築物類型探測等。該庫在GitHub上有超過8,000顆星。
論文下載地址：
https://arxiv.org/abs/1703.06870
代碼：
https://github.com/matterport/Mask_RCNN
最熱門應用：NLP和GAN
在前50個流行的實現應用中，生成模型和天然語言處理（NLP）是兩大最熱門領域。對生成模型而言，GitHub上的流行實現包括：vid2vid，DeOldify，CycleGAN和faceswaps。而在NLP中，流行的GitHub庫包括BERT，HanLP，jieba，AllenNLP和fastText。
7篇新論文中1篇有代碼
你的研究沒有代碼，你在社區上就不會備受關注，規則就是這樣簡單。如下是做者分析他本身平臺上的論文代碼復現狀況：
分析基數是過去5年中60,000多份機器學習論文，在6萬篇論文中，將近12％有代碼實現。在過去的6個月中，約15％的新發表論文（即七分之一的論文）都發布了實現代碼。
每隔20分鐘，就有一篇新的機器學習論文
自7月以來，機器學習論文的增加率一直在每個月3.5％左右，以此計算，每一年的增加率約爲50％。這意味着每個月大約2,200篇機器學習論文，預計明年將有大約30,000篇新的機器學習論文。
在過去3年中，做者網站上的機器學習論文的數量彷佛比摩爾定律的增加速度更快，這讓你感受人們相信這將是將來計算技術價值的出處。
框架雙頭壟斷：TensorFlow和PyTorch
雖然PyTorch並不落後，但網站上的大多數實現彷佛都是基於TensorFlow的。其餘的框架（MXNet，Torch和Caffe2）在生態系統中的存在要小得多。鑑於兩個框架中都發生了變化：TensorFlow正朝着即刻執行和由Keras激發靈感的新API方向發展；PyTorch則但願可以更輕鬆地把模型產品化。
相關報道：
https://medium.com/atlas-ml/state-of-deep-learning-h2-2018-review-cc3e490f1679
秉承「普及數據思惟，傳播數據文化,助⼒產業發展」的企業⽂化,咱們專一於數據領域的資訊、案例、技術，造成了「媒體+教育+⼈才服務」的良性⽣態,致⼒於打造精準數據科學社區。
轉載聲明：
本文是轉載，原文地址
https://www.jiqizhixin.com/articles/2018-12-14-19
點擊下方閱讀全文便可查看原文
- End -
本文分享自微信公衆號 - AI MOOC人工智能平臺（AIMOOC_XLAB）。
若有侵權，請聯繫 support@oschina.cn 刪除。
本文參與「OSC源創計劃」，歡迎正在閱讀的你也加入，一塊兒分享。