NeurIPS 2019現場直播：9場Tutorial吸引大批觀衆！

"會議之眼"前方直播：

9場tutorial讓你一飽眼福！NeurIPS的tutorial一向以內容系統、結構嚴謹著稱。參與tutorial的現場觀衆也是多不勝數。

此次大會的tutorial部分從加拿大時間早上8：30開始，至下午5：00結束，爲期一整天，主題分別是：模仿學習在自然語言生成中的應用、人類行爲建模、貝葉斯與深度學習、高效處理深度神經網絡、用於計算生物學和大健康的機器學習、分佈和模型的可解釋比較、強化學習、綜合控制、表徵學習與公平。（ppt後續會以資料形式發送給大家，記得持續關注呀！）

模仿學習與自然語言生成

模仿學習是介於強化學習與監督學習之間的一種學習範式。當我們在進行自然語言生成任務時，模仿學習可以使得我們既不依賴監督學習，也不依賴於稀疏的強化學習，而是通過探索系統中潛在次優「專家」的可用性來實現，而這些次優「專家」則會沿着策略的執行軌跡進行監督。

教程的第一部分展示了模仿學習的概念和適用範圍，以及實際使用的模仿學習算法；隨後針對自然語言生成實例，講解如何通過模仿學習解決其問題，以及提供對應的學習策略。

人類行爲建模

人類的行爲受到多種複雜因素的影響。隨着研究的深入，針對人類行爲的計算機科學領域也涌現出了許多方向，包括人機交互、情感計算、社會信號處理、計算社會科學、自洽系統、智能醫療、客戶行爲分析、城市計算等。這一教程從多個不同的角度介紹了這一迅速發展的領域，並介紹了用於自動解讀複雜行爲數據的各類工具。其次，演講者通過對現有案例的分析和解讀，期待更多的研究人員意識到這一領域的研究價值，以構建出真正理解人類的智能交互系統，加深對於人類個體及整體行爲的理解。

貝葉斯與深度學習

深度學習與貝葉斯方法是兩個完全不同又相互補充的領域。雖然將兩個領域進行結合可以得到更好的結果，但該如何結合、從哪些方面去結合是一個值得深入思考的問題。

這一教程詳細介紹了貝葉斯的理論和方法，以期彌合兩者間的鴻溝。基於這些原理可以推導出一系列針對特定問題的方法，從類似線性迴歸和前向傳播一類的分類算法，到現代深度學習中重要的優化方法如SGD、RMSprop和Adam等。這些觀點也能促進深度學習從新的角度進行改進，包括不確定性、魯棒性和可解釋性等。此外還將爲一些複雜的困難問題給出解決方法，包括交互學習、連續學習和強化學習等等。該教程爲貝葉斯和深度學習的研究人員們搭建起溝通的橋樑，未來研究人員們將一同攜手解決充滿挑戰的實際問題。

高效處理深度神經網絡：從算法到硬件架構

如何儘可能地提高深度學習的效率，無論是對於訓練還是推理過程、數據中心還是邊緣設備等領域，都是一直以來的重要議題。本教程從軟件算法和硬件架構的角度爲參與者呈現了高效深度學習的實現方法體系，充分考慮了不同平臺、算法和場景中性能與功耗的平衡。

教程中介紹了CPU、GPU、FPGA和ASIC等多種硬件，並重點介紹基準測試/比對指標和評估DNN效率的設計方法。隨後從硬件體系結構和網絡算法方面描述了降低DNN計算成本的最新技術。最後還討論瞭如何將高效技術應用於處理和計算機視覺任務上。

用於計算生物學和大健康的機器學習

AI醫療永遠處於投資和科研的風口地段。現如今的我們無論是作爲病人、科學家還是人類，都將受益於機器學習與生物學的協同發展。演講者在這一教程中爲參與者講解了目前生物學的主要研究領域，包括遺傳學、微生物組、臨牀數據、影像學和藥物設計，並將重點放在了生物學、醫學與機器學習交叉領域的最新進展，同時還討論了一系列開放性的問題和所面臨的挑戰，爲機器學習和生物信息領域的研究人員搭建起了溝通和交流的橋樑。

分佈和模型的可解釋比較

現在機器學習的研究人員已經爲高維的真實數據開發出了越來越複雜的模型，包括圖像和文本數據都得到了有效地處理。但這些複雜的模型有一部分是隱式模型，在生成樣本時沒有特定的概率分佈函數；另一部分顯性的模型通過指定分佈函數構建十分複雜的結構，但卻難以高效的進行採樣和歸一化。

這一教程爲研究人員提供了最新的非參數工具來評估顯式和隱式的模型。針對隱式模型，將模型中的採樣數據與真實數據進行比較；針對顯式模型，定義了Stein算子在無需歸一化概率分佈的情況下使用模型與數據進行比較。針對兩種情況，通過相對測試來選取最佳模型，並強調可解釋的測試，將模型與數據以不同的方式傳遞給用戶。

強化學習：過去，現在和未來

強化學習是一種關於學習和決策的系統性方法。多年來的發展以及與深度學習的結合，使得現代強化學習系統展現出了舉世矚目的成就，也使得各個領域對於強化學習的研究空前高漲。這一教程講解了強化學習的理論基礎，涉及內容從目前針對強化學習的基本觀點到複雜的行爲建模，同時也分享了對於強化學習現狀的看法，未來所面臨的機遇與挑戰。

綜合控制

當隨機對照試驗的「金標準」不可行時，在Abadie和Gardeazabal（2003）中引入的綜合控制方法已成爲一種流行的經驗方法，用於通過觀察數據估算因果效應。Atheyand Imbens（2015）在經濟學領域的因果推論和程序評估方法的最新調查中，將綜合控制方法描述爲「可以說是過去十五年來評估文獻中最重要的創新」。儘管該方法最初僅僅被用在評估文獻中，但最近綜合控制已在社會科學，生物科學，工程學乃至體育領域得到了更廣泛的應用。

本教程討論了有關綜合控制的方法論方面，數學基礎和經典的案例研究。演講者描述了綜合控制可能有效和可能失效的實際環境；綜合控制在政策評估，零售和體育活動中應用的案例；討論了合成控件與矩陣和張量估計，高維迴歸和時間序列分析的數學聯繫；最後討論了在強化學習的下一輪發展中，綜合控制可能發揮的作用。

表徵學習與公平

目前廣泛採用的機器學習模型可能會導致歧視性的結果，並加劇訓練數據之間的差異。隨着越來越多的機器學習被應用於現實世界中的決策任務，我們必須解決機器學習中存在的偏見和公平問題。

本教程介紹了現有的研究，並提出了在表徵學習和公平性的交集中存在的開放性問題。探討了研究學習公平的，與任務無關的表徵形式的可能性；公平性與泛化性能之間的聯繫；以及如何利用表徵學習工具來實現算法中的個體和羣體公平性。