Python貓薦書系列:文也深度學習,理也深度學習

 

最近出了兩件大新聞,相信你們可能有所耳聞。python

我來當個播報員,給你們轉述一下:程序員

一、中國隊在第 11 界羅馬尼亞數學大師賽(RMM)中無緣金牌。該項賽事是三大國際賽事之一,被譽爲中學奧數的最高難度。其中一道題,令中國隊全軍覆沒。算法

二、一個出自清華姚班,畢業於斯坦福的女博士,她的畢業論文成了學術圈的「爆款」。這篇論文研究的主題是——如何讓機器學會理解人類語言?編程

天天的新聞多如牛毛,惟獨這兩件引發了個人注意。它們跟本期的薦書欄目也是強關聯,下面就給你們說道說道。網絡

上圖標出了中國隊成績最好的三名隊員。前兩人在其它題目所有滿分的狀況下,第三題居然是 0 分!什麼樣的題目能讓咱們的頂尖高手都一籌莫展呢?函數

算了,題目我就不放出來了(我看不懂,不自找其辱。總之大家知道它很難就得了)。可是,那道題是圖論的問題,關於圖論,咱們能夠說說它跟計算機科學的關係。性能

圖論是數學的一個分支,它研究的最著名問題有柯尼斯堡七橋問題四色地圖問題 ,相信你們都曾見過,而在計算機領域,它也帶來了諸多的研究成果:最小生成樹問題、旅行商問題(NP困難)、拓撲排序算法、廣度優先算法、深度優先算法,等等。學習

奧數就這樣跟程序員的職業聯繫了起來。然而,更值得一提的是第二個新聞:它研究的是人工智能領域最前沿的話題,想構建一個在深度神經網絡之上的閱讀理解模型 。簡單地說是,教會計算機來閱讀文本的能力。優化

這項研究與你們熟知的數字我的助理不一樣(如 Alexa、Siri、Google Assistant、Cortana),它的難度超越了簡單會話與信息匹配的通常性問題,想克服的是文本級閱讀理解,與開放性問答等高度抽象層面的難關。編碼

它的研究成果將給數字我的助理帶來質的提高,而對於人類語言文本的閱讀理解能力,也必然帶來更廣闊的應用前途。這一切,都歸功於深度學習。

深度學習是我很感興趣的領域。

咱們有幸生在這個時代,見證了 AlphaGo 戰勝人類的頂尖棋手,正在見證各類 AI 技術的出現,無人駕駛、醫療診斷、AI 翻譯、金融科技、深度法律……

咱們的將來將被人工智能深遠地影響。

本期Python 貓薦書欄目(系列之六),就以此爲話題,推薦給你們兩本書:

它們都叫《深度學習》,可是內容很不同。

第一本從應用數學,到深度學習的各類模型、算法與科研問題,走的是極其專業的路線。

而另外一本講的是深度學習的 60 年發展史,以及對智能時代的一些前瞻性預測,走的是通俗科普的路線。

若是要強行劃分的話,前一本屬理科,主要給相關領域的學生與程序員閱讀,然後一本則屬文科,面向全部對人工智能的歷史與將來感興趣的人羣。

事實上,第一本書被不少人譽爲深度學習的聖經,知名度極高,有一個暱稱叫做「花書」。

簡單梳理一下它的內容:

  • 第一部分是深度學習的基礎,包含線性代數與機率論等數學知識,以及梯度優化、擬合、誤差、最大似然估計與監督學習等基礎概念;
  • 第二部分是深度學習的關鍵部分,涉及深度前饋網絡、正則化、模型優化的方法、卷積網絡、序列建模、與實踐應用內容;
  • 第三部分是深度學習研究,例如線性因子模型、自編碼器、表示學習、結構化機率模型、蒙特卡羅方法、直面配分函數、近似推斷、深度生成模型,等等。

要知道,本專欄是興趣大於能力,沒辦法深刻剖析這本書的精華,再講出些令行家也折服的話,可是,這本書值得推薦之處也很顯著:它是一種正統的、學院派的、知識全面的、一絲不苟的、偏重理論的書籍,沒錯,正像是大學裏相關專業的指定參考書。

這就意味着,若是想進入深度學習領域,這本書將是你最好的老師。(並且不用考試,手動滑稽)

至於第二本《深度學習》,書的副標題是「智能時代的核心驅動力量 」。其實這只是翻譯的結果,原書的英文名是《The Deep Learning Revolution》。

20 世紀 70 年代到 90 年代是深度學習(神經網絡)的寒冬,本書做者既是深度學習的先驅與奠定者,也是打破此寒冬,令深度學習東山再起的大功臣。他名叫特倫斯·謝諾夫斯基 (Terrence Sejnowski)。

特倫斯是誰呢?世界十大AI科學家之一,美國四大國家學院(國家科學院、國家醫學院、國家工程院、國家藝術與科學學院)在世僅3位的「四院院士 」之一,全球AI專業會議NIPS基金會主席。

深度學習的核心技術玻爾茲曼機 ,正是由特倫斯與傑弗裏·辛頓共同創建的。

那書的內容是什麼呢?這本書在前言中稱:這是一本關於深度學習的過去、如今和將來的指南。 在如此宏觀的視角下,它主要講到了一些重要概念的發展、科研羣體研究的內容和傳承,以及深度學習對當今社會的影響。

也就是說,它再也不關心微觀的原理、底層的細節、繁複的邏輯。與第一本書的調性大相徑庭。

這本書以第一人稱視角講述,帶入了不少我的的動態:讀書經歷、研究課題、演講與會議、人際關係、趣聞、甚至還有八卦(例如差點跟女友分手的一次會議。PS:他們在一塊兒了,如今也沒分開)。

所以,第二本書的閱讀門檻不高,還饒有趣味。

往期薦書回顧:
第一期:《編寫高質量代碼改善 Python 程序的 91 個建議
第二期:《Python最佳實踐指南
第三期:《黑客與畫家
第四期:《Python源碼剖析
第五期:《Python高性能編程

-------------薦書完-------------

世事無巧不成書。彷佛每期薦書都會發生一些巧合,所以我得額外交代幾句:

一、我早知第一本書的大名,也翻看過數學部分的一些內容,可是興趣就止步於此。有打算納其入薦書系列,但沒想到會這麼快。至於第二本書,剛好是在上期薦書發佈後,中信出版社的營銷人員找我約稿,當時這本書還沒上市。我並不是深度學習領域的專家,只能寫寫旁觀者的言語,既然沒法深刻,乾脆就將它們湊在一塊兒了。

二、薦書欄目不是專業書評,沒法講透全書的技術精粹,但我仍大着膽寫了(之因此拖了這麼久才動筆,就是由於過於擔憂)。一方面逼使本身閱讀和查資料,快速概括與寫做;另外一方面也確實是但願經過本身的文筆,可以使一部分讀者獲知到原先不知的信息,產生閱讀的興趣。

三、就在前幾天(2 月 28 日),一位知名的 Python 博主@Vamei 因抑鬱症自殺了。我在看資料的時候,發現他也寫了第二本《深度學習》的書評。他發佈的時間是 1 月 31 日,而在這個時間,新書還未上市。這意味着他可能跟我同樣,都收到了出版社的預讀本,咱們就是那麼巧合地在一樣的時間裏閱讀着同一本還未上市的新書。我想,這本書大概就是在給我傳遞一個訊息。我有不少次想過放棄邀約(無稿費,贈書一本)、放棄寫這一篇薦書,直到前幾天才真正開始動筆。這個神祕的訊息就這麼巧地傳過來了。薦書,見人。

四、Vamei 的豆瓣主頁寫道:

Vamei 是赤道附近一個颱風的名字。按照氣象規律,颱風不常出如今赤道。因此,Vamei是一個離羣的風,無所顧忌地生長,不着邊際地遊蕩。

五、Vamei的書評:https://book.douban.com/review/9928103/

相關文章
相關標籤/搜索