無所不能的深度學習？

從古到今，人類一直在探求科技的極限。隨着信息技術在21世紀的爆發，數據科學與人工智能技術迎來本身的春天，尤爲是以深度學習爲基礎的人工智能技術可謂是大放異彩，在諸多領域遠勝人類，而且如人臉識別這樣的技術也紛紛落地，甚至悲觀者認爲，機器智能時代來臨，假若某天機器有了自主思惟，人類將會面臨滅頂之災。但是，深度學習就如此無所不能嗎？答案是否認的！深度學習是利用深層神經網絡的技術，雖然在圖像識別等方面已經可以超越人類，可是它仍然有許多方面是不能完成的，本文列舉深度學習目前不能實現的一些領域，但願可以幫你們打開思惟，更好地認識深度學習。

深度學習的「能」

既是學霸，又是遊戲王

通常來講，多數人每一年能夠看300篇文獻，而IBM的Watson系統在10分鐘裏就能夠閱讀2000萬的文獻，顯而易見，深度學習的學習能力是遠遠大於人類的，是個十足的「學霸」。與此同時，在遊戲領域，不論是圍棋仍是dota2，深度學習有足夠的能力碾壓人類。因此深度學習既是學霸，又是遊戲王。

多才多藝

下棋，寫詩，做曲，藝術畫······2016年，阿爾法狗大勝李世石，2017年微軟小冰出版第一部詩集，隨後又開始轉向音樂創做·····深度學習已經慢慢變成琴棋書畫樣樣精通，多才多藝全能王。

從深度學習所取得的成果來看，它彷佛已經無所不能，在諸多方面超過了人類。

深度學習的「不能」

算法輸出不穩定，容易被攻擊

在圖像識別領域，咱們可能在一張圖像中只改變一個像素點的值，那麼輸出結果會發生巨大改變，這就是算法輸出不穩定致使的，這種細微的改變在人類看來微不足道，對於算法模型來講確不一樣。不只在圖像領域，天然語言處理領域也有這樣的問題。在問答系統中，在原始文本中隨機得加入一些簡單的詞，模型的理解能力大大下降。這種問題不只出如今深度學習，傳統機器學習更容易被攻擊。

模型複雜度高，難以糾錯或調試

在2016年阿法狗與李世石的大戰中，李世石贏了一局。在李世石的78手後，阿法狗的勝率便直線降低。若是能夠投降的話，那麼在李世石的第78手後，阿法狗應該會選擇投降，而並不會針對這一手進行相應的改進。此外，在深度學習進行翻譯時，不論是給模型什麼數據輸入，都會有一個有意義的輸出。此前的谷歌翻譯曾遇到過這樣的問題，在翻譯結果有明顯錯誤的時候，翻譯部門的工程師也很難去對模型修改，可見深度學習模型的複雜。

層級複合程度高，參數不透明

在圖像識別領域，咱們在模型的中間層中盡力去抓取圖像的特徵。在第一層的卷積層計算後，咱們對結果進行可視化，能夠很容易看出結果與原圖像有很大類似性。而後，隨着層數的加深，對中間其餘層的可視化，咱們徹底不能看出中間層所表明的意義。主要緣由在於感覺野的複合，並且每層的卷積核也會產生複合，加上一些模型會有本身特有的複合，如inception模塊的複合，殘差的複合，讓咱們難以從中間層的可視化中看到模型具體運行的結果。

對數據依賴性強，模型增量性差

深度學習是端到端結構，靈活性很是低。咱們將單個圖像拼接在一塊兒，人類很容易識別的內容，深度學習確無能爲力，可見其遷移能力較差。在「語義標註」和「關係檢測」這類問題中，人類能夠經過完成一個任務中的多個子任務，並將子任務整合的方式解決問題，而對於深度學習來講，多個子任務與一個總任務是徹底不一樣的兩個任務，須要不一樣的模型去解決問題。在數據量較小的狀況下，模型擬合能力較差。

專一直觀感知類問題，對開放性問題無能爲力

咱們小時候都曾學習過關於烏鴉喝水的故事。烏鴉在面對半瓶水，而本身的嘴夠不着水時，會往瓶子裏丟入石子，使得水面上升從而喝到水。此外，烏鴉在沒法撥開堅果時，它會把堅果丟在馬路上，讓來往的車輛碾壓從而遲到果實，在此過程當中，烏鴉可以經過觀察人行道的狀況學會判斷車輛是否會行駛以保障本身的安全。而鸚鵡也有本身的智能，在聽過人類重複說過的話後，鸚鵡可以很好地模仿人類說話。深度學習只能作到鸚鵡的智能，而作不到烏鴉的智能，可見其泛化能力之低。此外，深度學習也難以理解圖像背後的寓意。當一幅圖中出現奧巴馬與一羣大象時，深度學習僅僅能辨認圖中是一個男人與一羣大象，顯然圖做者倒是想透過圖片暗喻美國的兩黨之爭，通常來講，大象喻指美國民主黨。

機器偏見難以免，人類知識難以有效監督

這多是目前深度學習面臨的最大問題。數據是深度學習的基礎，而數據的可靠程度決定了模型的可靠程度。微軟層開發聊天機器人Tay，模仿年輕網民的語言模式。可是試用24小時後便被引入歧途，成爲偏激的種族主義者，甚至發出了「希特勒無罪」的消息。緣由在於年輕的網民自己的語料庫並非純淨的，是人就會有偏見，這種偏見在網絡中尤爲嚴重，這樣便致使了Tay用來訓練的數據帶有偏見，並使得Tay誤入歧途，而人類知識的監督很難有效採用，這就沒法避免機器的偏見。另外一個例子，美國法院用以評估犯罪風險的算法COMPAS，也被證實對黑人形成了系統性歧視。機器偏見沒法消除，往後可能會給人類帶來嚴重的後果。

總結

不能否認，深度學習能夠在特定領域超過人類，有很好的效果，但它並不是萬能。某種意義上說，它離智能還差很遠。目前，對深度學習的泛化性與可解釋性的呼聲愈來愈高。2017年7月，國務院在《新一代人工智能發展規劃》中提出「實現具有高可解釋性，強泛化能力的人工智能」。或許下一代人工智能技術仍是在深度學習基礎之上展開，可是但願新的技術可以很好地解決如今深度學習的不能，更好地造福人類！