生物智能與AI——關乎創造、關乎理解（上）

摘要： 原來人工智能跟人類智能有那麼深的聯繫！

幾百萬年前，第一次人類智能的星火出如今非洲大陸，而且持續發展，最終在大約10萬年前在智人的大腦中達到頂峯。做爲現代人類，咱們只能想象咱們的古代祖先在窺視夜空時所經歷的事情，以思考物理現實的本質，以及從心裏窺視本身心理現實的本質。在過去的幾百年裏，咱們的物種經過發現控制空間、時間、物質和能量的基本數學定律。在發展對物理現實的精確理解方面取得了巨大的智力進步，如今已經在量子力學的大框架中被編纂。然而，咱們正處於探索心理現實本質的最初階段。尤爲是人類智能是如何從100億個突觸鏈接的1000億個神經元的生物溼件中產生的？神經科學，心理學和認知科學等現代學科在過去100年中取得了重要進展，爲解決這一重大問題奠基了基礎。

可是，當涉及到咱們的心智能力時，對於現代人來講，僅僅理解它們是不夠的，咱們很是但願在無生命系統中重現這些功能。本質上，人類做爲進化的產物，有時也渴望扮演創造者的角色。這種嚮往滲透在人類文學的做品，事實上，人工智能（AI）這個新興領域，一般與神經科學，心理學和認知科學領域合做，在創造具備相似人類能力的機器方面取得了巨大進步。在這篇文章中，我將進一步探討人工智能，神經科學，心理學和認知科學以及數學，物理和社會科學中的聯合學科在過去和將來將繼續如何共同努力追求交織在一塊兒的理解和創造智能系統的過程。

生物學與人工智能之間的富有成效的合做

在過去的60多年中，AI的發展受到了神經科學和心理學的深入影響，其中也受到了神經科學和心理學的啓發。在早期的幾十年中，許多AI從業者在神經科學和心理學方面進行了很好的研究。在這裏，我提供了神經科學，心理學和AI之間過去的相互做用：

l  這種相對簡單的元素（神經元）的分佈式網絡可以實現源於神經科學的人類智能的顯着計算，而且如今以神經網絡的形式滲透到AI系統中。這個想法並不老是顯而易見的，在大約一百年前，在高爾基和卡哈爾之間的著名辯論以後，它才變得堅決。

l  包括多維尺度和因子分析在內的各類降維技術最初是在心理測量學研究的背景下開發的。

l  著名的神經科學家霍勒斯·巴洛（Horace Barlow）發明了分解代碼的概念，這反過來啓發了獨立成分分析（ICA）和當前的AI研究，旨在解開數據變異的獨立因素。

l  托爾曼在認知圖上的工做提供了方向，使得咱們可使用這些模型進行規劃和導航。這鞏固了內部模型造成做爲動物智能的關鍵組成部分的思想，這部分目前處於人工智能研究的前沿。

l  Hopfield網絡是理論神經科學的一個模型，爲思考分佈式、可尋址的存儲器和檢索提供了一個統一的框架，也啓發了Boltzmann機器，這反過來又爲證實深度神經網絡模型的成功提供了關鍵的第一步。它還啓發了許多弱約束的分佈式以知足做爲AI計算模型的想法。

l  目前主導機器視覺的深層卷積網絡的關鍵核心直接受到大腦的啓發。其中包括腹側流中的分層視覺處理，它代表深度的重要性;視網膜的發現是整個視覺皮層的組織原理，致使卷積的出現;發現簡單和複雜的細胞激發了最大池化等操做。

l  關於稀疏編碼的研究工做是爲了理解初級視覺皮層中定向邊緣檢測器，致使稀疏編碼成爲現代AI系統中的基本構建塊。

l   時序差分學習等算法如今是強化學習領域的基礎，它受到經典條件反射的動物實驗的啓發。

l   反過來，強化學習對基底神經節功能的解釋具備顯着影響，其中多巴胺能爲基底神經節提供了很是重要的獎勵預測偏差信號，該信號也驅動許多強化學習算法。

l 大腦中存儲系統的模塊化啓發了現代記憶神經網絡，其在必定程度上將存儲器存儲和執行控制電路的操做分開，其決定什麼時候從存儲器讀取和寫入。

l 人類注意力系統激發了注意力機制和神經網絡的結合，這些神經網絡能夠被訓練以動態地注意力或忽略其狀態和輸入的不一樣方面以進行將來的計算決策。

l 語言學和認知科學中正式生成語法的發展致使機率語法的發展和CS的解析。

l Dropout等現代正則化技術的靈感來自於神經動力學的內在隨機性。

人工智能將來的生物學啓示

儘管當前人工智能系統在監督模式識別任務方面取得了顯著的商業成功，但仿真人類智能仍然有很長的路要走。在這裏，我將概述一些我的觀點，其中我認爲生物學和人工智能領域能夠攜手前進。

1、生物學上可信的信用分配（plausible credit assignment）

信用分配問題多是神經科學和人工智能領域最大的開放性問題之一。很明顯，假設你正在打網球並且你沒有擊中球。你的100萬億個突觸中有哪個應該受到指責？大腦如何在你的運動系統中專門找到並糾正突觸組，尤爲是在錯誤發生後幾百毫秒內經過視覺系統傳遞錯誤時？在AI中，這種信用分配問題在許多狀況下經過多層計算的反向傳播來解決。然而，目前尚不清楚大腦如何解決這個問題。真實的狀況是，大腦使用本地學習規則解決它：即每一個突觸僅使用物理上可用的信息來調整其強度，例如，由突觸鏈接的兩個神經元的電活動來獎勵和懲罰的任何神經調節輸入。解釋這些本地突觸規則是什麼以及它們如何工做可能會對AI產生巨大影響，這能夠必定程度上減小反向傳播的通訊開銷。但更通常地說，解決困擾神經科學和人工智能的常見未解決問題應該經過將突觸生理學家，計算神經科學家和AI從業者彙集在一塊兒來集體解決生物學上可信的信用分配問題來推進進步。

2、融合突觸複雜性

生物和人工神經模型之間的主要區別在於咱們模擬鏈接神經元的突觸的方式。在人工網絡中，突觸由單個標量值建模，反映乘法增益因子，轉換神經元的輸入如何影響神經元的輸出。相反，每一個生物突觸都隱藏在極其複雜的分子信號通路中。例如，咱們對最近事件記憶的海馬突觸各自包含數百種不一樣類型分子的化學反應網絡，同時它具備整個複雜時間處理能力的動力系統。

在看到這種複雜性後，理論家或工程師可能會試圖簡單地將其視爲生物學上的混亂，而這種混亂就是一種進化的偶然事件。然而，理論研究代表，這種突觸複雜性可能確​​實對學習和記憶相當重要。事實上，在突觸具備有限動態範圍的記憶網絡模型中，這樣的突觸自己就要求是具備複雜時間濾波特性的動態系統，以實現合理的網絡存儲容量。此外，最近在AI中正在利用更智能的突觸做爲解決災難性遺忘問題的一種方法，其中訓練學習兩個任務的網絡只能學習第二個任務，由於學習第二個任務會改變突觸權重以這種方式消除從學習第一項任務中得到的知識。

通常地說，咱們的人工智能系統極可能經過忽略生物突觸的動態複雜性而取得重大的性能提高。正如咱們爲咱們的網絡添加空間深度以實現複雜的層次表示同樣，咱們可能還須要爲突觸添加動態深度以實現複雜的時間學習功能。

單個突觸內的複雜分子狀態能夠幫助學習和記憶。

從系統級模塊化大腦架構中獲取靈感

一般，當前的商業AI系統涉及具備相對均勻的分層或循環架構的訓練網絡，其從隨機權重開始。可是，對於更復雜的任務來講，這多是一個難以解決的問題。事實上，生物進化的道路卻大相徑庭。全部脊椎動物的最後共同祖先生活在5億年前。從那之後，它的基本大腦一直在發展，致使大約1億年前出現哺乳動物大腦，以及幾百萬年前的人類大腦。這種不間斷的進化鏈致使了一個錯綜複雜的大腦結構，具備高度保守的計算元素和巨大的系統級模塊化。事實上，咱們目前缺少工程設計原則，來解釋像大腦同樣複雜的傳感，通訊，控制和記憶網絡能夠在5億年的時間內不斷擴大規模和複雜性，同時永遠不會失去在動態環境中自適應運行的能力。所以，AI從大腦的系統級結構中獲取靈感可能很是有趣。

一個關鍵的系統屬性是功能和結構的模塊化。大腦不像咱們目前的AI架構是同質的，而是有不一樣的模塊，如海馬（保留情節記憶和導航），基底神經節（潛在的強化學習和動做選擇）和小腦（自動化的運動控制和經過監督學習得到更高層次的認知）。此外，人腦中的記憶系統（習慣記憶，運動技能，短時間記憶，長期記憶，情景記憶，語義記憶）也是功能模塊化的。此外，在運動系統中，嵌套反饋環架構占主導地位，經過簡單的快速循環在20毫秒內實現自動運動校訂，稍慢的智能循環經過運動皮層在50毫秒內實現更復雜的運動校訂，最後通過整個大腦的視覺反饋實現對運動錯誤的有意識的校訂。最後，全部哺乳動物大腦的一個主要特徵是由大量類似的6層皮質柱組成的新皮層，全部這些都被認爲是在單個規範計算模塊上實現的變異。

整體而言，現代哺乳動物大腦具備顯著的模塊性，經過1億年的進化保存下來，代表這種系統級模塊化可能有利於在AI系統中實施。目前從白板上訓練神經網絡的方法是不可能走向更廣泛的人類智能的途徑。實際上，系統級模塊化的組合帶來的不一樣類型的糾錯嵌套循環和動態複雜的突觸可能都是解決生物學上可信的信用分配的關鍵因素。

5億年的脊椎動物大腦進化創造了一個高度異構和模塊化的計算系統。

原文連接