八卦一下量子機器學習的歷史

人工智能和量子信息

在講量子機器學習以前咱們先來八卦一下人工智能和量子信息。1956，達特茅斯，十位大牛彙集於此，麥卡錫（John McCarthy）給這個活動起了個別出心裁的名字：「人工智能夏季研討會」（Summer Research Project on Artificial Intelligence），如今被廣泛認爲是人工智能的起點。AI的歷史是很是曲折的，從符號派到聯結派，從邏輯推理到統計學習，從經歷70年代和80年代兩次大規模的政府經費削減，到90年代開始提出神經網絡，默默無聞直到2006年Hinton提出深層神經網絡的層級預訓練方法，從專一於算法到李飛飛引入ImageNet，你們開始注意到數據的重要性，大數據的土壤加上計算力的摩爾定律迎來了如今深度學習的火熱。

量子信息的歷史則更爲悠久和艱難。這一切均可以歸結到1935年，愛因斯坦，波多爾斯基和羅森在「Can Quantum-Mechanical Description of Physical Reality be Considered Complete?」一文中提出了EPR悖論，從而引出了量子糾纏這個概念。回溯到更早一點，1927年第五次索爾維會議，世界上最主要的物理學家聚在一塊兒討論新近表述的量子理論。會議上愛因斯坦和波爾起了爭執，愛因斯坦用「上帝不會擲骰子」的觀點來反對海森堡的不肯定性原理，而玻爾反駁道，「愛因斯坦，不要告訴上帝怎麼作」。這一論戰持續了不少年，伴隨着量子力學的發展，直到愛因斯坦在1955年去世。

愛因斯坦直到去世也還一直堅持這個世界沒有隨機性這種東西，全部的物理規律都是肯定性的，給定初態和演化規律，物理學家就能推算出任意時刻系統的狀態。而量子力學生來就伴隨了不肯定性，一隻貓在沒測量前能夠同時「生」和"死"，不具有一個肯定的狀態，只有測量後這隻貓才具有「生」和"死"其中的一種狀態，至於具體是哪種狀態量子力學只能告訴咱們每一種態的機率，給不出一個肯定的結果。固然，什麼操做能夠被稱爲「測量」直到如今也沒有定論，必須有意識的人或者動物來觀測才能稱爲測量嗎？仍是當測量系統大到某一個程度就能使系統坍縮到某一個狀態？量子力學以它的極其準確的理論預測和被無數的實驗所驗證而出名，也以缺乏一個能被咱們普遍理解的詮釋而「臭名昭著」。

固然，當時大部分物理學家並不太care這件事，教學的時候教授們也大多采用「Shut up and calculate"的態度（如今依舊如此），可是也有不少人被這件事深深地所困擾。Everett在1957年提出多世界詮釋（many world interpretation）來反對正統的哥本哈根詮釋，指出系統在未測量的時候處於多個世界，測量後系統不變，只是觀察者進入了其中一個分支。最近2014年又新出一個量子貝葉斯詮釋（Qbism），用貝葉斯的角度來解釋，不過那都是後話了。1964年Bell提出Bell不等式，可以用實驗來驗證量子力學是不是局域實在論（local realism），實在論就是這個世界是獨立於觀察者而存在的。有實驗方案後你們纔開始認真考慮起這個問題，結果後來的實驗，包括去年2016年比較大的實驗突破，基本驗證了量子力學不能同時是局域的，又是實在的。認可實在論的話咱們就有了量子糾纏這種非局域（non-local）的資源。

一小塊固體含的原子數目是10的23次方量級，若是要求解這麼多粒子的薛定諤方程（量子力學的基本方程）基本是沒有但願的（3個粒子的都已經很難了啊喂），這樣就無法用計算機模擬材料，從而預測它們的性質。咱們的大物理學家費曼在1982年想到既然咱們想模擬的對象是quantum的，那麼咱們爲何不能建一個quantum的計算機來模擬呢？量子計算機就是在這樣的背景下提出來的，咱們的」頑童「費曼在他的晚年也都專心致力於量子計算機的研究。像經典計算機的同樣，通用的量子計算模型也有不少種，其中用得最多的是量子線路（quantum circuit）模型，其餘的還有像量子圖靈機（quantum Turing machine），拓撲量子計算機（topological quantum computer）等等。

因爲量子計算機自然具備」並行「（quantum parallelism）的特性，咱們對處於量子疊加態的系統進行操做至關於同時對指數多個經典計算機操做，可以設計出比經典算法有指數加速的量子算法，其中最著名的當屬1994年的Shor算法了，可以以指數的速度破解全球的加密系統，量子計算這個領域也是在那個時候火起來的。

量子機器學習

如今機器學習這麼火，你們天然想知道之後2，30年人工智能會往哪一個方向發展。而正如咱們以前說到的，人工智能的發展離不開計算力按摩爾定律地提高，當咱們把芯片作得愈來愈小，晶體管的尺寸愈來愈接近單個原子的大小，這個時候量子效應就會出現，干擾器件的正常工做，好比之前晶體管能夠經過電流是否經過來表示開和關，當有量子效應後，本來不能流過的電子如今有必定的機率」隧穿「（tunnel）過去，致使晶體管無法繼續工做了。因此摩爾定律會再也不成立了，那咱們怎麼辦？一個方案就是量子計算芯片，儲存的對象再也不是bit，而是qubit，外部設備把命令發送給芯片，芯片以量子的方式處理完信息後再把結果傳出去。因爲量子效應須要極低的溫度（毫K量級），咱們如今看到的房間那麼大的量子計算機其實絕大部分是冷卻裝置，真正的量子的部分只有最中心的那塊芯片。

提及機器學習確定要提起神經網絡，而早在1997年你們就開始陸陸續續討論quantum neural network（QNN）的模型了，好比Gupta，Bonnell 和 Papini的文章，不過並無取得很大的進展。2001年後你們好像就比較沉寂了，沒有什麼新的工做。結果這一沉寂就到了2014年，南非的一個理論物理的組開始認真地考慮這個模型，兩個博士生Sinayskiy和Schuld在研究所主任Petruccione的帶領下開始考慮Hopfield-type networks的quantum evolution。可是因爲非線性是neural核心的一部分，而quantum evolution是unitary的（線性的），這樣就有一個本質上的矛盾，因此他們提出應該考慮神經網絡的開放量子演化（open quantum evolution/dissipative quantum computing），也就是考慮進環境的非線性的耗散做用[1]。他們的工做引發了比較大的關注，因此今年2017年1月，第一個量子機器學習的summer school就在南非召開（筆者原本也想去打個醬油，結果簽證沒辦下來，哭）。

除了神經網絡的量子推廣，細胞自動機（automata）和康威（conway）的生命遊戲（game of life）也有量子的推廣。好比」quantum aspect of life「 這本書，由大名鼎鼎的數學物理學家彭羅斯（Roger Penrose）做序。而最先的細胞自動機的量子推廣早在1988年就被量子信息的奠定人之一塞林格（Zeilinger）提了出來[2]。

相比量子的理論模型，量子人工智能的算法發展則更爲引人注目。最早應該提的是2009年MIT的Aram Harrow等人提出的HHL量子算法[3]，可以以指數快的速度解一個線性方程組。這個算法構成了後來2014年Seth Lloyd他們提出的量子支持向量機的基礎（quantum support vector machine，QSVM）[4]。緊隨其後又有衆多的經典機器學習算法的量子版本被提出來了，好比量子主成分分析（Quantum principal component analysis）[5]，量子推薦系統（Quantum Recommendation Systems）[6]，貝葉斯網絡上的量子推斷[7]，量子加強學習（quantum reinforcement learning）[8]等等。

除了作機器學習直接的量子推廣外，還有一個很重要的方向是用量子物理來解釋爲何深度學習這麼有效。2014年普林斯頓的兩個博士生證實了卷積神經網絡能夠和變分重整化羣能夠一一映射起來[9]。MIT宇宙學教授Max Tegmark也從信息提取和重整化的角度來講明爲何深度學習須要」深「[10]。四位計算機科學家也從他們領域的角度分析了量子多體波函數，糾纏，張量網絡和卷積神經網絡的關係[11]。從機器學習的理論角度上來看，量子信息的理論計算機學家Ronald de Wolf從Probably Approximately Correct(PAC) learning model的量子版原本分析算法的time，query和sample的複雜度[12]。

固然除了物理對機器學習的啓發，機器學習對物理的研究也有很大的突破。最廣爲人知的是去年2016年下半年Troyer他們組發在Science上的一篇文章，用神經網絡來解決量子多體問題[13]，隨後又有研究人員用玻爾茲曼機（Boltzmann machine）來作多體相變，拓撲手性態，量子控制，量子糾錯碼（quantum error correction），全息（holography）等等。

最後，關於量子信息和機器學習交叉領域更爲細緻的survey能夠參考[14,15]（原本想把這兩個領域交叉的那張全貌圖發上來的，結果知乎上傳的圖片像素實在是），GitHub上也有一個項目把相關的資料整理得比較全awesome quantum machine learning。我以後也會在個人博客中介紹一下我用Python寫的quantum SVM，來識別手寫數字6和9（知乎不支持MathJax）。

 

原文發佈時間爲：2017.02.01
本文做者：金小龍
本文來源：知乎，如需轉載請聯繫原做者。

人工智能和量子信息

在講量子機器學習以前咱們先來八卦一下人工智能和量子信息。1956，達特茅斯，十位大牛彙集於此，麥卡錫（John McCarthy）給這個活動起了個別出心裁的名字：「人工智能夏季研討會」（Summer Research Project on Artificial Intelligence），如今被廣泛認爲是人工智能的起點。AI的歷史是很是曲折的，從符號派到聯結派，從邏輯推理到統計學習，從經歷70年代和80年代兩次大規模的政府經費削減，到90年代開始提出神經網絡，默默無聞直到2006年Hinton提出深層神經網絡的層級預訓練方法，從專一於算法到李飛飛引入ImageNet，你們開始注意到數據的重要性，大數據的土壤加上計算力的摩爾定律迎來了如今深度學習的火熱。

量子信息的歷史則更爲悠久和艱難。這一切均可以歸結到1935年，愛因斯坦，波多爾斯基和羅森在「Can Quantum-Mechanical Description of Physical Reality be Considered Complete?」一文中提出了EPR悖論，從而引出了量子糾纏這個概念。回溯到更早一點，1927年第五次索爾維會議，世界上最主要的物理學家聚在一塊兒討論新近表述的量子理論。會議上愛因斯坦和波爾起了爭執，愛因斯坦用「上帝不會擲骰子」的觀點來反對海森堡的不肯定性原理，而玻爾反駁道，「愛因斯坦，不要告訴上帝怎麼作」。這一論戰持續了不少年，伴隨着量子力學的發展，直到愛因斯坦在1955年去世。

愛因斯坦直到去世也還一直堅持這個世界沒有隨機性這種東西，全部的物理規律都是肯定性的，給定初態和演化規律，物理學家就能推算出任意時刻系統的狀態。而量子力學生來就伴隨了不肯定性，一隻貓在沒測量前能夠同時「生」和"死"，不具有一個肯定的狀態，只有測量後這隻貓才具有「生」和"死"其中的一種狀態，至於具體是哪種狀態量子力學只能告訴咱們每一種態的機率，給不出一個肯定的結果。固然，什麼操做能夠被稱爲「測量」直到如今也沒有定論，必須有意識的人或者動物來觀測才能稱爲測量嗎？仍是當測量系統大到某一個程度就能使系統坍縮到某一個狀態？量子力學以它的極其準確的理論預測和被無數的實驗所驗證而出名，也以缺乏一個能被咱們普遍理解的詮釋而「臭名昭著」。

固然，當時大部分物理學家並不太care這件事，教學的時候教授們也大多采用「Shut up and calculate"的態度（如今依舊如此），可是也有不少人被這件事深深地所困擾。Everett在1957年提出多世界詮釋（many world interpretation）來反對正統的哥本哈根詮釋，指出系統在未測量的時候處於多個世界，測量後系統不變，只是觀察者進入了其中一個分支。最近2014年又新出一個量子貝葉斯詮釋（Qbism），用貝葉斯的角度來解釋，不過那都是後話了。1964年Bell提出Bell不等式，可以用實驗來驗證量子力學是不是局域實在論（local realism），實在論就是這個世界是獨立於觀察者而存在的。有實驗方案後你們纔開始認真考慮起這個問題，結果後來的實驗，包括去年2016年比較大的實驗突破，基本驗證了量子力學不能同時是局域的，又是實在的。認可實在論的話咱們就有了量子糾纏這種非局域（non-local）的資源。

一小塊固體含的原子數目是10的23次方量級，若是要求解這麼多粒子的薛定諤方程（量子力學的基本方程）基本是沒有但願的（3個粒子的都已經很難了啊喂），這樣就無法用計算機模擬材料，從而預測它們的性質。咱們的大物理學家費曼在1982年想到既然咱們想模擬的對象是quantum的，那麼咱們爲何不能建一個quantum的計算機來模擬呢？量子計算機就是在這樣的背景下提出來的，咱們的」頑童「費曼在他的晚年也都專心致力於量子計算機的研究。像經典計算機的同樣，通用的量子計算模型也有不少種，其中用得最多的是量子線路（quantum circuit）模型，其餘的還有像量子圖靈機（quantum Turing machine），拓撲量子計算機（topological quantum computer）等等。

因爲量子計算機自然具備」並行「（quantum parallelism）的特性，咱們對處於量子疊加態的系統進行操做至關於同時對指數多個經典計算機操做，可以設計出比經典算法有指數加速的量子算法，其中最著名的當屬1994年的Shor算法了，可以以指數的速度破解全球的加密系統，量子計算這個領域也是在那個時候火起來的。

量子機器學習

如今機器學習這麼火，你們天然想知道之後2，30年人工智能會往哪一個方向發展。而正如咱們以前說到的，人工智能的發展離不開計算力按摩爾定律地提高，當咱們把芯片作得愈來愈小，晶體管的尺寸愈來愈接近單個原子的大小，這個時候量子效應就會出現，干擾器件的正常工做，好比之前晶體管能夠經過電流是否經過來表示開和關，當有量子效應後，本來不能流過的電子如今有必定的機率」隧穿「（tunnel）過去，致使晶體管無法繼續工做了。因此摩爾定律會再也不成立了，那咱們怎麼辦？一個方案就是量子計算芯片，儲存的對象再也不是bit，而是qubit，外部設備把命令發送給芯片，芯片以量子的方式處理完信息後再把結果傳出去。因爲量子效應須要極低的溫度（毫K量級），咱們如今看到的房間那麼大的量子計算機其實絕大部分是冷卻裝置，真正的量子的部分只有最中心的那塊芯片。

提及機器學習確定要提起神經網絡，而早在1997年你們就開始陸陸續續討論quantum neural network（QNN）的模型了，好比Gupta，Bonnell 和 Papini的文章，不過並無取得很大的進展。2001年後你們好像就比較沉寂了，沒有什麼新的工做。結果這一沉寂就到了2014年，南非的一個理論物理的組開始認真地考慮這個模型，兩個博士生Sinayskiy和Schuld在研究所主任Petruccione的帶領下開始考慮Hopfield-type networks的quantum evolution。可是因爲非線性是neural核心的一部分，而quantum evolution是unitary的（線性的），這樣就有一個本質上的矛盾，因此他們提出應該考慮神經網絡的開放量子演化（open quantum evolution/dissipative quantum computing），也就是考慮進環境的非線性的耗散做用[1]。他們的工做引發了比較大的關注，因此今年2017年1月，第一個量子機器學習的summer school就在南非召開（筆者原本也想去打個醬油，結果簽證沒辦下來，哭）。

除了神經網絡的量子推廣，細胞自動機（automata）和康威（conway）的生命遊戲（game of life）也有量子的推廣。好比」quantum aspect of life「 這本書，由大名鼎鼎的數學物理學家彭羅斯（Roger Penrose）做序。而最先的細胞自動機的量子推廣早在1988年就被量子信息的奠定人之一塞林格（Zeilinger）提了出來[2]。

相比量子的理論模型，量子人工智能的算法發展則更爲引人注目。最早應該提的是2009年MIT的Aram Harrow等人提出的HHL量子算法[3]，可以以指數快的速度解一個線性方程組。這個算法構成了後來2014年Seth Lloyd他們提出的量子支持向量機的基礎（quantum support vector machine，QSVM）[4]。緊隨其後又有衆多的經典機器學習算法的量子版本被提出來了，好比量子主成分分析（Quantum principal component analysis）[5]，量子推薦系統（Quantum Recommendation Systems）[6]，貝葉斯網絡上的量子推斷[7]，量子加強學習（quantum reinforcement learning）[8]等等。

除了作機器學習直接的量子推廣外，還有一個很重要的方向是用量子物理來解釋爲何深度學習這麼有效。2014年普林斯頓的兩個博士生證實了卷積神經網絡能夠和變分重整化羣能夠一一映射起來[9]。MIT宇宙學教授Max Tegmark也從信息提取和重整化的角度來講明爲何深度學習須要」深「[10]。四位計算機科學家也從他們領域的角度分析了量子多體波函數，糾纏，張量網絡和卷積神經網絡的關係[11]。從機器學習的理論角度上來看，量子信息的理論計算機學家Ronald de Wolf從Probably Approximately Correct(PAC) learning model的量子版原本分析算法的time，query和sample的複雜度[12]。

固然除了物理對機器學習的啓發，機器學習對物理的研究也有很大的突破。最廣爲人知的是去年2016年下半年Troyer他們組發在Science上的一篇文章，用神經網絡來解決量子多體問題[13]，隨後又有研究人員用玻爾茲曼機（Boltzmann machine）來作多體相變，拓撲手性態，量子控制，量子糾錯碼（quantum error correction），全息（holography）等等。

最後，關於量子信息和機器學習交叉領域更爲細緻的survey能夠參考[14,15]（原本想把這兩個領域交叉的那張全貌圖發上來的，結果知乎上傳的圖片像素實在是），GitHub上也有一個項目把相關的資料整理得比較全awesome quantum machine learning。我以後也會在個人博客中介紹一下我用Python寫的quantum SVM，來識別手寫數字6和9（知乎不支持MathJax）。

 

原文發佈時間爲：2017.02.01
本文做者：金小龍
本文來源：知乎，如需轉載請聯繫原做者。