人工智能革命:人類永生仍是滅亡（中）

　　歡迎你們查看系列文章的中篇，這篇文章講述了將來爲何會是咱們最大的但願，描繪了人工智能在將來對咱們好的一面。

　　爲何將來會是咱們最大的但願

　　當我瞭解人工智能的世界時，我發現有不少人站在這裏：

 

　　在自信道路上的人們興奮地嗡嗡做響。他們的目光投向了平衡木上樂觀的一面，他們確信這就是咱們全部人的目標。對他們來講，將來就是他們所但願的一切。

　　這些人與咱們後面討論的其餘思想家的不一樣之處在於，並非他們對幸福生活的慾望，而是他們相信這就是咱們將來生活的方向。

　　這種信心從何而來還有待商榷。批評人士認爲，它來自於一種使人眼花繚亂的興奮，以致於他們忽略或否定潛在的負面結果。可是相信這一觀點的人表示，若是設想世界末日的情景是不會出現的，那麼技術在接下來確定會幫助咱們，而不是傷害咱們。

　　Nick Bostrom描述了超級人工智能系統的三種功能:

• 做爲一個回答者，幾乎能夠準確回答任何問題，包括人類沒法輕易回答的複雜問題，即如何製造更高效的汽車發動機？谷歌就是這樣一種原始的回答者。

• 做爲一個執行者，執行給出的任何高級指令好比使用一個分子彙編程序來構建一種新的、更高效的汽車引擎，而後等待它的下一個命令。

• 做爲一個自由者，它被賦予了普遍而開放的追求並被容許在世界上自由運做，本身決定如何最好地選擇，好比發明一種比人類汽車更快，更便宜，更安全的方式供人類本身出行使用

　　這些問題和任務聽起來對咱們來講彷佛很複雜，可是對一個超級智能系統來講就像有人要求你解決「個人鉛筆從桌子上掉下來」的問題，你能夠輕鬆的將鉛筆從地上撿起來。

 

　　在自信道路上有不少熱切的科學家，發明家和企業家，可是爲了參觀人工智能中最光明的一面，咱們須要一我的做爲咱們的導遊。

　　Ray Kurzweil是很是兩極分化的。在個人閱讀中，我聽到了一切，從神的崇拜、他的想法以及鄙視的事務。其餘人在做家Douglas Hofstadter的某書中討論Kurzweil的想法時，雄辯地提出「就好像你吃了不少美食和一些狗屎而後將它們混合起來這樣你就不能分辨出來什麼是好的什麼是壞的「

　　不管你是否喜歡他的想法，你們都認爲Kurzweil的觀點使人印象深入。他在青少年時期發明東西，在接下來的幾十年裏，他想出了幾項突破性的發明，包括第一臺平板掃描儀，第一臺將文本轉換爲語音的掃描儀（容許盲人閱讀文本），著名的Kurzweil音樂合成器（第一個真正的電子琴），以及第一個商業營銷詞彙量語音識別。他是五本全國暢銷書的做者。他以其大膽的預測而聞名，而且在實現這些預測方面有這良好的記錄，包括他在80年代後期的預測，當時互聯網是一個不起眼的東西，到21世紀初，它才成爲一種全球現象。Kurzweil被華爾街日報稱爲「永不停歇的天才」，被福布斯稱爲「終極思考機器」，被Inc雜誌稱爲「愛迪生的合法繼承人」，以及比爾蓋茨口中的「我所知道的預測人工智能將來的最佳人選」。2012年，谷歌聯合創始人Larry Page找到了Kurzweil並要求他擔任谷歌工程總監。 2011年，他與人共同創辦了奇點大學，由NASA主辦，谷歌贊助，對於一我的來講這樣的一輩子還不錯。

　　他的這本傳記很重要。當Kurzweil闡述他對將來的見解時，他聽起來徹底像個瘋子，而瘋狂的是，他不是一個瘋子，他是一個很是聰明，知識淵博，與世界息息相關的人。你可能認爲他對將來的見解不對，但他並不傻。知道他是一個正人君子讓我很開心，由於當我瞭解到他對將來的預測時，我很是但願他是對的。你應該也同樣。當你聽到Kurzweil的預測時，不少在自信道路里面思考的如Peter Diamandis和Ben Goertzel這樣的人都會贊同他的觀點，不難看出爲何他有如此多、熱情的追隨者，這些追隨者被稱爲奇點主義者。如下是Kurzweil進行的預測認爲將來會發生的事情：

 

時間線

　　Kurzweil認爲計算機將在2029年達到AGI，到2045年，咱們不只會有ASI，還會擁有一個全新的世界，他稱之爲奇點。他的人工智能相關時間表在過去被認爲過度狂熱，但如今被大多數人認爲就應該這樣，但在過去的15年裏，ANI系統的快速發展讓更大範圍內的人工智能更接近Kurzweil的時間表。他的預測仍然比穆勒和博斯特羅姆調查的中位數受訪者（2040年擁有AGI，2060年擁有ASI）要早，顯得更加的雄心勃勃，可是並無那麼多的不可靠。

　　Kurzweil對2045年奇點的描述是由生物技術，納米技術以及最強大的人工智能領域同時發生的三場革命引發的。

　　在咱們繼續討論以前，納米技術幾乎出如今你所讀到的有關人工智能將來的全部內容中，因此咱們接下來進入納米技術的部分，對它進行一些討論 。

納米技術

　　納米技術指的是處理涉及操縱尺寸在1到100納米之間的物質。納米是米的十億分之一，或毫米的百萬分之一，DNA（10納米寬），以及像血紅蛋白（5納米）這樣的大分子和中等分子如葡萄糖（1 nm）。若是/當咱們征服納米技術時，下一步將是操縱單個原子的能力，這些原子將比納米小一個數量級（~1nm）

　　爲了理解人類試圖操縱該範圍內的物質所面臨的挑戰，讓咱們在更大範圍內採起相同的措施。國際空間站距離地球268英里（431千米）。若是人類是一個巨大的巨人，頭部能夠達到國際空間站，它們將比如今大25萬倍。若是你將1nm - 100nm納米技術範圍擴大250，000倍，你會獲得0.25毫米--2.5釐米。所以，納米技術至關於一個像國際空間站同樣高大的人類巨人，如何使用一粒沙粒和一個眼球之間的材料仔細地建造複雜的物體。爲了達到下一級操縱單個原子，巨人必須仔細定位1/40毫米的物體。如此小的物體須要正常尺寸的人用顯微鏡才能看到它們。

　　Richard Feynman在1959年的一次談話中首次討論了納米技術，他解釋說：「就我所見，物理學原理並不反對以原子爲單位操縱物質的可能性。原則上，物理學家合成化學家寫下的任何化學物質都是可能的。「若是你能弄清楚如何移動單個分子或原子，你能夠作任何事情。是的就是就這麼簡單。

　　納米技術於1986年首次成爲一個真正的領域，當時工程師Eric Drexler在他的開創性著做《Engines of Creation》中提供了基礎，但Eric Drexler建議那些但願瞭解納米技術最現代想法的人，最好讀一讀他2013年的著做《Radical Abundance》

• • 灰色粘性

    咱們如今討論一下有趣的灰色粘性。

    不管如何，咱們進行到這裏，是由於我須要告訴你關於納米技術傳說中的難以想象的部分。在納米技術理論的舊版本中，提出的納米組裝方法涉及建立數萬億個微小的納米機器人，這些微型納米機器人能夠協同工做來構建某種東西。創造數萬億納米機器人的一種方法是製造一個能夠自我複製的納米機器人，而後讓複製過程將一個變爲兩個，而後將這兩個變成四個，四個變成八個，而且在大約一天內，他們就會準備好了幾萬億的納米機器人。這就是指數增加的力量。很是聰明，對嗎？

    這是很聰明的，直到它致使了宏大的完整的地球範圍內的大災難意外。問題在於，指數增加的能力使得快速建立萬億納米機器人變得很是方便，這也使得自我複製成爲一個可怕的前景。由於若是系統出現故障，當總數達成預期的數量時，並無啓動中止程序，那麼它們只會繼續複製。納米機器人被設計爲消耗任何碳基材料以供給複製過程，而且使人不快的是，地球上全部生命都是基於碳基的。地球的生物碳基量含有約1045個碳原子。納米機器人將由約106個碳原子組成，所以1039 個碳原子納米機器人將消耗地球上的全部生命，這將在130次重複中發生（130次約爲10 39次），到時候將會有大量的納米機器人在地面上滾動。科學家認爲納米機器人能夠在大約100秒內複製，這意味着這個簡單的錯誤會在3.5小時內簡單地終止地球上的全部生命。

    更糟糕的狀況是，若是一個恐怖分子以某種方式得到了納米機器人的技術並擁有編程技術，他能夠製做最初的幾萬億，而後安排他們悄悄地花幾周時間在全世界範圍內均勻地傳播。而後，他們一會兒所有開工，只須要90分鐘就能夠消耗全部東西，並且隨着它們所有散開，咱們將沒有辦法打擊它們。

    雖然這個恐怖故事一直被普遍討論，但好消息是它可能被誇大了，創造了「灰色粘性」一詞的Eric Drexler在這篇帖子後給我發了一封電子郵件，上面寫着他對灰色粘性劇情的見解：人們喜歡恐怖故事，而這個想法就是一個來自大腦幻想的恐怖故事。

　　一旦咱們真正獲得了納米技術，咱們能夠用它來製造技術設備，服裝，食品，各類生物相關產品好比人造血細胞，微型病毒或癌細胞破壞者，肌肉組織等等任何存在的的東西。在一個使用納米技術的世界中，材料的成本再也不與其稀缺性或製造工藝的難度聯繫在一塊兒，而是由其原子結構的複雜程度決定。在納米技術領域，鑽石可能比鉛筆橡皮擦便宜。

　　咱們目前尚未走到那一步。目前尚不清楚咱們是否低估或太高估計到達這一目標的困難。但咱們彷佛距離目標並無那麼遙遠。Kurzweil預測，到2020年咱們將實現這一目標。各國政府都知道納米技術多是一個驚天動地的發展，他們已投入數十億美圓用於納米技術研究（迄今爲止，美國，歐盟和日本已投資超過50億美圓）。

　　僅僅考慮到超級智能計算機能夠進行強大的納米級彙編程序的可能性很大，就已經很讓人緊張了。但納米技術是咱們提出來的，咱們正處於得到這項技術的邊緣，並且因爲咱們所能作的任何事情都是對ASI系統的一個笑話，咱們必須假設ASI會提出更強大的技術。咱們的大腦要這麼去理解。出於這個緣由，當考慮「若是人工智能革命對咱們來講是好是壞的」情景時，咱們幾乎不可能高估可能發生的範圍，因此若是如下對ASI將來的預測看起來言過其實的話，請記住，他們能夠用咱們沒法想象的方式完成。並且最有可能的是，咱們的大腦沒法預測將會發生的事情。

人工智能能夠爲咱們作什麼

 

　　擁有了超級智能和全部的技術，超級智能將明白如何建立ASI，並解決人類的每個問題。全球暖化？ASI首先提出更好的方法來生產與化石燃料無關的能源，從而阻止二氧化碳的排放。而後，它能夠建立一些方法開始移除大氣中多餘的二氧化碳。癌症和其餘疾病？ASI來講沒有任何問題會發生超乎想象的革命性變化。世界飢餓？ASI可使用納米技術等技術從無到有的製造出分子與真正的肉徹底相同結構的東西，換句話說他們就是真正的肉。納米技術還能夠將一堆垃圾編程一個巨大的桶，裏面裝滿了新鮮的肉類或其餘食物（這些食物不須要有正常的形狀-好比一個巨大的立方體蘋果） - 並使用超先進的運輸方式將全部這些食物分配到世界各地。固然，對於再也不須要被人類殺死的動物來講，這也是很是好的，ASI能夠作不少其餘事情來拯救瀕臨滅絕的物種，甚至經過保存DNA的工做來拯救滅絕的物種。ASI甚至能夠解決咱們最複雜的宏觀問題 - 咱們關於如何運行經濟以及如何最好地促進世界貿易的辯論，甚至是咱們在哲學或道德方面最模糊的爭論 - 對於ASI來講都是很是明顯的。

　　但有一件事，我認爲它對咱們是那麼的誘人，我所認知的一切都被它給改變了：

ASI可讓咱們打敗死亡率。

　　幾個月前，我提到了我對更先進的潛在文明的嫉妒，認爲他們已經打敗了本身的死亡，但我從未考慮過我後來會寫了這樣一篇文章，一篇真正的讓我相信這是人類在個人有生之年中能夠作的事情的帖子。但閱讀人工智能的有關書籍會讓你從新考慮你肯定認知的一切，包括你對死亡的概念。

　　進化沒有充分的理由來延長咱們的壽命，使咱們的壽命比如今更長。若是咱們活得足夠長，能夠繁殖並照顧咱們的孩子到一個他們能夠照顧本身的年齡，從進化的角度來看這就足夠了。從進化的角度來看，這個物種能夠茁壯成長到30多年的壽命，所以在天然選擇過程當中沒有理由會受到青睞突變出異常的壽命。所以，咱們就像WB Yeats所描述的那樣，「一個與瀕死動物緊密相連的靈魂。」 沒那麼有趣。

　　由於每一個人都會死，咱們生活在「死亡與稅收」的假設之下，死亡是不可避免的。咱們認爲老化就像時間同樣，都在不斷的向前運動，你無力阻止它們。但這種假設是錯誤的。Richard Feynman寫道：

• • 在全部的生物科學中，沒有關於死亡必然性的線索，這是最值得注意的事情之一。若是你說咱們想作永動機，但咱們在學習物理的過程當中已經發現了足夠多的定律，這些定律要麼是不可能的，要麼是錯的。可是生物學中沒有任何證據能夠代表了死亡的必然性。這對我來講，這根本不是不可避免的，生物學家發現致使咱們麻煩的是什麼只是一個時間問題，人類身體上的這種可怕的疾病或者是暫時性的疾病將會被治癒。

　　事實上，衰老並非一成不變的。時間將繼續前進，但衰老並不必定會繼續。仔細想一想，這是有道理的。全部的老化都是身體物質的磨損。隨着時間的推移汽車也會磨損，但它的老化是不可避免的嗎？若是汽車其中一個零件開始磨損可是若是你能完美的修理或更換汽車的零件那麼汽車將永遠運行下去。人體沒有任何不一樣，只是複雜得多。

　　Kurzweil談到了血液中智能wifi鏈接的納米機器人，他們能夠爲人類健康執行無數任務，包括按期修復或更換身體任何部位的磨損細胞。若是完善這個過程（或ASI會提出更智能的一個過程）不只能夠保持身體健康，還能夠逆轉衰老。一個60歲的身體和一個30歲的身體之間的區別只是一堆物理的東西，若是咱們有這項技術能夠改變這些東西。ASI能夠創建一個60歲的老人能夠走進去的「年齡清洗劑，他們會帶着30歲的身體和皮膚走出來。即便是那些迷糊的大腦也能夠被ASI這樣智能的設備所刷新來回復活力，ASI會在不影響大腦數據（個性，記憶等）的狀況下弄清楚如何作到這一點。患有老年癡呆症的90歲患者可能會進入返老還童階段，而且可以以全新的姿態出現，準備開始一段全新的生涯。這看起來很荒謬可是身體只是一堆原子，ASI可能很容易操縱各類原子結構因此來講這並不荒謬。

　　Kurzweil將事情向前推動了一大步。他認爲，隨着時間的推移，人造材料將愈來愈多地融入身體。首先，器官能夠被超級先進的機器版本取代，這些機器版本將永遠運行而且永不失敗。而後他認爲咱們能夠開始從新設計身體，例如用完善的紅細胞納米機器人替換紅血細胞，這些機器人能夠爲本身的運動提供動力，根本不須要心臟。他甚至能夠進入大腦加強咱們的大腦活動，令人類可以比如今更快地思考能力的十億倍並訪問外部信息，由於大腦的人工智能能夠添加雲中的全部信息。

　　人類新體驗的可能性將是無窮無盡的。人類將性與其目的分開，容許人們爲了樂趣而進行性行爲，而不只僅是爲了繁衍後代。Kurzweil相信咱們可以對食物作一樣的事情。納米機器人將負責爲身體細胞提供完美的養分，智能地指導任何不健康的事物經過身體而不會影響任何事物。就好像一個萬能的避孕套。納米技術理論家Robert A. Freitas已經設計了一種血細胞替代品，若是有一天在體內實施，將容許人類在不呼吸的狀況下衝刺15分鐘，因此你只能想象ASI能夠爲咱們的身體能力作些什麼。虛擬現實將呈現一種新的意義，體內的納米機器人能夠抑制來自咱們感官的輸入，並用信號取代它們，讓咱們徹底進入一個新的環境，一個咱們能夠看到，聽到，感受到和聞到的新環境。

　　Kurzweil認爲，人類最終可以達到徹底人工的程度;當咱們看到生物材料的時候，咱們會回想到人類曾經是多麼原始，多麼的難以置信 ; 當咱們讀到人類歷史的早期階段時，微生物或事故或疾病或人體磨損可能會違背本身的意願殺死人類; 人工智能革命可能隨着人類和人工智能的融合來結束。這就是Kurzweil認爲人類將最終征服咱們的生物學並變得堅如盤石和永恆的方式，這是他對平衡木另外一側的願景。並且他確信咱們很快就能夠成功的。

　　當你發現Kurzweil的想法引發了不少批評時，你不會感到驚訝。他對2045年的奇點以及其後人類達到永生的可能性預測被嘲笑爲「書呆子的狂喜」或「140智商的智能設計」。其餘人質疑他樂觀的時間表，或者他對大腦和身體的理解，或他對Moore’s law定律模式的應用，Moore’s law定律模式一般應用於硬件的進步，包括軟件在內的普遍的事物。對於每一位狂熱相信Kurzweil正確的專家來講，可能只有三我的認爲他錯了。

　　但令我驚訝的是，大多數不一樣意他的專家並非真正的反對他所說的一切都是可能的。在讀到一個對將來的如此古怪的願景後，我原覺得他的批評者會說，「顯然，這些事情是不會發生的」，但他們說的話，「是的，若是咱們安全地過渡到ASI，全部的這一切都會發生，但這是最難的部分。「Bostrom是警告咱們人工智能危險的最突出的聲音之一，但他仍然認可：

• 很難想象一個超級智能沒法解決或至少不能幫助咱們解決任何問題。疾病，貧困，環境破壞，各類沒必要要的痛苦：這些都是配備先進納米技術的超級智能可以消除的東西。此外，超級智能能夠經過使用納米醫學來阻止和逆轉衰老過程，或者爲咱們提供上傳本身的選項，從而爲咱們提供無限期的生命。超級智能也能夠爲咱們創造機會，大大增長咱們本身的智力和情感能力，它能夠幫助咱們創造一個極具吸引力的體驗世界，在這個世界中，咱們能夠過着充滿快樂的遊戲生活，彼此相關，體驗，我的成長，更貼近咱們的理想。

　　這是一個在焦慮道路上的人的說的一句話，但這就是我一直遇到的，專家們嘲笑Kurzweil有不少緣由，但他們並不認爲他所說的是不可能的，可是須要咱們可以安全的到達ASI。這就是爲何我發現Kurzweil的想法如此具備感染力的緣由。由於他闡述了這個故事光明的一面，也由於實際上他們是可能作到的，若是這是一個好神的話。

　　我聽到有關自信道路上的思想家的最著名的批評是，他們在評估ASI的不利方面多是危險的錯誤。Kurzweil著名的書「 The Singularity is Near」 長達700多頁，他將這些頁面中的大約20頁用於潛在的危險。我以前說過，當這種巨大的新力量誕生時，咱們的命運取決於誰將控制這種力量以及他們的動機將是什麼。Kurzweil巧妙地用一句話回答了這兩個問題，「ASI正在從許多不一樣的努力中產生，並將深深融入咱們文明的基礎設施中。實際上，它將深刻地嵌入咱們的身體和大腦中。所以，它將反映咱們的價值觀，由於它就是咱們本身。「

　　但若是這就是答案，爲何這麼多世界上最聰明的人如今如此擔憂呢？Stephen Hawking爲何說ASI的發展「可能意味着人類的終結」，Bill Gates說他「不理解爲何有些人不關心」，而Elon Musk則懼怕咱們「召喚惡魔」？那麼爲何這麼多專家就這個話題稱ASI是對人類是最大的威脅？這些人，以及焦慮道路上的其餘思想家，並無相信Kurzwei對人工智能危險的拒絕。他們很是很是擔憂人工智能革命，他們並無專一於平衡木的樂觀的一面。他們太忙於盯着另外一面，他們看到了一個可怕的將來，一個不肯定咱們可否逃脫的將來。

　　針對將來人工智能對人類的將來好的一面就暫時到這裏就結束了，系列文章的下篇將描述爲何人工智能在將來可能會是咱們的噩夢，探討了人工智能可能對人類的很差的一面，歡迎你們到時候繼續觀看。

　　原文連接：https://waitbutwhy.com/2015/01/artificial-intelligence-revolution-2.html