人工智能革命:人類永生仍是滅亡（上）

 —咱們何時能夠達到超智能線？

　　咱們面臨着一個很是困難的問題，並須要在一個未知的時間內來解決它，而人類的整個將來極可能取決於這個問題。- Nick Bostrom

　　歡迎閱讀文章系列的第二部分的上篇。

　　第1部分開始，咱們討論了弱人工智能（ANI）（弱人工智能專一於一個狹窄的任務，如導航或下棋），以及它如何在咱們周圍的世界起着做用。而後，咱們研究了爲何從弱人工智能（ANI）到強人工智能（AGI：人工智能至少與人類同樣具備智力能力）從一開始就是如此巨大的挑戰，咱們討論了爲何技術進步的指數速度告訴咱們'從過去看到的狀況來講，咱們擁有AGI的時間並不會太遠」。在第一部分中我認爲，一旦咱們的機器達到人工智能的境界，他們極可能會出現這種狀況：

 

 

 　　讓咱們仔細想一想，想一想咱們對超級人工智能ASI（比任何人都聰明的人工智能）的強烈概念，並應該試圖弄清楚當咱們思考這個問題時，咱們應該抱着那種情緒。

　　在咱們深刻研究以前，讓咱們提醒一下本身，對於機器來講具有超級智能意味着什麼。

　　一個關鍵的區別是高速率的超級智能和高質量的超級智能之間的區別。一般狀況下，當讓人們想象一個超級智能的計算機時人們首先想到的是這是跟人同樣聰明，但能夠比人想的更多，更快的人工智能，並且比人類快了一百萬倍，這意味着它能夠在五分鐘內算出人類須要計算十年的數據。

　　這聽起來使人印象深入，並且在這以外的是ASI的思惟速度遠遠超過任何人，但在我看來人類和超級智能真正的區別在於它在智力素質方面的優點，這是徹底不一樣的東西。人類之因此比黑猩猩擁有更高的智力，並非由於思惟速度不一樣，而是由於人類的大腦中包含許多複雜的認知模塊，這些模塊能夠實現複雜的語言表達、長期的計劃或抽象推理等功能，黑猩猩的大腦中並不存在這些功能。將黑猩猩的大腦加速數千倍不會讓它們達到人類的水平，即便給它十年的時間，它也沒法弄清楚如何使用一套定製工具來組裝一個複雜的模型，而一我的類只須要幾個小時就能夠完成。不管黑猩猩花多少時 間嘗試都不可能實現人類的認知功能。

　　但不只是黑猩猩不能作到咱們所作到的，他的大腦還沒法理解到世界的存在，一個黑猩猩也明白什麼是人，什麼是摩天大樓，但他不可以理解摩天大樓是由人類建造的。在他的世界裏，任何巨大的東西都是大天然，天然演變的一部分，而他不只沒法建造一座摩天大樓，也沒法意識到建造任何摩天大樓均可以由任何一我的來作。這就是智力素質差別的結果。

　　在咱們今天談論的智力範圍方案中，甚至在生物更小的範圍中，黑猩猩與人類之間的質量差距也很小。在以前的文章中，我用階梯圖描述了生物認知能力的範圍：

 

　　爲了理解超級智能機器有多大的優點，想象一下一我的站在淡藍色的階梯上，而一臺超級智能站在深綠色的階梯上，只比人類高兩階。這臺機器可能只有一點點的超級智能，但它相對於咱們的認知能力的提升與咱們剛纔描述的黑猩猩和人類的差距同樣大。就像黑猩猩沒法理解那些能夠建造的摩天大樓同樣，即便機器試圖向咱們解釋，咱們也不會明白深綠色階梯上的機器能夠作什麼，更不用說讓咱們去作這些事。這隻比咱們高出兩步階梯。在這個樓梯上的第二至最高臺階上的一臺人工智能機器對咱們來講就像咱們對螞蟻同樣，它能夠嘗試浪費不少年來試圖教會咱們它所知道的最簡單的東西，可是這種嘗試是沒有但願的。

　　可是，咱們今天所談論的這種超級智能在這個階梯上遠遠超出了任何東西。在智能爆炸中，機器越聰明，它就能越快地增長本身的智能，直到它開始飆升向上。一臺機器可能須要數年時間才能從黑猩猩臺階上上升到上面的那一階，但也許只有幾個小時就能跳到咱們上方第二階的深綠色臺階上，當它比咱們高出十步時，它可能每秒都會跳躍四階。這就是爲何咱們須要意識到，在關於第一臺機器達到人類級別的AGI後不久就發佈了重大新聞，咱們可能將會面臨與這個在階梯上(可能高出一百萬倍)的東西在地球上共存。　　

 

　　並且，因爲咱們剛剛肯定了一個絕望的活動來試圖理解機器的力量只比咱們高出兩個步驟，咱們很是具體地說明了什麼叫一無所知，咱們沒法知道作出ASI誕生後會作出什麼或帶來什麼樣的後果 。任何裝模做樣的人都不會明白超級智能的含義。

　　在數億年的時間裏，進化在緩慢而漸進的推動着生物大腦的發展，從這個意義上說，若是人類製造出了ASI級別的機器，咱們將極大地否認了進化的工做。可是或者也許這也是進化的一部分，也許進化的工做方式就是讓生物的智能愈來愈多，直到它達到可以創造超級智能機器的水平，而這個級別就像一個引起全球變化的爆炸的絆腳石。決定着全部生物的新將來：

 

　　咱們稍後將討論的是。在科學界的很大一部分人認爲，問題並非咱們是否會達到智力水平線，而是咱們何時會到達這條線，這是一條有點瘋狂的信息。

　　那咱們該怎麼作呢？

　　世界上沒有人，特別是我，能告訴你當咱們達到這條線時會發生什麼。但牛津大學哲學家兼首席人工智能科學家Nick Bostrom認爲，咱們能夠將全部的結果概括爲兩大類。

　　首先，回顧一下歷史，咱們能夠看到生命是這樣運做的：物種忽然出現，而且存在了一段時間，通過一段時間後，它們不可避免地從生命的平衡木上掉下來並走向滅絕 ：

 

　　「全部物種最終都會滅絕」和「全部人類最終都會死」同樣，在歷史上這是一條可靠的規則。到目前爲止，99.9％的物種已從平衡木上掉下來，並且很明顯，若是一個物種沿着平衡木向下搖晃，那麼對於其餘一些物種來講，有一些大天然的風或忽然之間有小行星將他們擊倒墜入滅絕也只是時間問題了。Bostrom用一種吸引狀態來表示一個地方的物種都在面臨風雨飄搖的平衡木而且可能會掉入毀滅的深淵。

　　雖然我遇到的大多數科學家都認可ASI有能力令人類滅絕，但許多人也相信，ASI的能力能夠用來將人類乃至整個物種帶到第二種狀態使物種成爲不朽。Bostrom認爲，物種不朽與物種滅絕一樣具備吸引人的狀態，即若是咱們能作到這一點，咱們將永遠不受滅絕的影響，咱們將擁有打敗死亡的機會。所以，即便到目前爲止全部物種都已經從平衡木上掉下來並瀕臨滅絕，Bostrom仍然相信平衡木還有兩面，只是地球上的任何東西都沒有足夠的智能來弄清楚如何到達另外一面。

　　但願Bostrom和其餘人是對的，可是從我所讀到的一切看來，它們彷佛真的多是對的，而咱們有兩個至關使人震驚的事實要接受：

　　1）ASI的出現將會爲物種昇華到不朽一側上提供了可能性。

　　2）ASI的出現將產生如此不可思議的巨大影響，不管朝着那個方向，都頗有可能會把人類從平衡木上撞下來

　　極可能當咱們的進化能夠到達到智力線的時候，它會永久地結束人類與平衡木的關係並創造一個新世界，可是並不會管這個新世界有沒有人類。

　　彷佛人類當前惟一應該問的問題是：咱們何時才能達到那條線，當這種狀況發生時，咱們會落在這跟平衡木的哪一邊？

　　世界上沒有人知道這兩個問題的答案，可是許多聰明的人已經花了數十年的時間來思考這個問題。咱們將用這篇文章的其他部分來探索他們提出的內容。

讓咱們從問題的第一部分開始：咱們何時達到那條線？

　　也就是第一臺機器達到超級智能須要多長時間？

　　不出所料的是，意見的分歧很大，這是科學家和思想家之間的一場激烈的爭論。可是許多人，如Vernor Vinge教授，科學家Ben Goertzel，Sun Microsystems聯合創始人Bill Joy，或者最著名的發明家和將來學家Ray Kurzweil，都贊成機器學習專家Jeremy Howard在TED演講中提出的這張圖表：

 

　　這些人相信，這種狀況很快就會發生，由於指數增加正在發揮着巨大的做用，機器學習如今雖然只是緩慢的向咱們逼近，但在將來幾十年內會在咱們身邊呼嘯而過。

　　可是其餘一些人，如微軟聯合創始人Paul Allen，研究心理學家Gary Marcus，紐約大學計算機科學家Ernest Davis和科技企業家Mitch Kapor，認爲像Kurzweil這樣的思想家大大低估了人類面對挑戰的能力，並認爲咱們實際上並非那麼的接近那條線。

　　Kurzweil陣營反駁說，惟一低估的是指數增加的速度，而且他們將懷疑者與那些在1985年看到互聯網增加緩慢的人羣進行比較，並認爲這羣人在不久的未來對任何有影響力的事情都不會產生影響。

　　懷疑者可能會反駁，他們認爲使智力進步所須要的努力也會隨着後面的每一步的成倍增加而變的更加苦難，這將抵消技術進步的典型指數性質，等等。

　　包括Nick Bostrom在內的第三個陣營認爲，兩派都沒有任何理由對時間線進行保證，而且認可:A)這絕對可能在不久的未來發生;B)但它可能須要更長的時間。

　　還有一些人，好比哲學家Hubert Dreyfus，認爲三個羣體都天真地認爲相信會有智力線，他們認爲ASI可能永遠沒法實現。

　　那麼當你把全部的這些意見放在一塊兒時，你會獲得什麼？

　　2013年，VincentC。Müller和Nick Bostrom進行了一項調查，在一系列會議上向數百名AI專家提出如下問題：「就這個問題而言，假設人類的科學活動沒有重大的負面影響的狀況下繼續發展。到了哪一年你會看到這樣的人工智能存在的機率（10％/ 50％/ 90％的可能性）調查要求他們說出一個樂觀的年份（10%的可能性在那一年能夠擁有AGI） ），一個現實的猜想（在那一年咱們有50%的可能性得到AGI，也就是在那一年後咱們會擁有AGI），以及一個悲觀的猜想（90%的機會能夠在那一年擁有AGI）。做爲一個數據集收集在一塊兒，結果以下：

樂觀年份的中位數（10％可能性）：2022年

實際年份的中位數（50％可能性）：2040年

悲觀年份的中位數（90％可能性）：2075年

　　因此參與者認爲咱們25年後纔會有可能擁有AGI。2075年的90％的中位答案意味着，若是你如今是青少年，那麼經過這個中位數的受訪者，以及超過一半的AI專家，幾乎能夠肯定AGI將在你有生之年發生。

　　最近由做家James Barrat在Ben Goertzel年度AGI會議上進行的另外一項研究，他取消了百分比，只是簡單地詢問參與者什麼時候認爲AGI將會實現。在2030年，2050年，2100年，仍是2100年以後，或者永遠不會實現。結果是：

到2030年：有42％的受訪者選擇了這個選項

到2050年：有25％的受訪者選擇了這個選項

到2100年：有20％的受訪者選擇了這個選項

在2100年以後：有10％的受訪者選擇了這個選項

永遠不會：有2％的受訪者選擇了這個選項

　　很是相似於Müller和Bostrom的結果。在Barrat的調查中，超過三分之二的參與者認爲AGI將在2050年出現，而只有不到一半的人預測AGI將在將來15年內出現。一樣使人吃驚的是，只有2％的受訪者認爲AGI不會成爲咱們將來的一部分。

　　可是，若是AGI不是那條線的話。那麼專家何時認爲咱們會達到ASI？

　　Müller和Bostrom還向專家詢問，讓他們預估咱們何時擁有ASI的可能性:A)在擁有AGI的兩年內就會擁有ASI(幾乎是立刻就進行了智能爆炸)和B)在三十年內擁有ASI。結果是:

　　根據答案的中值代表，快速的從（2年）AGI→ASI轉換的可能性僅爲10％，但較長的轉換如30年或更短的時間，可能性爲75％。

　　咱們這些數據中的參與者認爲有50%的可能性不會知道這個轉變時間的長度，可是爲了達到大體的目的，基於上面的兩個答案，讓咱們暫時估計他們會說是20年。因此中間的意見是人工智能專家領域對於認爲咱們什麼時候可以達到ASI的那條線的最現實的猜想中值是(對達到AGI的2040年的預測和咱們對AGI向ASI轉變的20年過渡期估計] =2060年達到ASI。

 

　　固然，以上全部統計數據都是推測性的，他們只表明人工智能專家社區的意見，但它告訴咱們，對這一主題最瞭解的人中有很大一部分會贊成對能改變時間的ASI的到來估計爲2060年。距今僅45年。

問題的第二部分是：當咱們達到那條線的時候時會落到平衡木的哪一側

　　超級智能將產生巨大的力量,可是對咱們來講關鍵的問題是：

控制這份權力的人是誰，他們的動機會是什麼?

　　對此的答案將決定ASI會是一個使人難以置信的發展，仍是一個使人難以置信的深淵，仍是介於這二者之間。

　　固然，專家團隊又討論了這個問題的答案。Müller和博斯特倫的調查要求參與者將機率分配到AGI會對人類的可能產生的影響上，發現反應的結果是，有52％的反應結果會是好或很是好，31％的反應結果將會是壞的或很是糟糕的。對於相對中性的反應，平均機率僅爲17％。換句話說，對此最瞭解的人很是確定這將是一個巨大的事情。一樣值得注意的是，這些機率僅僅是指AGI的出現，若是問題是關於ASI，我想處於中間的可能性的百分比會更低。

　　在咱們進一步深刻研究這個問題的好結果與壞結果部分以前，讓咱們將這個問題「它何時會發生？」和「它會是一個好事仍是一個壞事？」這個問題的一部分組合成一個包含視圖的圖表，其中包括大多數相關專家的意見：

 

　　咱們稍後會詳細討論兩種主要的陣營，但首先想一想你的觀點是什麼？實際上我知道你的觀點是什麼，由於在我開始研究這個話題以前，這也是個人觀點。大多數人沒有真正考慮這個主題的一些緣由是：

• 正如第1部分所述，電影經過呈現不切實際的人工智能場景讓咱們以爲人工智能在通常狀況下並不值得認真對待，從而混淆了事實。若是疾病控制中心在咱們的將來發布了一個關於吸血鬼的嚴重警告，James Barrat會將狀況與咱們的反應進行比較。

• 因爲某種所謂的認知偏見，咱們很難相信某些東西是真實的，直到咱們看到證據。我敢確定，計算機科學家在1988年常常談論互聯網可能有多大的影響，但人們可能並不會認爲它能改變生活，直到它真的改變了他們的生活。這在必定程度上是由於1988年的計算機還不能作這樣的事情，因此人們會看着他們的電腦並想：「真的嗎？這會改變個人一輩子麼「他們的想象力僅限於他們的我的經歷告訴他們計算機是什麼，這很難生動的描繪出計算機可能成爲何樣子。人工智能也正在發生一樣的事情。咱們聽到的是這會是一個大事，但由於尚未發生的，並且因爲咱們當前世界中使用的相對來講比較無用的人工智能的經驗，咱們也很難真正相信這將極大地改變咱們的生活。這些偏見是專家們所面臨的，由於他們瘋狂地試圖經過集體的表現來引發咱們的注意。 即便咱們確實相信它，可是今天你有過幾回想過一些須要花費大部分時間可是卻不存在的事情？不是不少，對嗎？即便它比你今天所作的任何事情都要強烈得多，這是由於咱們的大腦一般專一於平常生活中的小事，不管咱們身處的長期環境多麼的瘋狂。這就是咱們的思考方式。

  這篇文章的目的之一就是讓你走出我喜歡"思考其餘事物"的想法並進入一個專家的想法領域，即便你只是站在上面廣場上兩條徹底不肯定的虛線的交叉點上。

  在個人研究過程當中，我遇到了幾十種不一樣的觀點，但我很快注意到大多數人的意見都屬於我所稱爲的那些主流觀點，特別是超過四分之三的專家分紅了主流觀點中的兩個子陣營：

 

 

　　咱們須要深刻的瞭解這兩種陣營，接下來咱們會分別探討這兩種陣營。

　　原文連接：https://waitbutwhy.com/2015/01/artificial-intelligence-revolution-2.html