本文翻譯自做者 Charles Simon 的文章 Why the future of AI is open source算法
人工通用智能(Artificial general intelligence，AGI)正在路上，開源是實現其效益和控制其風險的關鍵。安全
人工通用智能(AGI)是人工智能的下一個階段，在這個階段，計算機會知足並超越人類的智能，幾乎能夠確定的是，AGI 將是開源的。人工智能
AGI 力求解決人類可以解決的普遍問題。這與狹義的人工智能（包含了當今大部分的人工智能）造成了直接的對比，後者試圖在具體的問題上超越人類的能力。簡單來講，AGI 就是全部對人工智能的指望成真。url
從根本上來講，咱們並不真正瞭解什麼是智能，以及是否可能存在不一樣於人類智能的智能類型。雖然人工智能包括不少已經成功應用於具體問題的技術，但 AGI 則更加虛無縹緲。在不知道技術，也沒有具體問題說明的狀況下，開發軟件來解決問題並不容易。從最近召開的 AGI-20 大會(世界上著名的 AGI 盛會)來看，你們的共識是 AGI 解決方案是存在的。這使得 AGI 在將來的出現即便不是必然的，也是可能的。spa
實現 AGI
至少有四種方法能夠建立 AGI：.net
- 結合當今狹隘的人工智能能力，積累龐大的計算能力。
- 經過模擬新皮層的 160 億個神經元來複制人類的大腦
- 複製人腦，上傳掃描後的人腦內容；
- 經過定義"認知模型"和用程序語言技術實現模型來分析人類智能
考慮一下 GPT-3，OpenAI 的不朽成就，它能夠生成詩、雙關語、故事和模仿等創意小說。該程序擁有一個由數十億個單詞和短語及其與其餘單詞和短語的關係所組成的庫。它很是成功，可是因爲擔憂可能被濫用，OpenAI 並無將其公開。雖然它看起來聰明，但大多數人對 GPT-3 是否能理解它所使用的單詞保持懷疑。然而，GPT-3 代表，只要有足夠的數據和計算能力，在不少時候均可以欺騙大多數人。翻譯
不幸的是，這也是大多數狹義人工智能的狀況。通常三歲的孩子堆積木都明白，物體存在於真實的世界中，時間是向前移動的。積木必須在堆積起來後，才能倒下。AI 的基本侷限性在於，這些系統沒法理解表明了物理事物的文字和圖像。blog
雖然人工智能可能缺少理解力，但 AGI 每每是目標導向的系統，不管咱們爲它們設定什麼目標，它們都會超越。咱們能夠設定造福人類的目標，這將使 AGI 得到巨大的好處。但若是 AGI 被武器化，它們極可能在這個領域也會頗有效率。我並不擔憂終結者式的個體機器人，而是擔憂 AGI 可以制定出更具破壞性的控制人類的戰略方法。我相信這些風險超越了當今人工智能所關注的隱私、平等、透明和就業等問題。AGI 相似於基因工程，其潛力是巨大的，不管是在利益仍是風險方面。進程
咱們何時能看到 AGI？
AGI 可能很快就會出現，但在時間上尚未達成共識。考慮到大腦的結構只被人類基因組定義了一小部分（多是10%），其信息總量約爲 750 MB。這意味着，開發一個只有 75 MB 的項目可能徹底能夠表明一個具備人類潛力的新生兒大腦。這樣的項目徹底在開發團隊的範圍內。ip
咱們還不知道要開發什麼，但隨時均可能有神經科學的突破，繪製出人類神經瘤的圖譜。人類基因組計劃（Human Genome Project）開始的時候看起來複雜得離譜，但最終它的完成時間比預期要早。所以在軟件中模擬大腦可能一樣簡單。
不會有"奇點"，某一刻 AGI 忽然出現。相反，它將逐漸出現。想象一下 Alexa、Siri 或 Google Assistant 會逐漸變得更擅長回答你的問題。它已經比一個三歲的孩子回答問題的能力更強了，而在某一時刻，它將比一個10歲的孩子更強，而後是一個普通的成年人，而後是一個天才，最後就是超越。咱們可能會爭論系統越過人類等價線的日期，但在這條路上的每一步，好處都會大於風險，咱們會爲系統的加強而感到興奮。
爲何要開源？
對於 AGI 來講，選擇開源有全部一般的理由：社區、質量、安全、定製和成本。但 AGI 有三個主要因素使它與其餘開源軟件不一樣。
- 存在極端的道德/風險問題。咱們須要將這些公開，並設定一個系統來驗證和遵照任何出現的標準。
- 咱們不知道算法，而開源能夠鼓勵實驗。
- AGI 可能會比人們想象的更早到來，因此認真對待這個話題很重要。
關鍵是，開源能夠促進理性的對話。咱們不能直接禁止 AGI，由於那隻會把發輾轉移到不認可禁令的國家和組織。咱們不能接受 AGI 的自由競爭，由於毫無疑問，會有一些不法分子願意利用AGI來達到災難性的目的。
因此我認爲，咱們應該尋求 AGI 的開源策略，能夠包含衆多的方法，並努力作到：
- 使開發公開化
- 讓 AI/AGI 社區在限制 AGI 風險的問題上保持一致。
- 讓你們知道項目的狀況
- 讓更多的人認識到 AGI 可能很快就會出現。
- 進行有理有據的討論
- 將保障措施歸入守則
開放的發展進程是咱們實現這些目標的惟一機會