原來你是這樣子的OpenAI！來看看它背後那些有趣的人和事

編譯 | 焦燕

整理 | 鴿子

提到OpenAI，業內可謂無人不知，無人不曉。

這但是人氣超人馬斯克與衆硅谷科技大亨無數次腦洞碰撞後，共同決定成立的，專門用於預防人工智能的災難性影響的非營利組織。

它的目標很是明確，就是要確保人類安全，確保人類的權益不受將來機器人的影響，確保人類能夠長久地與智能機器人共存。

它就專心幹這一件事，經費由馬斯克等大佬來承擔，所以無需在生計方面浪費時間。

OpenAI的文化是：強烈鼓勵研究人員發表做品，不管是論文、博客文章，仍是代碼，而且它的專利（若是有的話）將與世界分享。

注意，「分享」是它的核心理念。

真真是業界良心！

就在這麼一個高尚的純粹的脫離了低級趣味而又神祕莫測的組織裏，背後其實有不少你不知道的有趣的事情。

你可知道，它的成立僅僅是由幾個大佬在一次晚宴上決定的麼？

你可知道，在OpenAI工做的是怎樣一羣牛人？他們簡直就是「逗比」和「傳奇」的現身說法。

好比，有些懶人，上學時，不想作做業，就本身搗鼓出一個程序來幫着作做業；

有人曾經被誤發病危通知書，在「生命最後一刻」，忽然意識到本身對機器算法纔是真愛啊。在確保身體無恙後，開始紮根真愛，擡頭算法，終成該領域的一代名將；

還有人由於創始人畢業於同一所學校，一拍腦殼，「啪」，今後一入OpenAI深似海……

你覺得OpenAI是個高端大氣上檔次的地兒？你覺得這裏遍及了各種小零件，有着超級計算機，有牛氣的巨型機器人......你又錯了......

今天，營長就帶領各位小夥伴一同去看看OpenAI究竟是啥樣，它背後到底有着怎樣的逗比的人和事兒。

普通得不能再普通了

對不起，這裏沒有法拉第籠，沒有超級計算機，也沒有巨型機器人。

好吧，這裏只有一個機器人，可是它真的很小。它被鵝卵石那樣的材料包圍着，所以，即使出現編程錯誤，它也不會處處搞破壞滴。

正如OpenAI的戰略通信總監Jack Clark所言：「唉，別覺得咱們有啥高大上的，這個房間裏的工具比你想象中的AI應該有的樣子差太多了。」

OpenAI的辦公室，實際上也就只有一些書桌，筆記本電腦和豆豆椅。除去那個迷你機器人有點小新意，它根本就是個小破創業公司的既視感嘛。

不信？來看看它最「豪華的地兒」

「這是咱們每週二開例會的地兒，」Clark所說的會議室，也就是他們的「豪華地兒」，不過是幾十把椅子隨意散落的空地兒。中間有一個大白板能夠寫東西，還有一個大電視。

每週開例會時，人們站起來，陳述他們的工做，或者是研究的突破，或者是工程新軟件的細節，就在這個破地兒。

而就在這個所謂的地兒，每週，全球最聰明的一羣人，在這裏充分碰撞着全球最前沿的思想。

此外，這個地兒，也是你們每週讀書的地方。

Clark介紹到，這裏人才輩出，搞機器人研究的，搞生成對抗的......若是你瞭解了人們在這裏作的工做，你就會意識到，這個看似平淡無奇的地方，正在發生多麼難以想象的事情——它有可能改變人們使用和思考技術的方式、人們天天的行爲方式，以及人們對人工智能超越人類的性質的思考方式。

那麼，這樣一個神奇的地方，究竟是誰創造了它呢？

一頓晚餐，一次意義重大的交談

OpenAI的聯合創始人Greg Brockman在一篇博文中寫道：「你覺得呢，咱們可都是帶着想法去參加晚宴的。」

這位曾擔任網絡支付平臺Stripe首席技術官的Brockman對AI極感興趣，但他對AI並不瞭解。

後來，有人爲Brockman和YC總裁Sam Altman牽線搭橋，他人就AI話題聊開了。

Altman告訴Brockman，他一直在考慮經過YC來創建一個AI實驗室。

「這個點子是否是超酷？」 Altman興奮得說道。

幾個月後，Altman邀請了Brockman再次共進晚餐。同行的人還有各硅谷大佬：Ilya Sutskever ——Google Brain團隊的科學家，固然，還有那位當之無愧的科技界的人氣巨星Elon Musk等。

在晚餐上，你們圍繞着人工智能各抒己見。氣氛之火熱，討論以前沿，碰撞之激烈，邏輯之嚴密，讓Brockman真真是大開了眼界。

Brockman在以後回憶說：「Musk和Altman真是讓人傾佩，他們是真正在爲人類的將來着想，他們對於將來AI的理解很是深入，特別是其中的隱患。嗯，AI安全確實是個大問題，很顯然，他們早就開始行動了。」

在Brockman看來，Musk和Altman這兩我的的思惟方式很是契合，他們都不喜歡閉門訓練算法這個方式，他們的目標很是明確，就是盡全力，讓儘量多的人們能普遍地參與進來，儘量多得鼓勵分享。

Brockman說道：「他們的談話，老是集中在到底什麼樣的組織才能夠最好地確保AI對人類是有益的這件事情上。他們真的很了不得。」

而這，的確是馬斯克一直努力在作的事：成立一個非營利機構，優先保證人類的將來有好的結果，而不是各自的公司利益。

就在那次晚餐後不久，OpenAI便誕生了：由Brockman和Sutskever掌舵。Brockman專一於團隊的文化建設；Sutskever則專一於團隊的研究議程。在短時間內，他們將籌集超過10億美圓的資金。（營長說說：不愧是大佬啊。先定個小目標，籌集個10億美金再說，讓你們專心搞研究，不操心營收和生計。）

接着，他們開始組建本身的團隊。

他們設法吸引國內最頂尖的AI研究人員，承諾絕對有競爭力的薪水和絕對的商業自由。但願這些頂尖的人才，能夠離開原來的科技公司和學術機構，加入OpenAI，專心爲人類的將來而工做。

對於這些研究人員中的許多來講，OpenAI確實是世界上最好的公司：這裏學術自由（營長說說：在美國的不少大學，作研究，經費申請並不容易，並且須要支付團隊的工資，所以，作研究的壓力並不小）；又能研究實際問題，好比馬斯克的SpaceX，但又不用受到公司業績和KPI等約束。

對於這些人來講，專一於研究什麼纔是最好的AI，這是正經事。別的，靠邊兒。

OpenAI的研究人員和工程師同樣很是享受這樣的氛圍。Vicki Cheung是爲來自香港的長髮美女，目前她也在OpenAI就任。

她天天超級High，「這就是我一直期待的工做和生活。」Vicki Cheung說道。

她說，在這裏，她有機會作一直想作的事，而這個事情是在其它任何地方都沒法完成的：在不擔憂是否會有商業意義的前提下，構建具備社會影響力的技術。

不過，若是你問Vicki Cheung爲什麼加入OpenAI，這位大美女會告訴你，這事兒源於她在香港讀高中時，在物理課上的一次做弊行爲。

從機器人到基礎設施

「咱們是有在線做業的，」 Vicki Cheung說，「我可不想作。」

爲了逃避現實，她花了好些日子編寫完一套程序（機器人），幫她作做業。爲了拯救其餘那些也不肯意作做業的同窗，她還「好心」地將其分享出去，因而，你們都不作做業了。

對於這麼作的緣由，她自有一套邏輯：若是你能夠自動化一些東西，即便是做業，即便被告「做弊」而陷入麻煩，但那又怎樣呢？你不須要浪費你的時間幹無謂的事兒了。

「絕大多數高中的在線做業都不是很複雜，現成的答案和方程式網上都有，那我就寫一個爬蟲來抓取這些數據好了。」Vicki Cheung輕描淡寫地說道。

後來，老師知道了這件事，卻沒有爲難Vicki Cheung。只是，不再佈置做業了。

「這對你們來講是一場勝利，」 Vicki Cheung開心的說道。

Vicki Cheung的確很聰明，她須要一個更好的平臺發展本身的才能。

在高中時，她就開始在香港大學的一位教授手下作一些簡單的工程工做。

高中畢業，她去了卡內基梅隆大學的夏令營。一位計算機科學教授被她的天賦所吸引，讓她直接申請這所大學。Vicki Cheung接受了，今後開始了美國的生活。

從卡內基梅隆大學畢業後，Vicki Cheung進入了科技行業，成爲免費語言培訓公司Duolingo的創始工程師。

從建立測驗機器人，並將這家在線語言培訓公司一手打造爲業內的領先企業，Vicki Cheung開始堅信，只有能真正讓人獲益，對社會產生積極影響的技術，纔是好技術。並且，好技術，應該與全部人共享。

此後，當她據說了OpenAI，並瞭解了裏面的工做氛圍和理想情懷後，產生濃厚興趣，很快聯繫上裏面的人，與Brockman展開了長談。

Brockman向她解釋了本身對OpenAI的見解以及他想要創建的團隊類型。Vicki Cheung立馬就加入了。

用Vicki Cheung的話說，這是「正確時間的作正確事情」。她成爲了OpenAI的首批工程師之一。

不過。Vicki Cheung和Brockman面臨的挑戰是，他們都不知道研究人員會作什麼。

Vicki Cheung對此解釋說：「咱們知道研究人員須要在什麼地方進行實驗，但咱們不知道他們須要具體進行怎樣的實驗。」

這就像在設計城市佈局時，知道要在哪裏修路，哪裏建停車場，但到底路要修成什麼樣，停車場要建成什麼樣，不知道。

Vicki Cheung回憶這段時光時，她用了「黑暗中的艱難摸索」來形容。

他們須要搭建好整個組織的架構，而且保證這個架構具備持續更新的活力；

他們須要花不少時間與研究人員磨合、討論、交心，搞清楚他們到底想作什麼，如何能讓他們更有效，更開心，更持久地投入工做；

他們須要不斷進行基礎的實驗操做，不斷迭代。

最終，當Vicki Cheung和Brockman驚訝地發現基礎設施比預期好太多時，鬼知道他們在那段時間都經歷了什麼。

對，像計算機學習

除了Vicki Cheung外，OpenAI還有着太多特立獨行的牛人，Olsson就是其中一枚。

「咱們人類，其實應該向計算機學習，由於人類認知，本來就是一種計算過程的嘛。」Olsson說道。

要說到她對AI的興趣，那可就得倒回不少年前了。

「當時，我只有12歲，老師讓咱們對意識的內涵進行內省，思考相似於‘好吧，我有一個大腦，那裏到底發生着什麼？’這樣的問題，特別神奇的一個思想實驗。」Olsson說道。

這個問題，從那後，一直存在於她的意識裏。她凡事都會從機器的角度來分析，這個思惟究竟是如何造成的。

基於對思想和程序設計哲學的雙重興趣，Olsson在麻省理工學院（MIT）讀本科時，便得到了計算機科學和認知科學的雙學位。

「大學真好玩，大課少，大多數狀況下我均可以本身用來玩一些編程，我會用編程來構建我想要的任何事。」Olsson說道。

此外，她還在暑假參與軟件工程實習，作了一些開源項目，而這對她此後的AI生涯奠基了理論和實踐上的雙重基礎。

本科畢業後，Olsson繼續攻讀碩博，在紐約大學學習神經科學課程。

就在這段時間，深度學習日新月異。

「我當時就意識到，下一個變革已經來了！」 Olsson說到。

此後，喜歡研究酷酷的新事物的Olsson，以爲學術也許並不適合她，她真正想作的是用研究人類大腦的工做方式去研究如何用機器模擬這個過程。因而，她決心從事機器學習。

這以後，當她據說了OpenAI，以爲這個地方很酷，跟本身的想法很合拍，因而，準備嘗試一番。

她找到Brockman，提出想在OpenAI工做，任何職位均可以接受。

在她看來，OpenAI提供的機會在兩個層面上很是有吸引力。第一，尖端深度學習的前沿課題。第二，尖端項目的實踐經歷。

「此前，我作過開源項目，我很是熱衷於開源。」Olsson說。 「這也是我來OpenAI的一個重要緣由。」

現在，Universe平臺（OpenAI創造的一個虛擬世界）已經發布。與其餘團隊其餘成員同樣，Olsson對於這個平臺將在視頻遊戲上的潛力無比期待。

「咱們正在努力彌從機器打遊戲與現實人類的差距，」她說。

一同開發這個平臺的另外一位小夥伴Amodei也無比興奮，他說：「Universe的目標是提供一個單一的平臺，讓您鏈接到電腦，並訓練一個代理，去作任何人類能夠在電腦上作的事情。」

不過，另外一方面，他們也真正感到擔心。

「若是你能夠訓練一個代理，模仿人類在電腦上作有益的事情，你難道不能訓練它來幹一些壞事？」Amodei說道。

而這，也正是OpenAI成立的根本緣由。

一匹年邁的德國老馬也來了

正是因爲共同的擔心和期待，OpenAI能不斷吸引世界級大牛的加入。

下面要講的這位大神就是Ian Goodfellow。

Ian Goodfellow是深度學習界的大佬，他曾同Yoshua Bengio和Aaron Courville合做（這兩位也是深度學習界的名人）寫了一本書——《深度學習》——這本2016年出版的書已經在Google Scholar上收錄了444次引用，在緩慢發展的學術出版界這可真算得上是一個奇蹟了。

然而，Goodfellow的AI之路並非始於一個學校的哲學課或高中的在線物理測驗。

它以死刑開始的。

2011年末，Goodfellow還在蒙特利爾大學讀博士，有一天，他頭痛難忍。他覺得本身得了腦膜炎，趕忙上醫院去檢查。

這一檢查，不得了了——腦出血。

「醫生告訴我，我只有幾個小時的時間了，幾個小時後，我會馬上死去。」Goodfellow絕望地說到。

不過，還須要進一步確診。

就在等待磁共振以最終確診時，Goodfellow趕忙打了一個電話給一位AI研究員。

在電話中，他將本身對於機器學習的全部想法，傾囊相授，但願他死後，有人能將他全部的思考和想法進行嘗試和驗證。

「就在那一刻，我才發現，AI比個人生命還重要。我當時惟一的想法就是，在我死以前，我必須把個人思考共享出去，不能由於個人死而耽誤了。」Goodfellow說道，「若是這輩子，我是以這樣的方式來結束，也不錯了。」

上天並無辜負這位天才。

磁共振的結果顯示，Goodfellow沒有什麼問題。他被送回了家，並被告知身體很健康。

回憶這段往事，Goodfellow有些苦笑。

那時候在谷歌實習，我沒有保險，只是隨便在山景城找了一個醫生看病。

「他往個人脖子上捅了捅，就診斷出我有一個僵硬的神經，「他搖搖頭說，「並且會死亡。」

「關於就診的具體細節我記不清了，不過我對於當時在電話裏所說的話，印象很深。當時但願儘快給那位AI研究院說清楚的，是相似於稀疏編碼的東西，」他笑笑說，「如今我不關注這塊了，我關注別的了。」

現在，Goodfellow更關注對抗性訓練，以及人工智能的安全問題。

「過去，安全措施主要圍繞着兩個方面進行，一個是應用程序層面——你能夠試圖欺騙應用程序運行錯誤的指令，另外一個是網絡安全——你發送消息到可能被誤解的服務器，就像你向銀行發送消息同樣，‘嘿，我是賬戶全部者，讓我進入’，銀行就會被愚弄，而實際上你並非賬戶全部者。」

可是運用AI，特別是機器學習，安全將是一種徹底不一樣的東西。

「讓機器學習安全性，計算機會運行全部正確的代碼，並知道全部消息是從哪裏來的，」他說。「可是機器學習系統仍然能夠被愚弄去作不正確的事。」

Goodfellow說，就像釣魚。使用標準的網絡釣魚，電腦不會被騙，但操做電腦的人會。

AI也同樣。它的代碼保持不變。可是，它能夠被欺騙作錯誤的訓練任務。

Goodfellow說：「與人相比，機器學習算法真的很單純。」

他表示：「若是你不想欺騙機器學習算法，大多數時候它均可以工做得很好。可是，若是有人瞭解機器學習算法的工做原理，想嘗試愚弄它，那也是很容易作到的。」

此外，構建算法的人很難解釋機器學習算法可能被愚弄的無數方法。

Goodfellow的研究重點是對AI代理使用對抗性訓練。

這是一種「強力解決方案」，其中有大量愚弄AI的例子。代理給出這些例子，並訓練AI不要爲他們所欺騙。例如，你能夠訓練自動駕駛汽車上的AI，不要由於虛假的標誌而在高速公路的中間停下來。

Goodfellow已經與Nicholas Papernot一塊兒開發了一個對抗性訓練庫——cleverhans。

這個名字來自一匹德國馬，那匹馬在20世紀初因它的算術能力而成名。

一位德國的數學老師（也是一位自稱爲神祕的兼職骨科醫生）買了一匹馬，並聲稱本身教會了它加減乘除的運算。世界各地的人們均可以來考考聰明的Hans（那匹馬的名字）。例如，15除以3，Hans會踏5次蹄子。或者人們會問7後面的數字是什麼，它就踏8次蹄子。

問題是，聰明的Hans並無那麼聰明。至少並不像它的老師認爲的那樣聰明。

名叫Oskar Pfungst的心理學家發現，這匹馬實際上並非在作數學。相反，它是從周圍的人那裏獲得的提示，用踏蹄的方式迴應人類的肢體語言，直到周圍的人微笑或點頭。

Pfungst經過蒙起馬的眼睛證實了這一點。當被問到一個問題時，馬開始踏它的蹄。可是，因爲沒法看到提問題的人，它就一直踏蹄。

聰明的Hans視頻介紹

www.youtube.com/watch?v=r78…

「機器學習有點像聰明的Hans，」Goodfellow說，「在某種意義上說，咱們已經給予了AI一些暗示。好比說在正確地標註圖像後，它知道如何得到獎勵。但有時候可能使用的並非正確的提示，也得到了獎勵，這就是安全研究人員須要干涉的地方。」

現在，Goodfellow的cleverhans庫已經開源。

他說：「對於傳統的安全，開源是重要的，由於每一個人均可以看到代碼，他們能夠檢查它，並確保它的安全。若是有問題，他們能夠比較容易地報告，甚至本身發送修復。」

相似的狀況也適用於機器學習安全。

「對於機器學習，尚未真正的完善，」Goodfellow說。「可是咱們至少能夠研究每一個人使用的相同系統，看看它們的漏洞是什麼。」

當被問及在研究機器學習方面，是否有讓他感到驚訝的時候，Goodfellow談到了他爲機器學習算法進行實驗時正確分類了對抗性例子的經歷。

那時候，他剛剛讀了一篇研究論文，提出了一些他認爲有疑問的說法。因此他決定作一些測試。在實驗運行的時候，Goodfellow和經理一塊兒去吃午餐了。

「我告訴他，」Goodfellow回憶說「當咱們吃完午餐回去，我不肯定算法是否會正確對那些例子進行分類，那太難了。即便在此次訓練以後，它仍會對那些例子進行錯誤分類的。」

可是當他們回去的時候，Goodfellow發現那個算法不只識別出了對抗性的例子，還爲正確的分類作了一個記錄。

「對抗性例子的訓練過程迫使它在最初的任務中變得如此優秀，以致於它比咱們最初的模型要好得多，」Goodfellow說。

那一刻，Goodfellow意識到，AI簡直是太厲害了，這傢伙，簡直是讓人細思極恐，毫不能掉以輕心。

他們，也不過是一羣普通人

在OpenAI，你只是感受他們的工做和生活融爲一體，很是充實，除此，看不出來什麼特別之處。

每一個人好像一顆螺絲釘，作着本身份內的事，卻又不是普通螺絲釘，他們所釘之處，無不將牆體打透，讓人看到牆外的新世界。

每一個人看起來都很平凡，卻又毫不平凡。

現在，Vicki Cheung正試圖經過研究創建一個Kubernetes集羣。Catherine Olsson則致力於不斷擴大的AI代理平臺。Ian Goodfellow這傢伙，當他測試的算法變得更聰明、更安全的時候，他總會拿起一個三明治開心地吃起來。

他們天天坐在電腦前，將早上刷牙時或在晚上開車時，或者在醫院等待就診時思考到的問題，從新梳理，從新建模，去嘗試，去更新。

明年是否是能買個豪宅住，換個豪車開，或者假期去哪一個小島享受奢侈遊，這些想法貌似不多跟他們的關注點搭上邊，其興奮程度趕不上忽然解決了某個Bug的激動，趕不上在那個破會議室的激烈爭論來得神清氣爽。

偶爾在假期，他們對於這些人類終極問題的思考，也不會中止。

在這麼一羣逗比和傳奇的人眼裏，只有跟人類將來過得更好，他們纔是幸福的。

但願你的假期，也不要中止對於世界與將來的思考。

做者：Brent Simoneaux ，Casey Stegman

原文地址

https://www.redhat.com/en/open-source-stories/ai-revolutionaries/people-behind-openai