技術編輯:徐九丨發自 北京
SegmentFault 思否報道丨公衆號:SegmentFault算法
科幻小說做家 Vernor Vinge 曾經說過,人類最後一項偉大的發明將是第一臺能夠自我複製的機器,而谷歌 AutoML 團隊的科學家們就正在作相似的嘗試。他們正在測試如何讓 AI 從零開始建立一套機器學習算法,並根據數學原理自動演化迭代。網絡
他們認爲「AutoML Zero」有可能會創造出「徹底未知的算法,同時還能減小數據輸入過程當中人類的偏見」。框架
據悉,谷歌正在爲「AutoML」進行一些重大升級,根據幾位內部研究人員撰寫的一篇論文顯示,「AutoML Zero」即將到來。機器學習
AutoML 是谷歌發佈的一個開源工具,它能夠很是簡單的自動完成機器學習算法的開發過程。而且谷歌大腦團隊一直在對這個工具進行開發迭代。工具
在當前的迭代版本中,AutoML 仍存在一個比較大的問題,就是仍然須要手動的建立和調試幾個初始的算法模型,雖然用戶能夠經過使用谷歌與之的算法包來解決這個問題,但畢竟仍是被人類進行了干預。性能
這次谷歌團隊發表的論文,最大的亮點就是將這一部分也實現了 AI 自動化。學習
根據論文所述,谷歌引入了一個全新的框架來搭建一個通用的搜索空間,進而只需使用基本的數學運算做爲構件,就能夠自動實現完整的機器學習算法。測試
儘管這個搜索空間範圍很是廣,但仍然能夠發現經過反向傳播訓練的二層神經網絡來進行傳播進化。構建很簡單,但該框架設計來不少頂級的算法技術,好比雙線相互做用、歸一化梯度和權重平均等。優化
換句話說,谷歌已經想出瞭如何只是用基本的數學概念,來爲 AutoML 挖掘進化算法。開發者們只需建立一個簡單的學習範式,在這個範式中,機器會吐出 100 個隨機生成的算法,而後工做,看看哪些算法表現最好。google
通過幾代以後,這些算法會愈來愈好,直到機器找到一個表現足夠好的算法進行進一步的迭代。爲了生成可以解決新問題的新穎算法,在進化過程當中存活下來的算法會被用來測試各類標準的人工智能問題,好比計算機視覺等。
據研究人員稱,「AutoML Zero」已經優於其前輩和相似的最早進的機器學習生成工具。將來的研究將涉及到爲人工智能設定一個更窄的範圍,並使用混合方法,利用「AutoML Zero」的自我發現技術和人類建立的啓動庫相結合的算法,看看它在更多特定狀況下的表現如何。
正如開頭所說,「AutoML Zero」的另外一大特色就是能夠減小「人類的偏見」。若是咱們不事先爲算法設定固定的起點或者發展路徑,那麼 AI 更可能創造出一些咱們意想不到的東西。
若是咱們想要讓 AI 像人類同樣思考,咱們就不能給他們預置答案。好奇心和探索力纔是人類智力的兩個關鍵組成部分,而目前的深度學習根本不具有這兩大特色。
在《Quanta》雜誌最近的一篇文章中,做家 Matthew Hutson 寫到:
生物進化是惟一能產生人類智能的系統,這也是許多人工智能研究者的終極夢想。因爲生物進化的軌跡,Stanley 和其餘人都認爲,若是咱們想要算法可以像人類同樣輕鬆地駕馭物理世界和社會世界,或者說作的更好,咱們就須要模仿天然界的算法和策略。他們認爲,與其硬性地給出編碼規則,或者讓機器學習在某些特定的性能指標上得到高評分,不如發現更多不一樣的解決方案。讓算法優先考慮新奇性或者趣味性,而不是走路或者說話的能力。這種思路可能比直接尋求結果具備更大的價值。
標準的深度學習模型通常就相似於一個黑匣子,提供一組權重和參數,由機器來進行調整和計算,從而得出相關的數據與結論。但理論上來講,這屬於人爲的預判,而不是機器的智能。
若是人工智能可以演化出本身的解決方案,並將這些參數與深度學習相結合,那麼它將更接近於模仿人類解決問題的方式。
從本質上說,今天咱們所說的「AutoML Zero」並非讓 AI 去解決問題,而是讓 AI 開發出算法,並不斷擴展發現本身的能力。
Uber的AI實驗室有一位計算機領域的大佬叫 Kenneth Stanley,感興趣的能夠搜一搜他發佈的論文和公開的研究成果。他在「神經進化」領域作出了開拓性的貢獻,獨創了無目的的探索和創新性的 AI 模型。
在一項測試中,他和團隊的科研人員一塊兒將一個虛擬的輪式機器人放在迷宮中,並控制它們進行算法優化,從而找到一條通往出口的路徑。傳統的 AI 模型在 40 次嘗試中只成功了 3 次,而無目的的創新 AI 模型則成功了 39 次。這當中的區別就是創新的 AI 模型爲了對迷宮進行更多的探索,並無計算離出口的距離,沒有試圖尋找出口,而是避開了全部的死衚衕。
進化算法其實並非一個新鮮的概念,但之因此發展緩慢是由於其研究成本太高,且沒有直接的應用場景來盈利或者得到相應的回報。
市面上大部分的深度學習技術都是針對具體的場景解決具體的問題,但對這種「爲所欲爲」的算法來講,有多大的可能性就存在着多大的風險。
這次谷歌推出「AutoML Zero」,很大程度上下降了進化算法的研發成本,相信也能讓這一充滿可能性的技術路線,更快的發揮價值。