谷歌最近發佈了一個開源的「模型搜索」(Model Search)平臺,能夠幫助研究人員高效自動地開發機器學習模型。算法
谷歌表示,Model Search 不專一於某一特定領域,可以找到適合數據集和問題的模型體系結構,同時最大程度地減小編碼時間和計算資源。數據庫
AI 模型的成功一般取決於它在各類工做負載下的性能。可是,設計一個可以很好地歸納的模型是極具挑戰性的。近年來,AutoML 算法開始出現,幫助研究人員在不須要手動實驗的狀況下找到正確的模型。然而,一般狀況下,這些算法是計算量大的,須要數千個模型來訓練。segmentfault
Model Search 基於谷歌的 TensorFlow 機器學習框架,能夠在單臺機器或多臺機器上運行,由多個培訓器、搜索算法、轉移學習算法和存儲評估模型的數據庫組成。它以一種自適應和異步的方式運行人工智能模型的培訓和評估實驗,這樣全部的培訓者均可以分享從他們的實驗中得到的知識,同時獨立進行每一個實驗。在每一個循環的開始,搜索算法查找全部已完成的試驗,並決定下一步嘗試什麼,而後它「變異」到目前爲止找到的最好的架構之一,並將獲得的模型返回給訓練器。架構
爲了進一步提升效率和準確性,模型搜索在實驗中引入遷移學習。例如,它使用知識提取和權重分擔,這引導了一些變量的模型從之前的訓練模型。這使得更快的培訓和更普遍的發現更多更好的架構的機會成爲可能。框架
在模型搜索運行以後,用戶能夠比較搜索過程當中發現的許多模型。此外,他們能夠建立本身的搜索空間來定製模型中的架構元素。機器學習
谷歌表示,在一次內部實驗中,模型搜索經過最少的迭代改進了生產模型,特別是在關鍵詞識別和語言識別方面。它還設法找到了一個架構適合的圖像分類的重大探索 CIFAR-10開源成像數據集。異步
谷歌研究工程師 Hanna Mazzawi 和研究科學家 Xavi Gonzalvo 在一篇博客文章中寫道,「咱們但願模型搜索將爲研究人員提供一個靈活的、領域不可知的機器學習模型發現框架。經過創建特定領域之前的知識,咱們相信,當提供由標準構建塊組成的搜索空間時,這個框架足夠強大,能夠創建具備最早進性能的模型,用於研究深刻的問題。」性能