Facebook AI開源圖形變壓器網絡（GTN），用於與圖形自動區分

來源 | reddit

做者 | Saksham Goyal

編輯 | 代碼醫生團隊

圖形變壓器網絡（GTN）是帶有加權有限狀態傳感器（WFST）的開源框架，加權有限狀態傳感器（WFST）是一種功能強大且表現力強的圖形。就像PyTorch同樣，GTN爲WFST提供了一個框架。GTN用於有效地訓練基於圖的機器學習模型，並在手寫識別，語音識別和天然語言處理等應用程序中組合不一樣的信息源。

 

經過訓練不一樣類型的模型，GTN庫提供了更好的結果。更加結構化的圖形使研究人員能夠將有關任務的先驗知識編碼爲學習算法。GTN將使咱們可以將單詞的發音編碼爲圖形，並將該圖形合併到學習算法中。

 

可是圖形也曾經被使用過。那麼，有什麼新消息？訓練時先前使用的單個圖是隱式的，而且圖結構必須在軟件中進行硬編碼。可是有了這個新的框架，研究人員能夠在訓練時動態地使用WFST。所以，整個系統能夠更有效地從數據中學習和改進。

 

因爲缺少易於使用的框架，使用基於功能圖的數據結構構建ML模型具備挑戰性。經過將圖形或數據與圖形操做分開，用戶如今將擁有更大的自由度來嘗試結構化學習算法的更大設計空間。

 

具備GTN的圖形結構更適合於暗示性地（但不是過於規範性）編碼有用的（先前）知識。整個系統能夠從數據中學習和改進。WFST的結構與數據學習相結合，可使ML模型長期保持模塊化，更準確和輕便。

 

GTN使構造WFST，可視化和執行操做變得容易。只需調用gtn.backward，就能夠爲參與計算的任何圖形計算梯度。發佈團隊但願鼓勵該領域的研究人員幫助咱們探索這個新的設計空間，以便更好地學習算法。

 

  

GitHub：

https://github.com/facebookresearch/gtn

 

論文：

https://arxiv.org/pdf/2010.01003.pdf

 

資料來源：

https://ai.facebook.com/blog/a-new-open-source-framework-for-automatic-differentiation-with-graphs

推薦閱讀

Facebook AI發佈KILT，這是知識密集型NLP任務的新基準

點擊「閱讀原文」圖書配套資源

本文分享自微信公衆號 - 相約機器人（xiangyuejiqiren）。
若有侵權，請聯繫 support@oschina.cn 刪除。
本文參與「OSC源創計劃」，歡迎正在閱讀的你也加入，一塊兒分享。