Google AI提出通過數據回傳加速神經網絡訓練方法,顯著提升訓練效率

  2020/07/31 過去十年來,神經網絡的訓練速度得到了大幅提高,使得深度學習技術在許多重要問題上的應用成爲可能。隨着摩爾定律即將走向終結,通用處理器的的改進未取得明顯成效,機器學習社區越來越多地轉向專用硬件來謀求額外的加速。 GPU 和 TPU 針對高度並行化的矩陣運算進行了優化,而矩陣運算正是神經網絡訓練算法的核心組成部分。在高層次上,這些加速器可以通過兩種方式來加速訓練。首先,它們可以
相關文章
相關標籤/搜索