FPGA不適合做DNN訓練的原因分析

目前FPGA廠商把FPGA定位在DNN的推理上的應用，特別是低延遲，Batch很小的應用，還有像微軟的brainwave也是把FPGA定位在推理上的應用，既然FPGA推理過程有宣稱的各種低功耗低延遲的好處，爲什麼不把他應用在訓練過程中呢？從算法加速上看，FPGA如果應用在訓練上至少要克服兩個缺點。        第一個就是精度問題。 訓練與推理一個很大的區別就是需要多次迭代進行BP計算，更新W參數

>>阅读原文<<