openVino +windows+GPU/CPU 運行_2 ( FP16和FP32差距)

繼續上一篇帖子。其實我想寫的東西實在的是太多了。所以會寫的比較慢。 1.關於FP16和FP32. 一直以來我以爲FP16只針對神經棒使用，CPU和GPU應該是使用FP32.但是我查了相關信息後，發現FP16在GPU環境下運行更爲完美。FP32在GPU上反而更慢。 2.執行結果的差異： FP16概率有時候會低於FP32.但是概率低到可以忽略不計，我這個是計算人是否蹲下來。上面是FP32的概率，下面是

>>阅读原文<<