Nvidia GPU的浮點計算能力(FP64/FP32/FP16)

轉自:http://weibo.com/ttarticle/p/show?id=2309403987017473113077 ​​其實說到浮點計算能力,首先得區分不同精度的浮點數,雖然Linpack測試裏只關心雙精度的浮點計算能力,但在其他領域,有時候反而會更加關注單精度甚至是半精度的浮點計算能力。 半精度、單精度、雙精度這些概念是在IEEE 754標準裏定義的,浮點計數是利用浮動小數點的方式使用
相關文章
相關標籤/搜索