Nvidia GPU的浮點計算能力

轉自:https://weibo.com/ttarticle/p/show?id=2309403987017473113077 其實說到浮點計算能力,首先得區分不同精度的浮點數,雖然Linpack測試裏只關心雙精度的浮點計算能力,但在其他領域,有時候反而會更加關注單精度甚至是半精度的浮點計算能力。 半精度、單精度、雙精度這些概念是在IEEE 754標準裏定義的,浮點計數是利用浮動小數點的方式使用不
相關文章
相關標籤/搜索