Nvidia GPU的浮點計算能力(FP64/FP32/FP16)

轉自:http://weibo.com/ttarticle/p/show?id=2309403987017473113077服務器 ​​其實說到浮點計算能力,首先得區分不一樣精度的浮點數,雖然Linpack測試裏只關心雙精度的浮點計算能力,但在其餘領域,有時候反而會更加關注單精度甚至是半精度的浮點計算能力。架構 半精度、單精度、雙精度這些概念是在IEEE 754標準裏定義的,浮點計數是利用浮動小數
相關文章
相關標籤/搜索