定點數的幾個知識點

數的定標 概念 經過設定小數點在數據的不一樣位置,就能夠表示不一樣大小和精度的小數。web Q和S表示法 以16位數據爲例,Q和S表示法的存儲格式爲: Qx:x位用來表示小數部分,(15-x)位用來表示整數。 Sx.y:其中x+y=15,x位表示整數,y位表示小數。 精度:1/2^x(以Qx表示法爲例說明) 括號裏的內容爲表示範圍的小數部分怎麼計算來的svg 下表爲定點表示法可表示的十進制數範圍
相關文章
相關標籤/搜索