一道簡單的筆試題_浮點數無損定點化

浮點數無損定點化 量化爲定點數格式:m位定點數,n個小數位,無符號位,那麼n稱作量化係數 對於0111表示的定點數: 如果設定小數點位於最後一位,即0111.  則其表示7,最大精度1; 如果設定小數點位於後一位的,即011.1 則其表示3.5,最大精度0.5; 如果設定小數點位於後二位的,即01.11 則其表示1.75,最大精度0.25; 由上可得: 小數位數越多,表示的精度越高。若小數點後有n
相關文章
相關標籤/搜索