浮點數7位有效數字.
雙精度數16位有效數字.
對沒有小數位且以若干個零結尾的數值,從非零數字最左一位向右數獲得的位數;對其餘十進位的數,從非零數字最左一位向右數而獲得的位數就是有效位數.spa
整數部分:採用除基取餘法,基數爲16,2703/16,商168,餘15,即F168/16,商10,餘810/16,商0,餘10,即A從上到下依次是個位、十位、百位,因此,最終結果爲(A8F)16。(2703)10=(A8F)16=(1010 1000 1111)2小數部分0.625×2=1.25,取10.25×2=0.5,取00.5×2=1,取1(0.625)10=(0.101)2 (2703.625)10=(2703)10+(0.625)10 =(1010 1000 1111)2+(0.101)2=(1010 1000 1111.101)2單精度浮點數保存的字節格式以下:地址:+0 +1 +2 +3內容:SEEE EEEE EMMM MMMM MMMM MMMM MMMM MMMM根據IEEE浮點數的定義,將上述二進制數規格化:(2703.625)10>(101010001111.101)2>+1.01010001111101 * (2^11)符號S爲正,等於0 B;指數EEEEEEEE爲11+127=138,等於10001010 B;尾數爲01010001111101000000000 B;合成後爲0 10001010 010 1000 1111 1010 0000 0000若將上述值表示爲十六進制數,則爲(45 28 FA 00)16。