總結:計算機組成與設計(硬件/軟件接口)-第三章 計算機的算數運算

第三章 計算機的算數運算     計算機算術和用紙和筆手算的算術不同的地方是受到有限精度的約束。這個限制可能會因爲計算中數大於或小於預先的設定而導致無效操作。這種異常稱爲 「上溢」 或 「下溢」 ,可能導致異常、中斷或類似於意外的子程序調用。     浮點算術因爲是對實際的數字的近似而增加了挑戰性,而且要小心確保所選的計算機數能最接近地表示實際數字。不精確和有限的表達帶來的挑戰是數值分析領域靈感的
相關文章
相關標籤/搜索