數值計算day1-計算機中的浮點數;誤差;數學基礎

鑑於課堂筆記較爲潦草,這裏將爲期兩週的暑期學校學習內容整理到博客中,一來今後查閱起來比較方便,二來學過的東西如果不趁熱整理很快就會忘記。 書籍:Numerical Methods for Engineers and Scientist--《工程科學中的數值計算》 課時:24小時 1. 計算機中浮點數的表示 1.1 十進制浮點表示 \[d.ddddd\times 10^p\] 其中\(0.ddddd
相關文章
相關標籤/搜索