1.6.9浮點錯誤

關於在計算機上處理媒介的問題,我們應該瞭解以下內容。 在比較浮點數時,由於浮點不精確,必須小心。 我們預計相同的兩個浮點數可能略有不同。 例如,在數學上,我們希望歸一化矢量的長度爲1,但在計算機程序中,長度將只是大約1.此外,對於任何實數p,數學上1p = 1,但是當我們只 有1的數值近似,我們看到提升到p次冪的近似值增加了誤差; 因此,數值誤差也會累積。 以下簡短的程序說明了這些想法: #inc
相關文章
相關標籤/搜索