MATLAB中的數據精度處理

a=1.23456789  b=vpa(a,7)  b = 1.234568  vpa(a,12)  ans = 1.23456789000  format:設置輸出格式 對浮點性變量,缺省爲format short. format並不影響matlab如何計算和存儲變量的值。對浮點型變量的計算,即單精度或雙精度,按合適的浮點精度進行,而不論變量是如何顯示的。對整型變量採用整型數據。整型變量總是根據
相關文章
相關標籤/搜索