一次印象深刻的float和double的精度Bug處理

平時認爲double的精度高一些,float的精度低一些,僅此而已,如果有精度不夠的問題就再更換數據類型就好了,不會是什麼大問題,現在就看下下圖: 濾波結果示意圖 該圖爲對一次數據使用22-80hz濾波器後得到的結果,其顯示了一個發散的濾波結果。我從各個方面檢查問題都無果,包括filter的實現代碼,濾波器的設計甚至於各個變量地址的檢查,經過了大半天仍然沒有頭緒。直至發現了濾波器參數是使用floa
相關文章
相關標籤/搜索