筆試面試 浮點數定點化的量化誤差問題

本文參考公衆號「數字ICer」的文章推送 問題來自大疆的筆試題： 解析：無論小數有多少位，它的量化精度都是以5結尾的，因此量化12.918肯定不能做到真正的無損量化。根據數學上的概念，只要誤差小於精度的一半，就可以認爲是無損的。 對於本題： 整數部分是12，需要四位量化 如果量化位寬12位，則小數部分8位，0.918*2^8=235.008，捨去小數位得到235；235再反量化得到235/256=

>>阅读原文<<