老闆,用float存儲金額爲何要扣我工資

公司最近在作交易系統,交易系統確定是要和錢打交道的,和錢有關,天然而然很容易想到用float存儲,可是使用float存儲金額作的計算是近似計算。老闆,用float作計算形成公司損失的錢都往你工資里扣html

哼,扣工資就扣工資。但仍是得靜下心來想一想爲何不能用float

爲何不能使用float存儲金額

首先看個例子:FloatTest.javajava

public class FloatTest {
    public static void main(String[] args) {
        float f1 = 6.6f;
        float f2 = 1.3f;
        System.out.println(f1 + f2);
    }
}
複製代碼

結果:7.8999996 和本身口算的值居然不同mysql

image.png

計算機只認識0和1,全部類型的計算首先會轉化爲二進制的計算sql

從計算機二進制角度計算 6.6 + 1.3 的過程

float底層存儲

計算是由CPU來完成的,CPU表示浮點數由三部分組成 分爲三個部分,符號位(sign),指數部分(exponent)和有效部分(fraction, mantissa)。 其中float總共佔用32位,符號位,指數部分,有效部分各佔1位,8位,23位 數據庫

二進制的轉化

對於實數,轉化爲二進制分爲兩部分,第一部分整數部分,第二部分是小數部分。整數部分計算二進制你們都很熟悉。bash

整數部分的計算:6轉化爲二進制
除以2 結果 小數部分
6 3 0
3 1 1
1 0 1

因此6最終的二進制爲110性能

小數部分的計算

將小數乘以2,取整數部分做爲二進制的值,而後再將小數乘以2,再取整數部分,以此往復循環測試

0.6轉化爲二進制
乘以2 整數部分 小數部分
1.2 1 0.2
0.4 0 0.4
0.8 0 0.8
1.6 1 0.6
1.2 1 0.2

...進入循環,循環體爲1001 因此0.6轉化爲二進制爲0.10011001... 6.6轉化爲二進制爲110.10011001...ui

規約化

經過規約化將小數轉爲規約形式,相似科學計數法,就是保證小數點前面有一個有效數字。在二進制裏面,就是保證整數位是一個1。110.10011001規約化爲:1.1010011001*2^2spa

指數偏移值

指數偏移值 = 固定值 + 規約化的指數值 固定值=2^(e-1)-1,其中的e爲存儲指數部分的比特位數,前面提到的float爲8位。因此float中規定化值爲127 6.6的二進制值規約化之後爲1.1010011001*2^2,指數是2,因此偏移值就是127+2=129,轉換爲二進制就是10000001,

拼接6.6

6.6爲正數,符號位爲0,指數部分爲偏移值的二進制10000001,有效部分爲規約形式的小數部分,取小數的前23位即10100110011001100110011,最後拼接到一塊兒即 01000000110100110011001100110011 到這裏已經大體能夠知道float爲何不精確了,首先在存儲的時候就會形成精度損失了,在這裏小數部分的二進制是循環的,可是仍然只能取前23位。double形成精度損失的緣由也是如此

求和

原來如此

不能使用float那用什麼類型存儲金額?

  • 使用int 數據庫存儲的是金額的分值,顯示的時候在轉化爲元
  • 使用decimal mysql中decimal存儲類型的使用
    column_name  decimal(P,D);
    複製代碼
    D:表明小數點後的位數 P:有效數字數的精度,小數點也算一位 測試例子 數據表的建立:
    CREATE TABLE `test_decimal` (
      `id` int(11) NOT NULL,
      `amount` decimal(10,2) NOT NULL
    ) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4
    複製代碼
    對應的DAO層代碼:TestDecimalDao.java
    /**
     * @description dao層
     *
     * @author JoyHe
     * @date 2018/11/05
     * @version 1.0
     */
    @Repository
    public interface TestDecimalDao {
        @Select("select * from test_decimal where id = #{id}")
        TestDecimal getTestDecimal(int id);
    }
    複製代碼
    測試類:TestDecimalDaoTest.java
    /**
     * @description 測試類
     *
     * @author JoyHe
     * @date 2018/11/05
     * @version 1.0
     */
    public class TestDecimalDaoTest extends BaseTest {
        @Resource
        private TestDecimalDao testDecimalDao;
    
        @Test
        public void test() {
            TestDecimal testDecimal1 =   testDecimalDao.getTestDecimal(1);
            TestDecimal testDecimal2 =   testDecimalDao.getTestDecimal(2);
            BigDecimal result =   testDecimal1.getAmount().add(testDecimal2.getAmount());
            System.out.println(result.floatValue());
        }
    }
    複製代碼
    說明:jdbcType爲decimal轉化爲javaType爲BigDecimal 測試結果:
    image.png
    是符合預期的7.9

使用decimal存儲類型的缺點

  • 佔用存儲空間。浮點類型在存儲一樣範圍的值時,一般比decimal使用更少的空間
  • 使用decimal計算效率不高
    由於使用decimal時間和空間開銷較大,選用int做爲數據庫存儲格式比較合適,能夠同時避免浮點存儲計算的不精確和decimal的缺點。對於存儲數值較大或者保留小數較多的數字,數據庫存儲結構能夠選擇bigint




參考:
1.《浮點計算精度損失緣由》 2.《高性能MySQL》

相關文章
相關標籤/搜索