分佈式ID生成方案選型！詳細解析雪花算法Snowflake

本文已參與好文召集令活動，點擊查看：後端、大前端雙賽道投稿，2萬元獎池等你挑戰！

分佈式惟一ID

• 使用RocketMQ時,須要使用到分佈式惟一ID
• 消息可能會發生重複,因此要在消費端作冪等性,爲了達到業務的冪等性,生產者必需要有一個惟一ID, 須要知足如下條件:
  • 同一業務場景要全局惟一
  • 該ID必須是在消息的發送方進行生成發送到MQ
  • 消費端根據該ID進行判斷是否重複,確保冪等性
• 在哪裏產生以及消費端進行判斷作冪等性與該ID無關,此ID須要保證的特性:
  • 局部甚至全局惟一
  • 趨勢遞增

Snowflake算法

• Snowflake是Twitter開源的分佈式ID生成算法, 結果是一個Long型的ID,核心思想是:
  • 使用1位做爲符號位,肯定爲0, 表示正
  • 使用41位做爲毫秒數
  • 使用10位做爲機器的ID : 高5位是數據中心ID, 低5位是機器ID
  • 使用12位做爲毫秒內的序列號, 意味着每一個節點每秒能夠產生4096(2^12^) 個ID

該算法經過二進制的操做進行實現,單機每秒內理論上最多能夠生成1000*(2^12), 即409.6萬個ID

SnowflakeIdWorker

• Snowflake算法Java實現SnowflakeIdWorker:

/** * Twitter_Snowflake<br> * SnowFlake的結構以下(每部分用-分開):<br> * 0 - 0000000000 0000000000 0000000000 0000000000 0 - 00000 - 00000 - 000000000000 <br> * 1位標識，因爲long基本類型在Java中是帶符號的，最高位是符號位，正數是0，負數是1，因此id通常是正數，最高位是0<br> * 41位時間截(毫秒級)，注意，41位時間截不是存儲當前時間的時間截，而是存儲時間截的差值（當前時間截 - 開始時間截) * 獲得的值），這裏的的開始時間截，通常是咱們的id生成器開始使用的時間，由咱們程序來指定的（以下下面程序IdWorker類的startTime屬性）。41位的時間截，可使用69年，年T = (1L << 41) / (1000L * 60 * 60 * 24 * 365) = 69<br> * 10位的數據機器位，能夠部署在1024個節點，包括5位datacenterId和5位workerId<br> * 12位序列，毫秒內的計數，12位的計數順序號支持每一個節點每毫秒(同一機器，同一時間截)產生4096個ID序號<br> * 加起來恰好64位，爲一個Long型。<br> * SnowFlake的優勢是，總體上按照時間自增排序，而且整個分佈式系統內不會產生ID碰撞(由數據中心ID和機器ID做區分)，而且效率較高，經測試，SnowFlake每秒可以產生26萬ID左右。 */
public class SnowflakeIdWorker {

    // ==============================Fields===========================================
    /** 開始時間截 (2015-01-01) */
    private final long twepoch = 1420041600000L;

    /** 機器id所佔的位數 */
    private final long workerIdBits = 5L;

    /** 數據標識id所佔的位數 */
    private final long datacenterIdBits = 5L;

    /** 支持的最大機器id，結果是31 (這個移位算法能夠很快的計算出幾位二進制數所能表示的最大十進制數) */
    private final long maxWorkerId = -1L ^ (-1L << workerIdBits);

    /** 支持的最大數據標識id，結果是31 */
    private final long maxDatacenterId = -1L ^ (-1L << datacenterIdBits);

    /** 序列在id中佔的位數 */
    private final long sequenceBits = 12L;

    /** 機器ID向左移12位 */
    private final long workerIdShift = sequenceBits;

    /** 數據標識id向左移17位(12+5) */
    private final long datacenterIdShift = sequenceBits + workerIdBits;

    /** 時間截向左移22位(5+5+12) */
    private final long timestampLeftShift = sequenceBits + workerIdBits + datacenterIdBits;

    /** 生成序列的掩碼，這裏爲4095 (0b111111111111=0xfff=4095) */
    private final long sequenceMask = -1L ^ (-1L << sequenceBits);

    /** 工做機器ID(0~31) */
    private long workerId;

    /** 數據中心ID(0~31) */
    private long datacenterId;

    /** 毫秒內序列(0~4095) */
    private long sequence = 0L;

    /** 上次生成ID的時間截 */
    private long lastTimestamp = -1L;

    //==============================Constructors=====================================
    /** * 構造函數 * @param workerId 工做ID (0~31) * @param datacenterId 數據中心ID (0~31) */
    public SnowflakeIdWorker(long workerId, long datacenterId) {
        if (workerId > maxWorkerId || workerId < 0) {
            throw new IllegalArgumentException(String.format("worker Id can't be greater than %d or less than 0", maxWorkerId));
        }
        if (datacenterId > maxDatacenterId || datacenterId < 0) {
            throw new IllegalArgumentException(String.format("datacenter Id can't be greater than %d or less than 0", maxDatacenterId));
        }
        this.workerId = workerId;
        this.datacenterId = datacenterId;
    }

    // ==============================Methods==========================================
    /** * 得到下一個ID (該方法是線程安全的) * @return SnowflakeId */
    public synchronized long nextId() {
        long timestamp = timeGen();

        //若是當前時間小於上一次ID生成的時間戳，說明系統時鐘回退過這個時候應當拋出異常
        if (timestamp < lastTimestamp) {
            throw new RuntimeException(
                    String.format("Clock moved backwards. Refusing to generate id for %d milliseconds", lastTimestamp - timestamp));
        }

        //若是是同一時間生成的，則進行毫秒內序列
        if (lastTimestamp == timestamp) {
            sequence = (sequence + 1) & sequenceMask;
            //毫秒內序列溢出
            if (sequence == 0) {
                //阻塞到下一個毫秒,得到新的時間戳
                timestamp = tilNextMillis(lastTimestamp);
            }
        }
        //時間戳改變，毫秒內序列重置
        else {
            sequence = 0L;
        }

        //上次生成ID的時間截
        lastTimestamp = timestamp;

        //移位並經過或運算拼到一塊兒組成64位的ID
        return ((timestamp - twepoch) << timestampLeftShift) //
                | (datacenterId << datacenterIdShift) //
                | (workerId << workerIdShift) //
                | sequence;
    }

    /** * 阻塞到下一個毫秒，直到得到新的時間戳 * @param lastTimestamp 上次生成ID的時間截 * @return 當前時間戳 */
    protected long tilNextMillis(long lastTimestamp) {
        long timestamp = timeGen();
        while (timestamp <= lastTimestamp) {
            timestamp = timeGen();
        }
        return timestamp;
    }

    /** * 返回以毫秒爲單位的當前時間 * @return 當前時間(毫秒) */
    protected long timeGen() {
        return System.currentTimeMillis();
    }

    //==============================Test=============================================
    /** 測試 */
    public static void main(String[] args) {
        SnowflakeIdWorker idWorker = new SnowflakeIdWorker(0, 0);
        for (int i = 0; i < 1000; i++) {
            long id = idWorker.nextId();
            System.out.println(Long.toBinaryString(id));
            System.out.println(id);
        }
    }
}
複製代碼

• 優勢:
  • 生成速度快
  • 實現簡單,沒有多餘的依賴
  • 能夠根據實際狀況調整各個位段,方便靈活
• 缺點:
  • 只能趨勢遞增
  • 依賴機器時間. 若是發生回撥可能會形成生成的ID重複

SnowFlake算法時間回撥問題:

• 時間回撥產生緣由:
  • 因爲業務須要,機器須要同步時間服務器
• 時間回撥問題解決辦法:
  • 當回撥時間小於15ms,能夠等待時間追上來之後再繼續生成
  • 當回撥時間大於15ms時能夠經過更換workId來產生以前都沒有產生過的Id來解決回撥問題
• 步驟:
  • 首先將workId的位數進行調整至15位
  • 而後將SnowflakeIdWorker實現調整位段
    • 使用1位做爲符號位, 即生成的分佈式I惟一d爲正數
    • 使用38位做爲時間戳, 表示當前時間相對於初始時間的增量值,單位爲毫秒
    • 使用15位做爲機器ID, 最多可支持3.28萬個節點
    • 使用10位做爲毫秒內的序列號, 理論上能夠生成2^10^個序列號
  • 由於服務的無狀態關係,正常狀況下workId不會配置在具體配置文件中,這裏能夠選擇集中式的Redis做爲中央存儲:
    • 將workId調整位數後獲得的多餘的3萬多個workId放置到一個基於Redis的隊列中,用來集中管理workId
    • 每次當節點啓動的時候,先查看本地是否有workId,若是有那麼就做爲workId.若是沒有,就在隊列中取出一個當workId來使用,並從隊列中刪除
    • 當發現時間回撥太多的時候,就再去隊列中去一個來當新的workId使用,將剛剛那個使用回撥的狀況的workId存到隊列裏. 由於隊列每次都是從頭取出,從尾部插入,這樣能夠避免剛剛A機器使用的workId又被B機器獲取的可能性
    • 若是使用redis又會遇到新的小問題: redis一致性如何保證?redis掛了怎麼辦?怎麼同步?

• 從基礎組件的使用角度來講,對於SnowflakeIdWorker算法當遇到時間回撥問題,只須要拋出異常便可,這樣能夠保證算法實現的簡單性
• 也能夠參考uid-generator 方法: 每次取一批workId, 集中以後批取,這樣能夠解決各個節點訪問集中機器的性能問題.