一口氣說出 6種 延時隊列的實現方案

時間  2020-11-16
標籤 java git github redis 算法 spring 安全 數據結構 框架 ide 欄目 Java 简体版
原文   原文鏈接

下邊會介紹多種實現延時隊列的思路，文末提供有幾種實現方式的 github地址。其實哪一種方式都沒有絕對的好與壞，只是看把它用在什麼業務場景中，技術這東西沒有最好的只有最合適的。java

1、延時隊列的應用

什麼是延時隊列？顧名思義：首先它要具備隊列的特性，再給它附加一個延遲消費隊列消息的功能，也就是說能夠指定隊列中的消息在哪一個時間點被消費。git

延時隊列在項目中的應用仍是比較多的，尤爲像電商類平臺：github

一、訂單成功後，在30分鐘內沒有支付，自動取消訂單redis

二、外賣平臺發送訂餐通知，下單成功後60s給用戶推送短信。算法

三、若是訂單一直處於某一個未完結狀態時，及時處理關單，並退還庫存spring

四、淘寶新建商戶一個月內還沒上傳商品信息，將凍結商鋪等安全

。。。。數據結構

上邊的這些場景均可以應用延時隊列解決。框架

2、延時隊列的實現

我我的一直秉承的觀點：工做上能用JDK自帶API實現的功能，就不要輕易本身重複造輪子，或者引入三方中間件。一方面本身封裝很容易出問題（大佬除外），再加上調試驗證產生許多沒必要要的工做量；另外一方面一旦接入三方的中間件就會讓系統複雜度成倍的增長，維護成本也大大的增長。ide

一、DelayQueue 延時隊列

JDK 中提供了一組實現延遲隊列的API，位於Java.util.concurrent包下DelayQueue。

DelayQueue是一個BlockingQueue（***阻塞）隊列，它本質就是封裝了一個PriorityQueue（優先隊列），PriorityQueue內部使用徹底二叉堆（不知道的自行了解哈）來實現隊列元素排序，咱們在向DelayQueue隊列中添加元素時，會給元素一個Delay（延遲時間）做爲排序條件，隊列中最小的元素會優先放在隊首。隊列中的元素只有到了Delay時間才容許從隊列中取出。隊列中能夠放基本數據類型或自定義實體類，在存放基本數據類型時，優先隊列中元素默認升序排列，自定義實體類就須要咱們根據類屬性值比較計算了。

先簡單實現一下看看效果，添加三個order入隊DelayQueue，分別設置訂單在當前時間的5秒、10秒、15秒後取消。
在這裏插入圖片描述

要實現DelayQueue延時隊列，隊中元素要implements Delayed 接口，這哥接口裏只有一個getDelay方法，用於設置延期時間。Order類中compareTo方法負責對隊列中的元素進行排序。

public class Order implements Delayed {
    /**
     * 延遲時間
     */
    @JsonFormat(locale = "zh", timezone = "GMT+8", pattern = "yyyy-MM-dd HH:mm:ss")
    private long time;
    String name;

    public Order(String name, long time, TimeUnit unit) {
        this.name = name;
        this.time = System.currentTimeMillis() + (time > 0 ? unit.toMillis(time) : 0);
    }

    @Override
    public long getDelay(TimeUnit unit) {
        return time - System.currentTimeMillis();
    }
    @Override
    public int compareTo(Delayed o) {
        Order Order = (Order) o;
        long diff = this.time - Order.time;
        if (diff <= 0) {
            return -1;
        } else {
            return 1;
        }
    }
}

DelayQueue的put方法是線程安全的，由於put方法內部使用了ReentrantLock鎖進行線程同步。DelayQueue還提供了兩種出隊的方法 poll() 和 take() ， poll() 爲非阻塞獲取，沒有到期的元素直接返回null；take() 阻塞方式獲取，沒有到期的元素線程將會等待。

public class DelayQueueDemo {

    public static void main(String[] args) throws InterruptedException {
        Order Order1 = new Order("Order1", 5, TimeUnit.SECONDS);
        Order Order2 = new Order("Order2", 10, TimeUnit.SECONDS);
        Order Order3 = new Order("Order3", 15, TimeUnit.SECONDS);
        DelayQueue<Order> delayQueue = new DelayQueue<>();
        delayQueue.put(Order1);
        delayQueue.put(Order2);
        delayQueue.put(Order3);

        System.out.println("訂單延遲隊列開始時間:" + LocalDateTime.now().format(DateTimeFormatter.ofPattern("yyyy-MM-dd HH:mm:ss")));
        while (delayQueue.size() != 0) {
            /**
             * 取隊列頭部元素是否過時
             */
            Order task = delayQueue.poll();
            if (task != null) {
                System.out.format("訂單:{%s}被取消, 取消時間:{%s}\n", task.name, LocalDateTime.now().format(DateTimeFormatter.ofPattern("yyyy-MM-dd HH:mm:ss")));
            }
            Thread.sleep(1000);
        }
    }
}

上邊只是簡單的實現入隊與出隊的操做，實際開發中會有專門的線程，負責消息的入隊與消費。

執行後看到結果以下，Order1、Order2、Order3 分別在 5秒、10秒、15秒後被執行，至此就用DelayQueue實現了延時隊列。

訂單延遲隊列開始時間:2020-05-06 14:59:09
訂單:{Order1}被取消, 取消時間:{2020-05-06 14:59:14}
訂單:{Order2}被取消, 取消時間:{2020-05-06 14:59:19}
訂單:{Order3}被取消, 取消時間:{2020-05-06 14:59:24}
二、Quartz 定時任務

Quartz一款很是經典任務調度框架，在Redis、RabbitMQ還未普遍應用時，超時未支付取消訂單功能都是由定時任務實現的。定時任務它有必定的週期性，可能不少單子已經超時，但還沒到達觸發執行的時間點，那麼就會形成訂單處理的不夠及時。

引入quartz框架依賴包

<dependency>
     <groupId>org.springframework.boot</groupId>
     <artifactId>spring-boot-starter-quartz</artifactId>
</dependency>

在啓動類中使用@EnableScheduling註解開啓定時任務功能。

@EnableScheduling
@SpringBootApplication
public class DelayqueueApplication {
    public static void main(String[] args) {
        SpringApplication.run(DelayqueueApplication.class, args);
    }
}

編寫一個定時任務，每一個5秒執行一次。

@Component
public class QuartzDemo {

    //每隔五秒
    @Scheduled(cron = "0/5 * * * * ? ")
    public void process(){
        System.out.println("我是定時任務！");
    }
}
三、Redis sorted set

Redis的數據結構Zset，一樣能夠實現延遲隊列的效果，主要利用它的score屬性，redis經過score來爲集合中的成員進行從小到大的排序。
在這裏插入圖片描述
經過zadd命令向隊列delayqueue 中添加元素，並設置score值表示元素過時的時間；向delayqueue 添加三個order1、order2、order3，分別是10秒、20秒、30秒後過時。

zadd delayqueue 3 order3

消費端輪詢隊列delayqueue， 將元素排序後取最小時間與當前時間比對，如小於當前時間表明已通過期移除key。

/**
     * 消費消息
     */
    public void pollOrderQueue() {

        while (true) {
            Set<Tuple> set = jedis.zrangeWithScores(DELAY_QUEUE, 0, 0);

            String value = ((Tuple) set.toArray()[0]).getElement();
            int score = (int) ((Tuple) set.toArray()[0]).getScore();

            Calendar cal = Calendar.getInstance();
            int nowSecond = (int) (cal.getTimeInMillis() / 1000);
            if (nowSecond >= score) {
                jedis.zrem(DELAY_QUEUE, value);
                System.out.println(sdf.format(new Date()) + " removed key:" + value);
            }

            if (jedis.zcard(DELAY_QUEUE) <= 0) {
                System.out.println(sdf.format(new Date()) + " zset empty ");
                return;
            }
            Thread.sleep(1000);
        }
    }

咱們看到執行結果符合預期

2020-05-07 13:24:09 add finished.
2020-05-07 13:24:19 removed key:order1
2020-05-07 13:24:29 removed key:order2
2020-05-07 13:24:39 removed key:order3
2020-05-07 13:24:39 zset empty
四、Redis 過時回調

Redis 的key過時回調事件，也能達到延遲隊列的效果，簡單來講咱們開啓監聽key是否過時的事件，一旦key過時會觸發一個callback事件。

修改redis.conf文件開啓notify-keyspace-events Ex

notify-keyspace-events Ex

Redis監聽配置，注入Bean RedisMessageListenerContainer 

@Configuration
public class RedisListenerConfig {
    @Bean
    RedisMessageListenerContainer container(RedisConnectionFactory connectionFactory) {

        RedisMessageListenerContainer container = new RedisMessageListenerContainer();
        container.setConnectionFactory(connectionFactory);
        return container;
    }
}

編寫Redis過時回調監聽方法，必須繼承KeyExpirationEventMessageListener ，有點相似於MQ的消息監聽。

@Component
public class RedisKeyExpirationListener extends KeyExpirationEventMessageListener {

    public RedisKeyExpirationListener(RedisMessageListenerContainer listenerContainer) {
        super(listenerContainer);
    }
    @Override
    public void onMessage(Message message, byte[] pattern) {
        String expiredKey = message.toString();
        System.out.println("監聽到key：" + expiredKey + "已過時");
    }
}

到這代碼就編寫完成，很是的簡單，接下來測試一下效果，在redis-cli客戶端添加一個key 並給定3s的過時時間。

set xiaofu 123 ex 3

在控制檯成功監聽到了這個過時的key。

監聽到過時的key爲：xiaofu
五、RabbitMQ 延時隊列

利用 RabbitMQ 作延時隊列是比較常見的一種方式，而實際上RabbitMQ 自身並無直接支持提供延遲隊列功能，而是經過 RabbitMQ 消息隊列的 TTL和 DXL這兩個屬性間接實現的。

先來認識一下 TTL和 DXL兩個概念：

Time To Live(TTL) ：

TTL 顧名思義：指的是消息的存活時間，RabbitMQ能夠經過x-message-tt參數來設置指定Queue（隊列）和 Message（消息）上消息的存活時間，它的值是一個非負整數，單位爲微秒。

RabbitMQ 能夠從兩種維度設置消息過時時間，分別是隊列和消息自己

  • 設置隊列過時時間，那麼隊列中全部消息都具備相同的過時時間。
  • 設置消息過時時間，對隊列中的某一條消息設置過時時間，每條消息TTL均可以不一樣。

若是同時設置隊列和隊列中消息的TTL，則TTL值以二者中較小的值爲準。而隊列中的消息存在隊列中的時間，一旦超過TTL過時時間則成爲Dead Letter（死信）。

Dead Letter Exchanges（DLX）

DLX即死信交換機，綁定在死信交換機上的即死信隊列。RabbitMQ的 Queue（隊列）能夠配置兩個參數x-dead-letter-exchange 和 x-dead-letter-routing-key（可選），一旦隊列內出現了Dead Letter（死信），則按照這兩個參數能夠將消息從新路由到另外一個Exchange（交換機），讓消息從新被消費。

x-dead-letter-exchange：隊列中出現Dead Letter後將Dead Letter從新路由轉發到指定 exchange（交換機）。

x-dead-letter-routing-key：指定routing-key發送，通常爲要指定轉發的隊列。

隊列出現Dead Letter的狀況有：

  • 消息或者隊列的TTL過時
  • 隊列達到最大長度
  • 消息被消費端拒絕（basic.reject or basic.nack）

下邊結合一張圖看看如何實現超30分鐘未支付關單功能，咱們將訂單消息A0001發送到延遲隊列order.delay.queue，並設置x-message-tt消息存活時間爲30分鐘，當到達30分鐘後訂單消息A0001成爲了Dead Letter（死信），延遲隊列檢測到有死信，經過配置x-dead-letter-exchange，將死信從新轉發到能正常消費的關單隊列，直接監聽關單隊列處理關單邏輯便可。
在這裏插入圖片描述

發送消息時指定消息延遲的時間

public void send(String delayTimes) {
        amqpTemplate.convertAndSend("order.pay.exchange", "order.pay.queue","你們好我是延遲數據", message -> {
            // 設置延遲毫秒值
            message.getMessageProperties().setExpiration(String.valueOf(delayTimes));
            return message;
        });
    }
}

設置延遲隊列出現死信後的轉發規則

/**
     * 延時隊列
     */
    @Bean(name = "order.delay.queue")
    public Queue getMessageQueue() {
        return QueueBuilder
                .durable(RabbitConstant.DEAD_LETTER_QUEUE)
                // 配置到期後轉發的交換
                .withArgument("x-dead-letter-exchange", "order.close.exchange")
                // 配置到期後轉發的路由鍵
                .withArgument("x-dead-letter-routing-key", "order.close.queue")
                .build();
    }
六、時間輪

前邊幾種延時隊列的實現方法相對簡單，比較容易理解，時間輪算法就稍微有點抽象了。kafka、netty都有基於時間輪算法實現延時隊列，下邊主要實踐Netty的延時隊列講一下時間輪是什麼原理。

先來看一張時間輪的原理圖，解讀一下時間輪的幾個基本概念
在這裏插入圖片描述
wheel ：時間輪，圖中的圓盤能夠看做是鐘錶的刻度。好比一圈round 長度爲24秒，刻度數爲 8，那麼每個刻度表示 3秒。那麼時間精度就是 3秒。時間長度 / 刻度數值越大，精度越大。

當添加一個定時、延時任務A，假如會延遲25秒後纔會執行，可時間輪一圈round 的長度才24秒，那麼此時會根據時間輪長度和刻度獲得一個圈數 round和對應的指針位置 index，也是就任務A會繞一圈指向0格子上，此時時間輪會記錄該任務的round和 index信息。當round=0，index=0 ，指針指向0格子 任務A並不會執行，由於 round=0不知足要求。

因此每個格子表明的是一些時間，好比1秒和25秒 都會指向0格子上，而任務則放在每一個格子對應的鏈表中，這點和HashMap的數據有些相似。

Netty構建延時隊列主要用HashedWheelTimer，HashedWheelTimer底層數據結構依然是使用DelayedQueue，只是採用時間輪的算法來實現。

下面咱們用Netty 簡單實現延時隊列，HashedWheelTimer構造函數比較多，解釋一下各參數的含義。

  • ThreadFactory ：表示用於生成工做線程，通常採用線程池；
  • tickDuration和unit：每格的時間間隔，默認100ms；
  • ticksPerWheel：一圈下來有幾格，默認512，而若是傳入數值的不是2的N次方，則會調整爲大於等於該參數的一個2的N次方數值，有利於優化hash值的計算。
public HashedWheelTimer(ThreadFactory threadFactory, long tickDuration, TimeUnit unit, int ticksPerWheel) {
        this(threadFactory, tickDuration, unit, ticksPerWheel, true);
    }
  • TimerTask：一個定時任務的實現接口，其中run方法包裝了定時任務的邏輯。
  • Timeout：一個定時任務提交到Timer以後返回的句柄，經過這個句柄外部能夠取消這個定時任務，並對定時任務的狀態進行一些基本的判斷。

  • Timer：是HashedWheelTimer實現的父接口，僅定義瞭如何提交定時任務和如何中止整個定時機制。

    public class NettyDelayQueue {

public static void main(String[] args) {

    final Timer timer = new HashedWheelTimer(Executors.defaultThreadFactory(), 5, TimeUnit.SECONDS, 2);

    //定時任務
    TimerTask task1 = new TimerTask() {
        public void run(Timeout timeout) throws Exception {
            System.out.println("order1  5s 後執行 ");
            timer.newTimeout(this, 5, TimeUnit.SECONDS);//結束時候再次註冊
        }
    };
    timer.newTimeout(task1, 5, TimeUnit.SECONDS);
    TimerTask task2 = new TimerTask() {
        public void run(Timeout timeout) throws Exception {
            System.out.println("order2  10s 後執行");
            timer.newTimeout(this, 10, TimeUnit.SECONDS);//結束時候再註冊
        }
    };

    timer.newTimeout(task2, 10, TimeUnit.SECONDS);

    //延遲任務
    timer.newTimeout(new TimerTask() {
        public void run(Timeout timeout) throws Exception {
            System.out.println("order3  15s 後執行一次");
        }
    }, 15, TimeUnit.SECONDS);

}
}

    從執行的結果看，order3、order3延時任務只執行了一次，而order2、order1爲定時任務，按照不一樣的週期重複執行。

order1  5s 後執行 
order2  10s 後執行
order3  15s 後執行一次
order1  5s 後執行 
order2  10s 後執行

總結

爲了讓你們更容易理解，上邊的代碼寫的都比較簡單粗糙，幾種實現方式的demo已經都提交到github 地址：https://github.com/chengxy-nds/delayqueue，感興趣的小夥伴能夠下載跑一跑。

這篇文章肝了挺長時間，寫做一點也不比上班幹活輕鬆，查證資料反覆驗證demo的可行性，搭建各類RabbitMQ、Redis環境，只想說我太難了！

可能寫的有不夠完善的地方，如哪裏有錯誤或者不明瞭的，歡迎你們踊躍指正！！！

最後

原創不易，燃燒秀髮輸出內容，若是有一丟丟收穫，點個贊鼓勵一下吧！

整理了幾百本各種技術電子書，送給小夥伴們。關注公號回覆【666】自行領取。和一些小夥伴們建了一個技術交流羣，一塊兒探討技術、分享技術資料，旨在共同窗習進步，若是感興趣就加入咱們吧！

相關文章
相關標籤/搜索
每日一句
    每一个你不满意的现在，都有一个你没有努力的曾经。
本站公眾號
   歡迎關注本站公眾號,獲取更多信息
聯繫我們 最近搜索 最新文章 沪ICP备13005482号-10 MyBatis教程 SQL 教程 MySQL教程 Java 教程 Thymeleaf 教程 Hibernate教程 Spring教程 Redis教程