XXL-JOB v1.9.2 發佈,分佈式任務調度平臺

v1.9.2 新版本

  • 一、任務超時控制:新增任務屬性 "任務超時時間",並支持自定義,任務運行超時將會主動中斷任務;
  • 二、任務失敗重試次數:新增任務屬性 "失敗重試次數",並支持自定義,當任務失敗時將會按照預設的失敗重試次數主動進行重試;同時收斂廢棄其餘失敗重試策略,如調度失敗、執行失敗、狀態碼失敗等;
  • 三、新增任務運行模式 "GLUE模式(PHP) ",支持php腳本任務;
  • 四、新增任務運行模式 "GLUE模式(PowerShell) ",支持PowerShell腳本任務;
  • 五、調度全異步處理:任務觸發以後,推送到調度隊列,多線程併發處理調度請求,提升任務調度速率的同時,避免因網絡問題致使quartz調度線程阻塞的問題;
  • 六、執行器任務結果落盤優化:執行器回調失敗時將任務結果寫磁盤,待重啓或網絡恢復時重試回調任務結果,防止任務執行結果丟失;
  • 七、任務日誌查詢速度大幅提高:百萬級別數據量搜索速度提高1000倍;
  • 八、調度中心提供API服務,支持經過API服務對任務進行查詢、新增、更新、啓停等操做;
  • 九、底層自研Log組件參數佔位符改成"{}",並修復打印有參日誌時參數不匹配致使報錯的問題;
  • 十、任務回調結果優化,支持展現在Rolling log中,方便問題排查;
  • 十一、底層LocalCache組件兼容性優化,支持jdk九、jdk10及以上版本編譯部署;
  • 十二、告警郵件固定使用 UTF-8 編碼格式,修復由機器編碼致使的郵件亂碼問題;
  • 1三、告警郵件中展現失敗告警信息;
  • 1四、告警郵箱支持SSL配置;
  • 1五、Window機器下File.separator不兼容問題修復;
  • 1六、腳本任務異常Log輸出優化;
  • 1七、任務線程中止變量修飾符優化;
  • 1八、腳本任務Log文件流關閉優化;
  • 1九、任務報表成功、失敗和進行中統計問題修復;
  • 20、核心依賴Core內部國際化處理;
  • 2一、默認Quartz線程數調整爲50;
  • 2二、新增左側菜單"運行報表";
  • 2三、執行器手動設置IP時取消綁定Host的操做,該IP僅供執行器註冊使用;修復指定外網IP時沒法綁定執行器Host的問題;
  • 2四、取消父子任務不可重複的限制,支持循環任務觸發等特殊場景;
  • 2五、任務調度備註中標註任務觸發類型,如Cron觸發、父任務觸發、API觸發等等,方便排查調度日誌;
  • 2六、底層日誌組件SimpleDateFormat線程安全問題修復;
  • 2七、執行器通信線程優化,corePoolSize從256下降至32;
  • 2八、任務日誌表狀態字段類型優化;
  • 2九、GLUE腳本文件自動清理功能,及時清理過時腳本文件;
  • 30、執行器註冊方式切換優化,切換自動註冊時主動同步在線機器,避免執行器爲空的問題;
  • 3一、跨平臺:除了提供Java、Python、PHP等十來種任務模式以外,新增提供基於HTTP的任務模式;
  • 3二、底層RPC序列化協議調整爲hessian2;
  • 3三、修復表字段 「t.order」與數據庫關鍵字衝突查詢失敗的問題,
  • 3四、任務屬性枚舉 "任務模式、阻塞策略" 國際化優化;
  • 3五、分片任務失敗重試優化,僅重試當前失敗的分片;
  • 3六、任務觸發時支持動態傳參,調度中心與API服務均提供提供動態參數功能;
  • 3七、任務執行日誌、調度日誌字段類型調整,改成text類型並取消字數限制;
  • 3八、GLUE任務腳本字段類型調整,改成mediumtext類型,提升GLUE長度上限;
  • 3九、任務監控線程Log輸出優化,運行中任務的監控Log改成debug級別,減小非核心日誌量;
  • 40、項目依賴全量升級至較新穩定版本,如spring、Jackson、groovy等等;
  • 4一、docker支持:調度中心提供 Dockerfile 方便快速構建docker鏡像;

輸入圖片說明

《分佈式任務調度平臺XXL-JOB》

1.1 概述

XXL-JOB是一個輕量級分佈式任務調度平臺,其核心設計目標是開發迅速、學習簡單、輕量級、易擴展。現已開放源代碼並接入多家公司線上產品線,開箱即用。php

1.2 特性

  • 一、簡單:支持經過Web頁面對任務進行CRUD操做,操做簡單,一分鐘上手;
  • 二、動態:支持動態修改任務狀態、暫停/恢復任務,以及終止運行中任務,即時生效;
  • 三、調度中心HA(中心式):調度採用中心式設計,「調度中心」基於集羣Quartz實現並支持集羣部署,可保證調度中心HA;
  • 四、執行器HA(分佈式):任務分佈式執行,任務"執行器"支持集羣部署,可保證任務執行HA;
  • 五、註冊中心: 執行器會週期性自動註冊任務, 調度中心將會自動發現註冊的任務並觸發執行。同時,也支持手動錄入執行器地址;
  • 六、彈性擴容縮容:一旦有新執行器機器上線或者下線,下次調度時將會從新分配任務;
  • 七、路由策略:執行器集羣部署時提供豐富的路由策略,包括:第一個、最後一個、輪詢、隨機、一致性HASH、最不常用、最近最久未使用、故障轉移、忙碌轉移等;
  • 八、故障轉移:任務路由策略選擇"故障轉移"狀況下,若是執行器集羣中某一臺機器故障,將會自動Failover切換到一臺正常的執行器發送調度請求。
  • 九、阻塞處理策略:調度過於密集執行器來不及處理時的處理策略,策略包括:單機串行(默認)、丟棄後續調度、覆蓋以前調度;
  • 十、任務超時控制:支持自定義任務超時時間,任務運行超時將會主動中斷任務;
  • 十一、任務失敗重試:支持自定義任務失敗重試次數,當任務失敗時將會按照預設的失敗重試次數主動進行重試;其中分片任務支持分片粒度的失敗重試;
  • 十二、任務失敗告警;默認提供郵件方式失敗告警,同時預留擴展接口,可方面的擴展短信、釘釘等告警方式;
  • 1三、分片廣播任務:執行器集羣部署時,任務路由策略選擇"分片廣播"狀況下,一次任務調度將會廣播觸發集羣中全部執行器執行一次任務,可根據分片參數開發分片任務;
  • 1四、動態分片:分片廣播任務以執行器爲維度進行分片,支持動態擴容執行器集羣從而動態增長分片數量,協同進行業務處理;在進行大數據量業務操做時可顯著提高任務處理能力和速度。
  • 1五、事件觸發:除了"Cron方式"和"任務依賴方式"觸發任務執行以外,支持基於事件的觸發任務方式。調度中心提供觸發任務單次執行的API服務,可根據業務事件靈活觸發。
  • 1六、任務進度監控:支持實時監控任務進度;
  • 1七、Rolling實時日誌:支持在線查看調度結果,而且支持以Rolling方式實時查看執行器輸出的完整的執行日誌;
  • 1八、GLUE:提供Web IDE,支持在線開發任務邏輯代碼,動態發佈,實時編譯生效,省略部署上線的過程。支持30個版本的歷史版本回溯。
  • 1九、腳本任務:支持以GLUE模式開發和運行腳本任務,包括Shell、Python、NodeJS、PHP、PowerShell等類型腳本;
  • 20、任務依賴:支持配置子任務依賴,當父任務執行結束且執行成功後將會主動觸發一次子任務的執行, 多個子任務用逗號分隔;
  • 2一、一致性:「調度中心」經過DB鎖保證集羣分佈式調度的一致性, 一次任務調度只會觸發一次執行;
  • 2二、自定義任務參數:支持在線配置調度任務入參,即時生效;
  • 2三、調度線程池:調度系統多線程觸發調度運行,確保調度精確執行,不被堵塞;
  • 2四、數據加密:調度中心和執行器之間的通信進行數據加密,提高調度信息安全性;
  • 2五、郵件報警:任務失敗時支持郵件報警,支持配置多郵件地址羣發報警郵件;
  • 2六、推送maven中央倉庫: 將會把最新穩定版推送到maven中央倉庫, 方便用戶接入和使用;
  • 2七、運行報表:支持實時查看運行數據,如任務數量、調度次數、執行器數量等;以及調度報表,如調度日期分佈圖,調度成功分佈圖等;
  • 2八、全異步:任務調度流程全異步化設計實現,如異步調度、異步運行、異步回調等,有效對密集調度進行流量削峯,理論上支持任意時長任務的運行;
  • 2九、跨平臺:原生提供通用HTTP任務Handler(Bean任務,"httpJobHandler");業務方只須要提供HTTP連接便可,不限制語言、平臺;
  • 30、國際化:調度中心支持國際化設置,提供中文、英文兩種可選語言,默認爲中文;

文檔地址

技術交流

相關文章
相關標籤/搜索