XXL-JOB 輕量級分佈式任務調度平臺

分佈式任務調度平臺 XXL-JOB

---

簡介：

XXL-JOB是一個輕量級分佈式任務調度平臺，其核心設計目標是開發迅速、學習簡單、輕量級、易擴展。現已開放源代碼並接入多家公司線上產品線，開箱即用。

官網文檔

https://www.xuxueli.com/xxl-job/

---

特性

一、簡單：支持經過Web頁面對任務進行CRUD操做，操做簡單，一分鐘上手；
二、動態：支持動態修改任務狀態、啓動/中止任務，以及終止運行中任務，即時生效；
三、調度中心HA（中心式）：調度採用中心式設計，「調度中心」自研調度組件並支持集羣部署，可保證調度中心HA；
四、執行器HA（分佈式）：任務分佈式執行，任務"執行器"支持集羣部署，可保證任務執行HA；
五、註冊中心: 執行器會週期性自動註冊任務, 調度中心將會自動發現註冊的任務並觸發執行。同時，也支持手動錄入執行器地址；
六、彈性擴容縮容：一旦有新執行器機器上線或者下線，下次調度時將會從新分配任務；
七、路由策略：執行器集羣部署時提供豐富的路由策略，包括：第一個、最後一個、輪詢、隨機、一致性HASH、最不常用、最近最久未使用、故障轉移、忙碌轉移等；
八、故障轉移：任務路由策略選擇"故障轉移"狀況下，若是執行器集羣中某一臺機器故障，將會自動Failover切換到一臺正常的執行器發送調度請求。
九、阻塞處理策略：調度過於密集執行器來不及處理時的處理策略，策略包括：單機串行（默認）、丟棄後續調度、覆蓋以前調度；
十、任務超時控制：支持自定義任務超時時間，任務運行超時將會主動中斷任務；
十一、任務失敗重試：支持自定義任務失敗重試次數，當任務失敗時將會按照預設的失敗重試次數主動進行重試；其中分片任務支持分片粒度的失敗重試；
十二、任務失敗告警；默認提供郵件方式失敗告警，同時預留擴展接口，可方便的擴展短信、釘釘等告警方式；
1三、分片廣播任務：執行器集羣部署時，任務路由策略選擇"分片廣播"狀況下，一次任務調度將會廣播觸發集羣中全部執行器執行一次任務，可根據分片參數開發分片任務；
1四、動態分片：分片廣播任務以執行器爲維度進行分片，支持動態擴容執行器集羣從而動態增長分片數量，協同進行業務處理；在進行大數據量業務操做時可顯著提高任務處理能力和速度。
1五、事件觸發：除了"Cron方式"和"任務依賴方式"觸發任務執行以外，支持基於事件的觸發任務方式。調度中心提供觸發任務單次執行的API服務，可根據業務事件靈活觸發。
1六、任務進度監控：支持實時監控任務進度；
1七、Rolling實時日誌：支持在線查看調度結果，而且支持以Rolling方式實時查看執行器輸出的完整的執行日誌；
1八、GLUE：提供Web IDE，支持在線開發任務邏輯代碼，動態發佈，實時編譯生效，省略部署上線的過程。支持30個版本的歷史版本回溯。
1九、腳本任務：支持以GLUE模式開發和運行腳本任務，包括Shell、Python、NodeJS、PHP、PowerShell等類型腳本;
20、命令行任務：原生提供通用命令行任務Handler（Bean任務，"CommandJobHandler"）；業務方只須要提供命令行便可；
2一、任務依賴：支持配置子任務依賴，當父任務執行結束且執行成功後將會主動觸發一次子任務的執行, 多個子任務用逗號分隔；
2二、一致性：「調度中心」經過DB鎖保證集羣分佈式調度的一致性, 一次任務調度只會觸發一次執行；
2三、自定義任務參數：支持在線配置調度任務入參，即時生效；
2四、調度線程池：調度系統多線程觸發調度運行，確保調度精確執行，不被堵塞；
2五、數據加密：調度中心和執行器之間的通信進行數據加密，提高調度信息安全性；
2六、郵件報警：任務失敗時支持郵件報警，支持配置多郵件地址羣發報警郵件；
2七、推送maven中央倉庫: 將會把最新穩定版推送到maven中央倉庫, 方便用戶接入和使用;
2八、運行報表：支持實時查看運行數據，如任務數量、調度次數、執行器數量等；以及調度報表，如調度日期分佈圖，調度成功分佈圖等；
2九、全異步：任務調度流程全異步化設計實現，如異步調度、異步運行、異步回調等，有效對密集調度進行流量削峯，理論上支持任意時長任務的運行；
30、跨語言：調度中心與執行器提供語言無關的 RESTful API 服務，第三方任意語言可據此對接調度中心或者實現執行器。除此以外，還提供了 「多任務模式」和「httpJobHandler」等其餘跨語言方案；
3一、國際化：調度中心支持國際化設置，提供中文、英文兩種可選語言，默認爲中文；
3二、容器化：提供官方docker鏡像，並實時更新推送dockerhub，進一步實現產品開箱即用；
3三、線程池隔離：調度線程池進行隔離拆分，慢任務自動降級進入"Slow"線程池，避免耗盡調度線程，提升系統穩定性；
3四、用戶管理：支持在線管理系統用戶，存在管理員、普通用戶兩種角色；
3五、權限控制：執行器維度進行權限控制，管理員擁有全量權限，普通用戶須要分配執行器權限後才容許相關操做；

部署

拉取代碼：這是我放到了本身 的 gitee 上，拉取速度很是快
git clone https://gitee.com/Liu_YiHong/xxl-job.git

導入sql 文件到數據庫MySQL
cd xxl-job/doc/db    //會有一份tables_xxl_job.sql 文件，導入到數據庫就好。

修改xxl-job-admin配置文件：
cd xxl-job/xxl-job-admin/src/main/resources
vim application.properties
修改以下 參數：
server.port=8086
spring.datasource.url=jdbc:mysql://數據庫IP:3306/xxl_job?useUnicode=true&characterEncoding=UTF-8&autoReconnect=true&serverTimezone=Asia/Shanghai
spring.datasource.username=root
spring.datasource.password=0GXwwchW4rP

修改 xxl-job-executor-sample-springboot 配置文件：
cd xxl-job/xxl-job-executor-samples/xxl-job-executor-sample-springboot/src/main/resources
vim application.properties
修改以下參數：
server.port=8087
xxl.job.admin.addresses=http://xxxxxxIP地址:8086/xxl-job-admin

cd xxl-job  //項目得根目錄下打包
1·打包以前最好修改maven 得倉庫地址，不然太慢。

Maven 配置
打開 Maven 的配置文件(windows機器通常在maven安裝目錄的conf/settings.xml)，在<mirrors></mirrors>標籤中添加 mirror 子節點:

<mirror>
    <id>aliyunmaven</id>
    <mirrorOf>*</mirrorOf>
    <name>阿里雲公共倉庫</name>
    <url>https://maven.aliyun.com/repository/public</url>
</mirror>

2· 執行打包命令
mvn clean package -Dmaven.test.skip=true

3·製做xxl-job-admin鏡像
cd xxl-job-admin
docker build -t xxl-job-admin .

4`製做 xxl-jobs-pringboot 鏡像
cd xxl-job/xxl-job-executor-samples/xxl-job-executor-sample-springboot
docker build -t xxl-jobs-pringboot .

5·編寫docker-compose.yml 文件
version: '3'
services:
  xxl-job-admin:
    image: xxl-job-admin
    restart: always
    container_name: xxl-job-admin
    ports:
    - 8086:8086
    environment:
    - TZ=Asia/Shanghai
    volumes:
    - ./data/applogs:/data/applogs

  xxl-job-springboot:
    image: xxl-jobs-pringboot
    restart: always
    container_name: xxl-job-springboot
    ports:
      - 8087:8087
    environment:
    - TZ=Asia/Shanghai

6·啓動服務：
docke-compose up -d

7·訪問方式：
http://IP+端口號/xxl-job-admin