架構設計 | 異步處理流程,多種實現模式詳解

本文源碼:GitHub·點這裏 || GitEE·點這裏java

1、異步處理

一、異步概念

異步處理不用阻塞當前線程來等待處理完成,而是容許後續操做,直至其它線程將處理完成,並回調通知此線程。git

必須強調一個基礎邏輯,異步是一種設計理念,異步操做不等於多線程,MQ中間件,或者消息廣播,這些是能夠實現異步處理的方式。github

同步處理和異步處理相對,須要實時處理並響應,一旦超過期間會結束會話,在該過程當中調用方一直在等待響應方處理完成並返回。同步相似電話溝通,須要實時對話,異步則相似短信交流,發送消息以後無需保持等待狀態。緩存

二、異步處理優勢

雖然異步處理不能實時響應,可是處理複雜業務場景,多數狀況都會使用異步處理。多線程

  • 異步能夠解耦業務間的流程關聯,下降耦合度;
  • 下降接口響應時間,例如用戶註冊,異步生成相關信息表;
  • 異步能夠提升系統性能,提高吞吐量;
  • 流量削峯即把請求先承接下來,而後在異步處理;
  • 異步用在不一樣服務間,能夠隔離服務,避免雪崩;

異步處理的實現方式有不少種,常見多線程,消息中間件,發佈訂閱的廣播模式,其根據邏輯在於先把請求承接下來,放入容器中,在從容器中把請求取出,統一調度處理。架構

注意:必定要監控任務是否產生積壓過分狀況,任務若是積壓到雪崩之勢的地步,你會感受每一片雪花都想勇闖天涯。app

三、異步處理模式

異步流程處理的實現有好多方式,可是實際開發中經常使用的就那麼幾種,例如:運維

  • 基於接口異步響應,經常使用在第三方對接流程;
  • 基於消息生產和消費模式,解耦複雜流程;
  • 基於發佈和訂閱的廣播模式,常見系統通知

異步適用的業務場景,對數據強一致性的要求不高,異步處理的數據更多時候追求的是最終一致性。異步

2、接口響應異步

一、流程描述

基於接口異步響應的方式,有一個本地業務服務,第三方接口服務,流程以下:分佈式

  • 本地服務發起請求,調用第三方服務接口;
  • 請求包含業務參數,和成功或失敗的回調地址;
  • 第三方服務實時響應流水號,做爲該調用的標識;
  • 以後第三方服務處理請求,獲得最終處理結果;
  • 若是處理成功,回調本地服務的成功通知接口;
  • 若是處理失敗,回調本地服務的失敗通知接口;
  • 整個流程基於部分異步和部分實時的模式,完整處理;

注意:若是本地服務屢次請求第三方服務,須要根據流水號判斷該請求的狀態,業務的狀態設計也是極其複雜,要根據流水號和狀態追溯整個流程的執行進度,避免錯亂。

二、流程實現案例

模擬基礎接口

@RestController
public class ReqAsyncWeb {
    private static final Logger LOGGER = LoggerFactory.getLogger(ReqAsyncWeb.class);
    @Resource
    private ReqAsyncService reqAsyncService ;
    // 本地交易接口
    @GetMapping("/tradeBegin")
    public String tradeBegin (){
        String sign = reqAsyncService.tradeBegin("TradeClient");
        return sign ;
    }
    // 交易成功通知接口
    @GetMapping("/tradeSucNotify")
    public String tradeSucNotify (@RequestParam("param") String param){
        LOGGER.info("tradeSucNotify param={"+ param +"}");
        return "success" ;
    }
    // 交易失敗通知接口
    @GetMapping("/tradeFailNotify")
    public String tradeFailNotify (@RequestParam("param") String param){
        LOGGER.info("tradeFailNotify param={"+ param +"}");
        return "success" ;
    }
    // 第三方交易接口
    @GetMapping("/respTrade")
    public String respTrade (@RequestParam("param") String param){
        LOGGER.info("respTrade param={"+ param +"}");
        reqAsyncService.respTrade(param);
        return "NO20200520" ;
    }
}

模擬第三方處理

@Service
public class ReqAsyncServiceImpl implements ReqAsyncService {

    private static final String serverUrl = "http://localhost:8005" ;

    @Override
    public String tradeBegin(String param) {
        String orderNo = HttpUtil.get(serverUrl+"/respTrade?param="+param);
        if (StringUtils.isEmpty(orderNo)){
            return "Trade..Fail...";
        }
        return orderNo ;
    }

    @Override
    public void respTrade(String param) {
        try {
            Thread.sleep(10000);
        } catch (InterruptedException e) {
            e.printStackTrace();
        }
        Thread thread01 = new Thread(
                new RespTask(serverUrl+"/tradeSucNotify?param="+param),"SucNotify");
        Thread thread02 = new Thread(
                new RespTask(serverUrl+"/tradeFailNotify?param="+param),"FailNotify");
        thread01.start();
        thread02.start();
    }
}

3、生產消費異步

一、流程描述

這裏基於Kafka中間件,演示流程消息生成,消息處理的異步解耦流程,基本步驟:

  • 消息生成以後,寫入Kafka隊列 ;
  • 消息處理方獲取消息後,進行流程處理;
  • 消息在中間件提供的隊列中持久化存儲 ;
  • 消息發起方若是掛掉,不影響消息處理 ;
  • 消費方若是掛掉,不影響消息生成;

基於這種消息中間件模式,完成業務解耦,提升系統吞吐量,是架構中經常使用的方式。

二、流程實現案例

消息發送

@Service
public class KafkaAsyncServiceImpl implements KafkaAsyncService {

    @Resource
    private KafkaTemplate<String, String> kafkaTemplate;

    @Override
    public void sendMsg(String msg) {
        // 這裏Topic若是不存在,會自動建立
        kafkaTemplate.send("kafka-topic", msg);
    }
}

消息消費

@Component
public class KafkaConsumer {

    private static Logger LOGGER = LoggerFactory.getLogger(KafkaConsumer.class);

    @KafkaListener(topics = "kafka-topic")
    public void listenMsg (ConsumerRecord<?,String> record) {
        String value = record.value();
        LOGGER.info("KafkaConsumer01 ==>>"+value);
    }
}

注意:這裏就算有多個消息消費方,也只會在一個消費方處理消息,這就是該模式的特色。

4、發佈訂閱異步

一、流程描述

這裏基於Redis中間件,說明消息廣播模式流程,基本步驟:

  • 提供一個消息傳遞頻道channel;
  • 多個訂閱頻道的客戶端client;
  • 消息經過PUBLISH命令發送給頻道channel ;
  • 客戶端就會收到頻道中傳遞的消息 ;

之因此稱爲廣播模式,該模式更注重通知下發,流程交互性不強。實際開發場景:運維總控系統,更新了某類服務配置,通知消息發送以後,相關業務線上的服務在拉取最新配置,更新到服務中。

二、流程實現案例

發送通知消息

@Service
public class RedisAsyncServiceImpl implements RedisAsyncService {

    @Resource
    private StringRedisTemplate stringRedisTemplate ;

    @Override
    public void sendMsg(String topic, String msg) {
        stringRedisTemplate.convertAndSend(topic,msg);
    }
}

客戶端接收

@Service
public class ReceiverServiceImpl implements ReceiverService {

    private static final Logger LOGGER = LoggerFactory.getLogger("ReceiverMsg");

    @Override
    public void receiverMsg(String msg) {
        LOGGER.info("Receiver01 收到消息:msg-{}",msg);
    }
}

配置廣播模式

@Configuration
public class SubMsgConfig {

    @Bean
    RedisMessageListenerContainer container(RedisConnectionFactory factory,
                                            MessageListenerAdapter msgListenerAdapter,
                                            MessageListenerAdapter msgListenerAdapter02){
        RedisMessageListenerContainer container = new RedisMessageListenerContainer();
        container.setConnectionFactory(factory);
        //註冊多個監聽,訂閱一個主題,實現消息廣播
        container.addMessageListener(msgListenerAdapter, new PatternTopic("topic:msg"));
        container.addMessageListener(msgListenerAdapter02, new PatternTopic("topic:msg"));
        return container;
    }

    @Bean
    MessageListenerAdapter msgListenerAdapter(ReceiverService receiverService){
        return new MessageListenerAdapter(receiverService, "receiverMsg");
    }
    @Bean
    MessageListenerAdapter msgListenerAdapter02(ReceiverService02 receiverService02){
        return new MessageListenerAdapter(receiverService02, "receiverMsg");
    }

    @Bean
    ReceiverService receiverService(){
        return new ReceiverServiceImpl();
    }
    @Bean
    ReceiverService02 receiverService02(){
        return new ReceiverServiceImpl02();
    }
}

這裏配置了多個訂閱的客戶端。

5、任務積壓監控

生成一個消息,就由於有一個處理該消息的任務要執行,這就致使任務可能出現積壓的狀況,常見緣由大體有以下幾個:

  • 任務產生的服務過多,任務處理的服務過少,不均衡;
  • 任務處理時間太長,也致使生產過剩;
  • 中間件自己容量偏小,須要擴容或集羣化管理;

若是任務積壓過多,可能要對任務生成進行流量控制,或者提高任務的處理能力,從而避免雪崩狀況。

6、源代碼地址

GitHub·地址
https://github.com/cicadasmile/data-manage-parent
GitEE·地址
https://gitee.com/cicadasmile/data-manage-parent

推薦閱讀:《架構設計系列》,蘿蔔青菜,各有所需

序號 標題
01 架構設計:單服務.集羣.分佈式,基本區別和聯繫
02 架構設計:分佈式業務系統中,全局ID生成策略
03 架構設計:分佈式系統調度,Zookeeper集羣化管理
04 架構設計:接口冪等性原則,防重複提交Token管理
05 架構設計:緩存管理模式,監控和內存回收策略
相關文章
相關標籤/搜索