DataPipeline選擇MQ模式的理由

DataPipeline選擇MQ模式,主要有幾點考慮: 第一,在我們產品應用中有一個非常常見的場景:要做數據的一對多分發。數據要進行一次讀取,然後分發到各種不同的目的地,這是一個非常適合消息隊列使用的分發模型。 第二,有時會對一次讀取的數據加不同的處理邏輯,我們希望這種處理不要重新對源端產生一次讀取。所以在多數情況下,都需將數據先讀到消息隊列,然後再配置相應的處理邏輯。 第三,Kafka Conn
相關文章
相關標籤/搜索