大數據學習之路108-spark streaming基於redis歷史state統計

咱們以前使用spark streaming作過基於mysql的歷史state統計,可是當時的方法很笨,由於寫到mysql中第一是性能很差,第二是編碼麻煩,因此通常不會有人那麼作。並且當時的數據來源是socket。java 因此如今咱們的業務就是:mysql 經過一個客戶端工具實時的寫數據到kafka中,而後經過spark streaming實時的監控並消費出來。寫入到redis中進行實時的統計。r
相關文章
相關標籤/搜索