Spark Streaming廣播變量更新問題

最近在使用Spark Streaming進行流式計算過程當中,遇到在過濾函數中須要用到外部過濾條件列表,且列表會隨時更新,一開始只是在main函數中獲取過濾條件列表,可是後來發現streaming程序每次觸發並不是從新執行一遍main函數,部分代碼(我的理解爲非spark DAG有向圖中rdd依賴鏈中的代碼,也就是在driver端執行的這一部分)只會在streaming程序啓動的時候執行一次,所以
相關文章
相關標籤/搜索