spark-sql cli模式下driver內存溢出

採用spark-sql啓動編程,編寫sql執行,但是數據量很少,不到一百條,執行時顯示內存溢出,並且是已經顯示stage進度條;如果是在編譯過程中提示內存溢出,極有可能是driver內存分配的太小,而sql編譯後stage太多導致,但是下面的這個是程序用改已經執行了,跟executor-memory有關,和driver沒有多少關係了,但是最後的解決方法是加大了driver內存。這一點目前理解不同,
相關文章
相關標籤/搜索