Spark---JVM調優之調節executor離堆內存與連接等待時長

1、executor堆外內存 有時候,如果你的spark作業處理的數據量特別特別大,幾億數據量;然後spark作業一運行,時不時的報錯,shuffle file cannot find,executor、task lost,out of memory(內存溢出); 可能是說executor的堆外內存不太夠用,導致executor在運行的過程中,可能會內存溢出;然後可能導致後續的stage的task
相關文章
相關標籤/搜索