「戲」說spark---spark Shuffle詳解(二)

「戲」說spark---spark Shuffle詳解(二) 在「戲」說spark---spark Shuffle詳解(一)一文中,我們詳細的介紹了Spark中兩種ShuffleManager,HashShuffleManager和SortShuffleManager,那麼在Shuffle中,Reduce節點是怎麼知道map端溢寫文件的位置的呢?Reduce端是怎麼拉取數據的呢? 我們先再來回顧下
相關文章
相關標籤/搜索