特牛网址导航

彻底搞懂spark的shuffle过程(shuffle write)_spark shuffle write-CSDN博客

网友收藏
文章浏览阅读3.2k次,点赞3次,收藏21次。什么时候需要 shuffle writer假如我们有个 spark job 依赖关系如下我们抽象出来其中的rdd和依赖关系:E <-------n------, C <--n---D---n-----F--s---, A <-------s------ B <--n----`-- G对应的划分后的RDD结构为:最终我们得到了整个执行过程:中间就涉及..._spark shuffle write