特牛网址导航

Spark作业性能调优——Shuffle原理及参数调优_shuflle的参数调优做过吗?-CSDN博客

网友收藏
文章浏览阅读261次。一、调优概述大多数Spark作业的性能主要就是消耗在了shuffle环节,因为该环节包含了大量的磁盘IO、序列化、网络数据传输等操作。因此,如果要让作业的性能更上一层楼,就有必要对shuffle过程进行调优。但是也必须提醒大家的是,影响一个Spark作业性能的因素,主要还是代码开发、资源参数以及数据倾斜,shuffle调优只能在整个Spark的性能调优中占到一小部分而已。因此大家务必把握住调优..._shuflle的参数调优做过吗?