特牛生活网

spark 调优、spark 代码的优化-CSDN博客

网友收藏
文章浏览阅读219次。目录spark 调优spark 代码的优化对多次使用的RDD进行持久化使用高性能的算子使用foreachPartitions替代foreach Action算子重分区使用filter之后进行coalesce操作广播大变量使用Kryo优化序列化性能优化数据结构使用高性能的库fastutilspark 调优三个方面:代码的优化参数的优化数据倾斜的优化spark 代码的优化加粗的为重..._spark 代码优化