特牛生活网

spark学习-Task原理_spark中task是怎么来的-CSDN博客

网友收藏
文章浏览阅读220次。Task原理:1.Executor接收到了LaunchTask请求,将task封装成TaskRunner运行。2.反序列化task,并通过网络拉取需要的文件、jar包等,然后运行task的run()方法。3.调用RDD的iterator()方法,会针对task所对应的RDD的partition,执行我们自定义的function函数(算子)。4.ShuffleMapTask阶段,计算完partiti..._spark中task是怎么来的