特牛生活网

整理spark中的job stage task几个概念以及运行案例_spark中job的概念-CSDN博客

网友收藏
文章浏览阅读4.6k次。Job :是一个比task 和 stage 更大的逻辑概念,job 可以认为是我们在driver 或是通过spark-submit 提交的程序中一个action ,在我们的程序中有很多action 所有也就对应很多的jobsStage: 是spark 中一个非常重要的概念 ,在一个job 中划分stage 的一个重要依据是否有shuflle 发生 ,也就是是否_spark中job的概念