特牛网址导航

10.6 Spark资源调度和任务调度-standalone模式_客户端提交job后如何通过standalone模式获取资源并执行spark任务计算。-CSDN博客

网友收藏
  • 链接地址:https://blog.csdn.net/u011418530/article/details/81200217
  • 链接标题:10.6 Spark资源调度和任务调度-standalone模式_客户端提交job后如何通过standalone模式获取资源并执行spark任务计算。-CSDN博客
  • 所属网站:blog.csdn.net
  • 被收藏次数:688
文章浏览阅读435次。 1,当每个worker启动起来之后,会向master注册信息(内容:当前worker进程所管理的资源情况);这样Master就掌握了整个集群的资源情况2,当new SparkConf 和SparkContext的时候Driver当中就启动了DAGScheduler和TaskScheduler;这时候TaskScheduler会向Master发送请求(内容:当前Application执..._客户端提交job后如何通过standalone模式获取资源并执行spark任务计算。