特牛生活网

Spark中yarn模式两种提交任务方式(yarn-client与yarn-cluster)_spark-submit --master yarn-client-CSDN博客

网友收藏
文章浏览阅读1w次。Spark中yarn模式两种提交任务方式(yarn-client与yarn-cluster)Spark可以和Yarn整合,将Application提交到Yarn上运行,和StandAlone提交模式一样,Yarn也有两种提交任务的方式。1.yarn-client提交任务方式配置在client节点配置中spark-env.sh添加Hadoop_HOME的配置目录即可提交yarn 任务,具体步骤如下:export HADOOP_CONF_DIR=$HADOOP_HOME/etc/had..._spark-submit --master yarn-client