特牛网址导航

spark-submit使用yarn cluster模式时如何获取applicationId?_spark application id怎么查-CSDN博客

网友收藏
文章浏览阅读5.1k次。文章目录问题描述什么是applicationId解决方法问题描述在自动化的项目中,需要将spark-submit程序包装起来,通过c语言或者shell来调用,因为需要记录日志,即需要知道每次提交的spark的程序的applicationId, 将其记录。spark程序是使用yarn cluster模式提交的,因此driver在集群中的任意机子,无法确定。什么是applicationIdap..._spark application id怎么查