特牛网址导航

Spark On Yarn环境部署测试(standalone)_spark3.1 on yarn 官方测试案例-CSDN博客

网友收藏
文章浏览阅读832次,点赞4次,收藏2次。Spark On Yarn环境部署测试(使用伪分布)一、前提工作二、配置Spark On Yarn三、运行Spark Pi案例一、前提工作安装了Hadoop伪分布,可以参考:Hadoop2.7.3环境搭建之伪分布式安装spark伪分布,可参考:Spark Standalone单机模式环境搭建二、配置Spark On Yarn修改yarn-site.xml,添加如下信息<!--是否启动一个线程检查每个任务正使用的物理内存量,如果任务超出分配值,则直接将其杀掉,默认是 true --&_spark3.1 on yarn 官方测试案例