星空网 > 软件开发 > Java

spark on yarn 基于cdh5.7.2

概述:在cdh上搭建spark on yarn  

  -- 要点:安装好两个服务后,在yarn 实例中添加对应的gateway即可     

  ps:改完后  记得重启集群

 

 

一、首先添加图中红箭头所指服务   --即spark  与 yarn

spark on yarn   基于cdh5.7.2

二、给yarn添加gateway  图中红箭头所指默认是没有的,也就是我们将要添加的

spark on yarn   基于cdh5.7.2

2.1  点击本页红箭头所指按钮

spark on yarn   基于cdh5.7.2

 

2.2  选中对应的host  

spark on yarn   基于cdh5.7.2

2.3  点击继续完成

三、重启集群   点击restart即可

spark on yarn   基于cdh5.7.2

 

  测试使用:在任意一个节点执行

   spark-submit --class org.apache.spark.examples.SparkPi --master yarn-cluster /opt/cloudera/parcels/CDH-5.7.2-1.cdh5.7.2.p0.18/lib/spark/lib/spark-examples.jar 10             

 --ps : /opt/cloudera/parcels/CDH-5.7.2-1.cdh5.7.2.p0.18/lib/spark/lib/spark-examples.jar  该路径为你自己安装的cdh相关路径   

   在spark  UI 端查看如下,即证明成功

spark on yarn   基于cdh5.7.2

 

                                                        

 

原标题:spark on yarn 基于cdh5.7.2

关键词:H5

H5
*特别声明:以上内容来自于网络收集,著作权属原作者所有,如有侵权,请联系我们: admin#shaoqun.com (#换成@)。

给23岁的小弟的三个人生建议- 王师傅:https://www.xlkjsw.com/news/76045.html
2023年中国BI产品十大发展趋势:https://www.kjdsnews.com/a/1838166.html
2023年中国BI产品十大发展趋势:https://www.xlkjsw.com/news/76046.html
什么中国软件值得投?:https://www.kjdsnews.com/a/1838167.html
什么中国软件值得投?:https://www.xlkjsw.com/news/76047.html
4个人,估值10亿:https://www.kjdsnews.com/a/1838168.html
一夜之间大批卖家货物被偷,又迎大量Listing将被下架!跨境赚钱"好日子"到头了?:https://www.goluckyvip.com/news/220219.html
晚上沈阳市区哪里好玩的地方 晚上沈阳有什么好玩的地方:https://www.vstour.cn/a/410235.html
相关文章
我的浏览记录
最新相关资讯
海外公司注册 | 跨境电商服务平台 | 深圳旅行社 | 东南亚物流