Spark on yarn
更新:HHH   时间:2023-1-7




ResourceManager  资源管理   只有一个(资源以Container表示)

ApplicationMaster  应用管理   用户每提交一个application都包含一个ApplicationMaster
NodeManager 每个节点对应一个


ApplicationMaster 启动后向ResourceManager要资源



每个Executor对应一个Container

每个SparkContext有一个ApplicationMaster


spark支持的两种模式区别 Spark Driver运行在哪儿

yarn-cluster(YarnClusterScheduler) (driverApplicationMaster运行在一起,client看不到运行结果)

yarn-client  (YarnClientClusterScheduler)(driver和client运行在一起,适用于终端返回结果)






返回大数据教程...