YARN HA架构
发表于:2026-11-02 作者:千家信息网编辑
千家信息网最后更新 2026年11月02日,Yarn HARM:a.启动时会通过向ZK的/hadoop-ha目录写一个lock文件,写成功则为active,否则standybystandy 的RM会一直监控lock文件是否存在,如果不存在就会尝
千家信息网最后更新 2026年11月02日YARN HA架构
Yarn HA
RM:
a.启动时会通过向ZK的/hadoop-ha目录写一个lock文件,写成功则为active,否则standyby
standy 的RM会一直监控lock文件是否存在,如果不存在就会尝试去创建,争取为active RM
b.会接收客户端的任务请求,接收和监控nm的资源的汇报,负责资源的分配与调度,启动和监控我们的ApplicationMaster
NM:
节点上的资源的管理,启动container容器,运行task的计算,上报资源,container情况汇报给RM和任务的处理情况汇报给作业的ApplicationMaster
ZKFC直接嵌入到RM中
RMStateStore直接存储到ZK中
ApplicationMaster(AM):
单个application(job)的task的管理和调度,并向rm进行资源的申请,向nm发出 launch conta指令,接收NM的task的处理状态信息。
面试题:ApplicationMaster 运行在哪里
ApplicationMaster 运行在nm机器上的container。AM也是个任务,只不过在做它自己该完成的职责。
RMstatestore:
a.RM的作业信息存储在ZK的/rmstore下,active RM向这个目录写 作业信息(即Application)
b当activerm挂了,另外一个standby rm成功转换为active rm后,会从/rmstore目录读取相应的作业信息,重新构建作业的内存信息。
然后开始内部服务,开始接受NM的心跳,构建集群资源的信息,并接收客户端的提交作业的请求等。
ZKFC:
自动故障转移,只作为RM进行的一个线程,而非独立的守护进程来启动。
信息
资源
作业
任务
目录
汇报
监控
运行
客户
情况
文件
端的
处理
存储
管理
调度
成功
内存
单个
只不过
数据库的安全要保护哪些东西
数据库安全各自的含义是什么
生产安全数据库录入
数据库的安全性及管理
数据库安全策略包含哪些
海淀数据库安全审计系统
建立农村房屋安全信息数据库
易用的数据库客户端支持安全管理
连接数据库失败ssl安全错误
数据库的锁怎样保障安全
广东万易互联网科技有限公司惠州分公司
为想互联网科技怎么样
科技创新与互联网经济
厦门中拓互联网络科技有限公司
互联网科技深圳
互联网为科技
中国 科技 互联网
互联网科技的英文
壕鑫互联网络科技
万达互联网科技
广州善班互联网科技
狮子座互联网科技培训
互联网媒体平台算高科技产业
互联网科技人工智能实验室
工业互联网展湾科技股份有限公司
江苏互联网智能科技软件
下一代互联网重大应用科技园
玉溪新华互联网科技怎么选
科技互联网专业务虚会材料
优雇互联网科技有限公司
南京欣网互联网络科技有限公司
重生之互联网科技帝国
互联网科技会
有马互联网科技
中化能源互联网科技招聘
语蝶互联网科技有限公司
互联网科技革命什么开始
健康食品互联网创新科技园项目
爱医互联网络科技
美国互联网科技实力