千家信息网

YARN是什么

发表于:2025-11-14 作者:千家信息网编辑
千家信息网最后更新 2025年11月14日,这篇文章主要讲解了"YARN是什么",文中的讲解内容简单清晰,易于学习与理解,下面请大家跟着小编的思路慢慢深入,一起来研究和学习"YARN是什么"吧!YARN是一种新的 Hadoop 资源管理器,它是
千家信息网最后更新 2025年11月14日YARN是什么

这篇文章主要讲解了"YARN是什么",文中的讲解内容简单清晰,易于学习与理解,下面请大家跟着小编的思路慢慢深入,一起来研究和学习"YARN是什么"吧!

  YARN是一种新的 Hadoop 资源管理器,它是一个通用资源管理系统,可为上层应用提供统一的资源管理和调度,它的引入为集群在利用率、资源统一管理和数据共享等方面带来了巨大好处。

  YARN总体上仍然是master/slave结构,在整个资源管理框架中,resourcemanager为master,nodemanager是slave。Resourcemanager负责对各个nademanger上资源进行统一管理和调度。当用户提交一个应用程序时,需要提供一个用以跟踪和管理这个程序的ApplicationMaster,它负责向ResourceManager申请资源,并要求NodeManger启动可以占用一定资源的任务。由于不同的ApplicationMaster被分布到不同的节点上,因此它们之间不会相互影响。

  YARN的基本组成结构,YARN主要由ResourceManager、NodeManager、ApplicationMaster和Container等几个组件构成。

  ResourceManager是Master上一个独立运行的进程,负责集群统一的资源管理、调度、分配等等;NodeManager是Slave上一个独立运行的进程,负责上报节点的状态;App Master和Container是运行在Slave上的组件,Container是yarn中分配资源的一个单位,包涵内存、CPU等等资源,yarn以Container为单位分配资源。Client向ResourceManager提交的每一个应用程序都必须有一个Application Master,它经过ResourceManager分配资源后,运行于某一个Slave节点的Container中,具体做事情的Task,同样也运行与某一个Slave节点的Container中。RM,NM,AM乃至普通的Container之间的通信,都是用RPC机制。

  YARN的架构设计使其越来越像是一个云操作系统,数据处理操作系统。

  最后提及YARN的资源管理,我们可以从以下几个方面进行理解:

  1.资源调度和隔离是yarn作为一个资源管理系统,最重要且最基础的两个功能。资源调度由resourcemanager完成,而资源隔离由各个nodemanager实现。

  2.Resourcemanager将某个nodemanager上资源分配给任务(这就是所谓的"资源调度")后,nodemanager需按照要求为任务提供相应的资源,甚至保证这些资源应具有独占性,为任务运行提供基础和保证,这就是所谓的资源隔离。

  3.当谈及到资源时,我们通常指内存、cpu、io三种资源。Hadoop yarn目前为止仅支持cpu和内存两种资源管理和调度。

  4.内存资源多少决定任务的生死,如果内存不够,任务可能运行失败;相比之下,cpu资源则不同,它只会决定任务的快慢,不会对任务的生死产生影响。

感谢各位的阅读,以上就是"YARN是什么"的内容了,经过本文的学习后,相信大家对YARN是什么这一问题有了更深刻的体会,具体使用情况还需要大家实践验证。这里是,小编将为大家推送更多相关知识点的文章,欢迎关注!

资源 管理 任务 调度 运行 资源管理 内存 系统 节点 分配 统一 不同 就是 程序 学习 应用 隔离 操作系统 之间 内容 数据库的安全要保护哪些东西 数据库安全各自的含义是什么 生产安全数据库录入 数据库的安全性及管理 数据库安全策略包含哪些 海淀数据库安全审计系统 建立农村房屋安全信息数据库 易用的数据库客户端支持安全管理 连接数据库失败ssl安全错误 数据库的锁怎样保障安全 usersvr服务器未启动 计算机三级网络技术有笔试么 网络安全识别现有的控制措施 简述网络安全管理意义 珠海银行招聘软件开发 东方电气财务公司 网络安全 少先队网络安全活动计划 大华服务器linux用户名密码 软件开发在大学排名 cs4怎么重启服务器 华为服务器管理网口名字 熙宝网络技术有限公司官网 刷系统会不会丢失数据库 维护网络安全从你我做起范文 杭州快门网络技术靠谱吗 三级数据库分数分布 用友t3服务器连接不上 工作表中的数据库怎么删除 软件开发资金来源渠道有哪些 网络安全考研最强高校排行 数据库单表查询雇员 如何更好注重网络安全 杭州快门网络技术靠谱吗 数据库通常记录在可磁化介质上 计算机网络技术入学考试 亿工匠科技互联网装饰 安徽服务器阵列卡电池虚拟主机 哪有正规的网络安全学校 数据库期末考试2013 华荣网络技术有限公司
0