千家信息网

hadoop学习笔记1---Hadoop体系介绍

发表于:2026-11-01 作者:千家信息网编辑
千家信息网最后更新 2026年11月01日,1、NamenodeHDFS的守护进程记录文件时如何分割成数据块的,以及这些数据块被存储到哪些节点上对内存和I/O进行集中管理是个单点,发生故障将使集群崩溃2、Secondary Namenode监控
千家信息网最后更新 2026年11月01日hadoop学习笔记1---Hadoop体系介绍

1、Namenode

HDFS的守护进程

记录文件时如何分割成数据块的,以及这些数据块被存储到哪些节点上

对内存和I/O进行集中管理

是个单点,发生故障将使集群崩溃


2、Secondary Namenode

监控HDFS状态的辅助后台程序

每个集群都有一个

与NameNode进行通讯定期保存HDFS元数据快照

当NameNode故障可以作为备用NameNode使用


3、DataNode

每台从服务器都运行一个

负责把HDFS数据块读写到本地文件系统


4、JobTracker

用于处理作业(用户提交代码)的后台程序

决定有哪些文件参与处理,然后切割task并分配节点

监控task,重启失败的task(于不同的几点)

每个集群只有唯一一个JobTracker,位于Master节点


5、TaskTracker

位于slave节点上,与datanode结合(代码与数据一起的原则)

管理各自节点上的task(由jobtracker分配)

每个节点只有一个tasktracker,但一个tasktracker可以启动多个JVM,用于并行执行map或reduce任务

与jobtracker交互


1.6、Master和Slave

Master:Namenode、Secondary Namenode、jobtracker。浏览器(用于观看管理界面),其它Hadoop工具

Slave:Tasktracker、Datenode

Master不是唯一的


节点 数据 文件 集群 管理 代码 只有 后台 故障 程序 分配 处理 监控 不同 任务 原则 多个 对内 工具 快照 数据库的安全要保护哪些东西 数据库安全各自的含义是什么 生产安全数据库录入 数据库的安全性及管理 数据库安全策略包含哪些 海淀数据库安全审计系统 建立农村房屋安全信息数据库 易用的数据库客户端支持安全管理 连接数据库失败ssl安全错误 数据库的锁怎样保障安全 互联网科技工作委员会副主任毛军 智能科技公司是互联网公司吗 互联网最新的科技有限公司 麻工互联网科技 碳银互联网科技 广州善班互联网科技 美国互联网前沿科技 中正互联网科技招聘 科技大学互联网专业好不好 哈尔滨新华互联网科技学院 互联网还是高科技吗 成都互联网科技公司工作好不好 996高科技互联网公司 玉溪新华互联网科技好不好 济南小医互联网科技有限公司招聘 互联网时代科技型公司的机会 陕西彩京云互联网科技有限公司 保山浩联互联网科技有限公司 互联网大会出现的黑科技 伍佰万互联网科技是干嘛的 重生之互联网科技帝国 银优互联网科技有限公司 丰台科技园 互联网公司 互联网科技素材视频竖屏 银川新华互联网科技学校地址 浙江互联网科技研学营 允成互联网科技有限公司融资 四川互联网展示科技馆设计 互联网科技对化妆品行业 北京品多多互联网科技有限公司
0