千家信息网

hadoop学习笔记1---Hadoop体系介绍

发表于:2026-10-31 作者:千家信息网编辑
千家信息网最后更新 2026年10月31日,1、NamenodeHDFS的守护进程记录文件时如何分割成数据块的,以及这些数据块被存储到哪些节点上对内存和I/O进行集中管理是个单点,发生故障将使集群崩溃2、Secondary Namenode监控
千家信息网最后更新 2026年10月31日hadoop学习笔记1---Hadoop体系介绍

1、Namenode

HDFS的守护进程

记录文件时如何分割成数据块的,以及这些数据块被存储到哪些节点上

对内存和I/O进行集中管理

是个单点,发生故障将使集群崩溃


2、Secondary Namenode

监控HDFS状态的辅助后台程序

每个集群都有一个

与NameNode进行通讯定期保存HDFS元数据快照

当NameNode故障可以作为备用NameNode使用


3、DataNode

每台从服务器都运行一个

负责把HDFS数据块读写到本地文件系统


4、JobTracker

用于处理作业(用户提交代码)的后台程序

决定有哪些文件参与处理,然后切割task并分配节点

监控task,重启失败的task(于不同的几点)

每个集群只有唯一一个JobTracker,位于Master节点


5、TaskTracker

位于slave节点上,与datanode结合(代码与数据一起的原则)

管理各自节点上的task(由jobtracker分配)

每个节点只有一个tasktracker,但一个tasktracker可以启动多个JVM,用于并行执行map或reduce任务

与jobtracker交互


1.6、Master和Slave

Master:Namenode、Secondary Namenode、jobtracker。浏览器(用于观看管理界面),其它Hadoop工具

Slave:Tasktracker、Datenode

Master不是唯一的


节点 数据 文件 集群 管理 代码 只有 后台 故障 程序 分配 处理 监控 不同 任务 原则 多个 对内 工具 快照 数据库的安全要保护哪些东西 数据库安全各自的含义是什么 生产安全数据库录入 数据库的安全性及管理 数据库安全策略包含哪些 海淀数据库安全审计系统 建立农村房屋安全信息数据库 易用的数据库客户端支持安全管理 连接数据库失败ssl安全错误 数据库的锁怎样保障安全 博彦科技互联网金融 互联网科技公司的优势 互联网科技资迅 互联网的科技创新 西安互联网科技 润盈互联网科技 天扬科技互联网广告 北京大学互联网科技怎么样 互联网科技公司有风险吗 恒生互联网科技指数跳水 燊美集互联网科技有限公司 西安小鹰速贷互联网科技有限公司 中和天地互联网科技有限公司 本届互联网大会上的黑科技 普陀区互联网教育科技管理办法 互联网科技企业商标注意事项 互联网时代高科技布局 陕西彩京云互联网科技有限公司 互联网科技快速发展优美句子 株洲百竞科技的互联网营销顾问 互联网佳科技有限公司 艾特科技互联网 中国的互联网科技企业的崛起 长沙茂晟互联网科技有限公司 四川慕妮娅互联网科技有限公司 山东有哪些互联网科技公司 互联网科技融合创新 广州有谷有贝互联网科技有限公司 互联网公司属于科技吗 北京品多多互联网科技有限公司
0