千家信息网

Hadoop体系结构是怎么样的

发表于:2026-11-02 作者:千家信息网编辑
千家信息网最后更新 2026年11月02日,小编给大家分享一下Hadoop体系结构是怎么样的,相信大部分人都还不怎么了解,因此分享这篇文章给大家参考一下,希望大家阅读完这篇文章后大有收获,下面让我们一起去了解一下吧!一. Namenode1.
千家信息网最后更新 2026年11月02日Hadoop体系结构是怎么样的

小编给大家分享一下Hadoop体系结构是怎么样的,相信大部分人都还不怎么了解,因此分享这篇文章给大家参考一下,希望大家阅读完这篇文章后大有收获,下面让我们一起去了解一下吧!

一. Namenode

1. 介绍

1) 是整个文件系统的管理节点

2) 它维护着整个文件系统的文件目录树,文件/目录的元信息和每个文件对应的数据块列表

3) 接收用户的操作请求

4) 文件/目录的元信息是指文件的名称、大小、修改时间等等信息

2. hdfs文件查看

1) 查看路径:hdfs-site.xml的dfs.replication属性hadoop.tmp.dir

                     hadoop.tmp.dir              /usr/local/hadoop/tmp       

查看文件

[root@chaoren hadoop]# cd /usr/local/hadoop/tmp/dfs/name/current[root@chaoren current]# lsedits  fsimage  fstime  VERSION

2) fsimage:元数据镜像文件。存储某一时段NameNode内存元数据信息

3) edits:操作日志文件

4) fstime:保存最近一次checkpoint的时间

二. Datanode

1. 提供真实文件数据的存储服务。

2. 文件块(block):最基本的存储单位。对于文件内容而言,一个文件的长度大小是size,那么从文件的0偏移开始,按照固定的大小,顺序对文件进行划分并编号,划分好的每一个块称一个Block。HDFS默认Block大小是64MB,以一个256MB文件,共有256/64=4个Block.

3. 不同于普通文件系统的是,HDFS中,如果一个文件小于一个数据块的大小,并不占用整个数据块存储空间

4. Replication。多复本。默认是三个。查看hdfs-site.xml的dfs.replication属性

三. SecondaryNameNode

1. HA的一个解决方案。但不支持热备。配置即可。

2. 执行过程:从NameNode上下载元数据信息(fsimage,edits),然后把二者合并,生成新的fsimage,在本地保存,并将其推送到NameNode,同时重置NameNode的edits.

3. 默认在安装在NameNode节点上,但这样...不安全

4. 其他

以上是"Hadoop体系结构是怎么样的"这篇文章的所有内容,感谢各位的阅读!相信大家都有了一定的了解,希望分享的内容对大家有所帮助,如果还想学习更多知识,欢迎关注行业资讯频道!

文件 数据 信息 大小 存储 内容 目录 篇文章 系统 体系 体系结构 结构 属性 时间 节点 普通 安全 三个 上下 不怎么 数据库的安全要保护哪些东西 数据库安全各自的含义是什么 生产安全数据库录入 数据库的安全性及管理 数据库安全策略包含哪些 海淀数据库安全审计系统 建立农村房屋安全信息数据库 易用的数据库客户端支持安全管理 连接数据库失败ssl安全错误 数据库的锁怎样保障安全 互联网科技公司起名 科技平台互联网 港股互联网科技股 美国互联网科技 广州互联网络科技有限公司 天津摩尔互联网科技 融势互联网科技 卓越科技互联网 招聘 青岛中康互联网医疗科技有限公司 深圳前海聚择互联网科技有限公司 中国科技互联网公司收入 剑昆互联网络科技有限公司临桂 宁夏科技产业互联网案例 互联网软件和科技 东营紫格互联网科技 扫呗互联网科技有限公司 互联网金融运营模式中的金融科技 北京天晋互联网科技有限公司 互联网科技创新创业项目 北京瑞云互联网科技有限公司 中智农互联网科技 互联网新科技 卓越科技互联网 招聘 互联网系的金融科技公司 知域互联网科技有限公司大骗子 链环科技传统企业怎么转型互联网 科技互联网海报 山东星卡互联网科技有限公司官网 产业互联网科技服务公司 三亚科技创新互联网基地
0