Hadoop环境如何配置
发表于:2026-10-31 作者:千家信息网编辑
千家信息网最后更新 2026年10月31日,这篇文章主要介绍了Hadoop环境如何配置,具有一定借鉴价值,感兴趣的朋友可以参考下,希望大家阅读完这篇文章之后大有收获,下面让小编带着大家一起了解一下。Hadoop环境安装完之后需要进行相应的配置H
千家信息网最后更新 2026年10月31日Hadoop环境如何配置
这篇文章主要介绍了Hadoop环境如何配置,具有一定借鉴价值,感兴趣的朋友可以参考下,希望大家阅读完这篇文章之后大有收获,下面让小编带着大家一起了解一下。
Hadoop环境安装完之后需要进行相应的配置
Hadoop组件通过XML来配置,core-site.xml用于配置Common组件的属性,hdfs-site.xml文件用于配置HDFS属性,mapred-site.xml文件用于配置MapReduce属性,hdoop支持独立模式、伪分布模式、全分布模式,在不同模式下,各属性的配置:
| 组件 | 属性 | 独立模式 | 伪分布模式 | 全分布模式 |
| common | fs.default.name | file:///(默认) | hdfs://localhost/ | hdfs://namenode |
| hdfs | dfs.replication | N/A | 1 | 3 |
| mapreduce | mapred.job.tracker(hadoop2不用配置) | local(默认) | localhost:8021 | jobtracker:8021 |
hadoop日志配置:在hadoop-env.sh中添加export HADOOP_LOG_DIR=/usr/lib/hadoop/logs
我hadoop2的配置如下:
core-site.xml
fs.default.name hdfs://localhost/ hadoop.tmp.dir /usr/lib/hadoop/tmp/
hdfs-site.xml:
dfs.default.name /usr/lib/hadoop/logs/ dfs.replication 1 dfs.permissions false
mapred-site.xml:
mapreduce.framework.name Yarn
yarn-site.xml:
yarn.resourcemanager.resource-tracker.address localhost:8990 yarn.resourcemanager.scheduler.address localhost:8991 yarn.resourcemanager.scheduler.class org.apache.hadoop.yarn.server.resourcemanage.scheduler.capacity.CapacityScheduler yarn.resourcemanager.address localhost:8993 yarn.nodemanager.local-dirs /usr/lib/hadoop/tmp/node yarn.nodemanager.address localhost:8994 yarn.nodemanager.resource.memory-mb 102040 yarn.nodemanager.remote-app-log-dir /usr/lib/hadoop/tmp/app-logs yarn.nodemanager.log-dirs /usr/lib/hadoop/tmp/node yarn.nodemanager.aux-services mapreduce_shuffle
slaves:
localhost
完事之后执行hadoop namenode -fromat 格式化hdfs文件系统。
感谢你能够认真阅读完这篇文章,希望小编分享的"Hadoop环境如何配置"这篇文章对大家有帮助,同时也希望大家多多支持,关注行业资讯频道,更多相关知识等着你来学习!
配置
模式
属性
篇文章
环境
文件
组件
支持
独立
不同
不用
价值
兴趣
同时
日志
更多
朋友
格式
知识
系统
数据库的安全要保护哪些东西
数据库安全各自的含义是什么
生产安全数据库录入
数据库的安全性及管理
数据库安全策略包含哪些
海淀数据库安全审计系统
建立农村房屋安全信息数据库
易用的数据库客户端支持安全管理
连接数据库失败ssl安全错误
数据库的锁怎样保障安全
高科技互联网
科技互联网产品
互联网科技会
互联网 的科技创新
齐家互联网科技
互联网科技的未来发展
四川狮子座互联网科技
小米互联网科技园设置
湖南一路畅行互联网科技
中和天地互联网科技有限公司
中科明德北京互联网科技
工业互联网山东科技大学
2021互联网科技公司排名
广州富喜互联网络科技
昆明中奇联合互联网科技
江苏互联网智能科技产品出厂价
湖北辰鑫科技互联网
北京军民互联网科技公司
平安好医生打造互联网科技医疗
北京瑞云互联网科技有限公司
南京欣网互联网络科技
互联网科技垄断
万易互联网科技
丰台科技园 互联网
互联网巨头投资的硬核科技
科技与互联网哪个更好
阿里互联网科技企业
2021互联网科技公司排名
北京品多多互联网科技有限公司
保山浩联互联网科技有限公司