Hadoop环境如何配置
发表于:2025-12-01 作者:千家信息网编辑
千家信息网最后更新 2025年12月01日,这篇文章主要介绍了Hadoop环境如何配置,具有一定借鉴价值,感兴趣的朋友可以参考下,希望大家阅读完这篇文章之后大有收获,下面让小编带着大家一起了解一下。Hadoop环境安装完之后需要进行相应的配置H
千家信息网最后更新 2025年12月01日Hadoop环境如何配置
这篇文章主要介绍了Hadoop环境如何配置,具有一定借鉴价值,感兴趣的朋友可以参考下,希望大家阅读完这篇文章之后大有收获,下面让小编带着大家一起了解一下。
Hadoop环境安装完之后需要进行相应的配置
Hadoop组件通过XML来配置,core-site.xml用于配置Common组件的属性,hdfs-site.xml文件用于配置HDFS属性,mapred-site.xml文件用于配置MapReduce属性,hdoop支持独立模式、伪分布模式、全分布模式,在不同模式下,各属性的配置:
| 组件 | 属性 | 独立模式 | 伪分布模式 | 全分布模式 |
| common | fs.default.name | file:///(默认) | hdfs://localhost/ | hdfs://namenode |
| hdfs | dfs.replication | N/A | 1 | 3 |
| mapreduce | mapred.job.tracker(hadoop2不用配置) | local(默认) | localhost:8021 | jobtracker:8021 |
hadoop日志配置:在hadoop-env.sh中添加export HADOOP_LOG_DIR=/usr/lib/hadoop/logs
我hadoop2的配置如下:
core-site.xml
fs.default.name hdfs://localhost/ hadoop.tmp.dir /usr/lib/hadoop/tmp/
hdfs-site.xml:
dfs.default.name /usr/lib/hadoop/logs/ dfs.replication 1 dfs.permissions false
mapred-site.xml:
mapreduce.framework.name Yarn
yarn-site.xml:
yarn.resourcemanager.resource-tracker.address localhost:8990 yarn.resourcemanager.scheduler.address localhost:8991 yarn.resourcemanager.scheduler.class org.apache.hadoop.yarn.server.resourcemanage.scheduler.capacity.CapacityScheduler yarn.resourcemanager.address localhost:8993 yarn.nodemanager.local-dirs /usr/lib/hadoop/tmp/node yarn.nodemanager.address localhost:8994 yarn.nodemanager.resource.memory-mb 102040 yarn.nodemanager.remote-app-log-dir /usr/lib/hadoop/tmp/app-logs yarn.nodemanager.log-dirs /usr/lib/hadoop/tmp/node yarn.nodemanager.aux-services mapreduce_shuffle
slaves:
localhost
完事之后执行hadoop namenode -fromat 格式化hdfs文件系统。
感谢你能够认真阅读完这篇文章,希望小编分享的"Hadoop环境如何配置"这篇文章对大家有帮助,同时也希望大家多多支持,关注行业资讯频道,更多相关知识等着你来学习!
配置
模式
属性
篇文章
环境
文件
组件
支持
独立
不同
不用
价值
兴趣
同时
日志
更多
朋友
格式
知识
系统
数据库的安全要保护哪些东西
数据库安全各自的含义是什么
生产安全数据库录入
数据库的安全性及管理
数据库安全策略包含哪些
海淀数据库安全审计系统
建立农村房屋安全信息数据库
易用的数据库客户端支持安全管理
连接数据库失败ssl安全错误
数据库的锁怎样保障安全
惠普服务器显示英文无法启动
王牌战争有枪的服务器
雅虎的smtp服务器
pc软件开发报价
应用软件开发需要前端吗
山西师范大学网络安全
北大青鸟软件开发培训班
人社系统网络安全自查报告
国家网络安全宣传周青少年日
网络安全周宣传开幕式
自动购买软件开发
stm进不去一直服务器加载不了
服务器安全狗ip限制
部署文件服务器如何做到更安全
数据库层次化查询
东北电力大学网络安全
双色球 数据库 下载
浙江正宗服务器机柜服务器
数据库更新sql
网络安全特殊黑客
无法在当前上下文访问数据库
软件开发能力评估报告
电脑机房一般几个服务器
服务器修改密码打不开
湖北移动服务器托管服务器
微信小程序服务器代理
计算机网络安全责任书
mysql数据库安装完成
数据库层次化查询
网络安全在完善个人信息