千家信息网

centos6.8下hadoop3.1.1完全分布式安装指南(推荐)

发表于:2026-11-01 作者:千家信息网编辑
千家信息网最后更新 2026年11月01日,前述:这篇文档是建立在三台虚拟机相互ping通,防火墙关闭,hosts文件修改,SSH 免密码登录,主机名修改等的基础上开始的。一.传入文件1.创建安装目录mkdir /usr/local/soft2
千家信息网最后更新 2026年11月01日centos6.8下hadoop3.1.1完全分布式安装指南(推荐)

前述:

这篇文档是建立在三台虚拟机相互ping通,防火墙关闭,hosts文件修改,SSH 免密码登录,主机名修改等的基础上开始的。

一.传入文件

1.创建安装目录

mkdir /usr/local/soft

2.打开xftp,找到对应目录,将所需安装包传入进去

查看安装包:cd /usr/local/soft

二.安装JAVA

1.查看是否已安装jdk: java -version

2.未安装,解压java安装包: tar -zxvf jdk-8u181-linux-x64.tar.gz

(每个人安装包可能不一样,自己参考)

3.给jdk重命名,并查看当前位置:mv jdk1.8.0_181 java

4.配置jdk环境:vim /etc/profile.d/jdk.sh

export JAVA_HOME=/usr/local/soft/javaexport PATH=$PATH:$JAVA_HOME/binexport CLASSPATH=.:$JAVA_HOME/lib/tools.jar:$JAVA_HOME/lib/rt.jar

5.更新环境变量并检验:source /etc/profile

三.安装Hadoop

1.解压hadoop安装包:tar -zxvf hadoop-3.1.1.tar.gz

2.查看并重命名:mv hadoop-3.1.1 hadoop

3.配置 hadoop 配置文件

3.1修改 core-site.xml 配置文件:vim hadoop/etc/hadoop/core-site.xml

fs.defaultFShdfs://master:9000hadoop.tmp.dirfile:/usr/local/soft/hadoop/tmpAbase for other temporary directories. fs.trash.interval 1440

3.2修改 hdfs-site.xml 配置文件:vim hadoop/etc/hadoop/hdfs-site.xml

dfs.namenode.secondary.http-addressnode1:50090dfs.replication3dfs.namenode.name.dirfile:/usr/local/soft/hadoop/tmp/dfs/namedfs.datanode.data.dirfile:/usr/local/soft/hadoop/tmp/dfs/data

3.3修改 workers 配置文件:vim hadoop/etc/hadoop/workers

3.4修改hadoop-env.sh文件:vim hadoop/etc/hadoop/hadoop-env.sh

export JAVA_HOME=/usr/local/soft/java

3.5修改yarn-site.xml文件:vim hadoop/etc/hadoop/yarn-site.xml

yarn.resourcemanager.hostnamemasteryarn.nodemanager.aux-servicesmapreduce_shuffle

3.6更新配置文件:source hadoop/etc/hadoop/hadoop-env.sh

3.7修改 start-dfs.sh配置文件: im hadoop/sbin/start-dfs.sh

export HDFS_NAMENODE_SECURE_USER=rootexport HDFS_DATANODE_SECURE_USER=rootexport HDFS_SECONDARYNAMENODE_USER=rootexport HDFS_NAMENODE_USER=rootexport HDFS_DATANODE_USER=rootexport HDFS_SECONDARYNAMENODE_USER=rootexport YARN_RESOURCEMANAGER_USER=rootexport YARN_NODEMANAGER_USER=root

3.8修改 stop-dfs.sh配置文件: vim hadoop/sbin/stop-dfs.sh

export HDFS_NAMENODE_SECURE_USER=rootexport HDFS_DATANODE_SECURE_USER=rootexport HDFS_SECONDARYNAMENODE_USER=rootexport HDFS_NAMENODE_USER=rootexport HDFS_DATANODE_USER=rootexport HDFS_SECONDARYNAMENODE_USER=rootexport YARN_RESOURCEMANAGER_USER=rootexport YARN_NODEMANAGER_USER=root

3.9修改 start-yarn.sh配置文件:vim hadoop/sbin/start-yarn.sh

export YARN_RESOURCEMANAGER_USER=rootexport HADOOP_SECURE_DN_USER=rootexport YARN_NODEMANAGER_USER=root

3.10修改 stop-yarn.sh配置文件:vim hadoop/sbin/stop-yarn.sh

export YARN_RESOURCEMANAGER_USER=rootexport HADOOP_SECURE_DN_USER=rootexport YARN_NODEMANAGER_USER=root

3.11 取消打印警告信息:vim hadoop/etc/hadoop/log4j.properties

log4j.logger.org.apache.hadoop.util.NativeCodeLoader=ERROR

四.同步配置信息:

1.同步node1:scp -r soft root@node1:/usr/local/

同步node2:scp -r soft root@node2:/usr/local/

2.等待所有传输完成,配置profile文件:vim /etc/profile.d/hadoop.sh

#SET HADOOPexport HADOOP_HOME=/usr/local/soft/hadoopexport HADOOP_INSTALL=$HADOOP_HOMEexport HADOOP_MAPRED_HOME=$HADOOP_HOMEexport HADOOP_COMMON_HOME=$HADOOP_HOMEexport HADOOP_HDFS_HOME=$HADOOP_HOMEexport YARN_HOME=$HADOOP_HOMEexport HADOOP_COMMON_LIB_NATIVE_DIR=$HADOOP_HOME/lib/nativeexport PATH=$PATH:$HADOOP_HOME/sbin:$HADOOP_HOME/binexport PATH=$PATH:$HADOOP_HOME/sbin:$HADOOP_HOME/bin

3.继续传输

对node1: scp /etc/profile.d/jdk.sh root@node1:/etc/profile.d/

scp /etc/profile.d/hadoop.sh root@node1:/etc/profile.d/

对node2: scp /etc/profile.d/jdk.sh root@node2:/etc/profile.d/

scp /etc/profile.d/hadoop.sh root@node2:/etc/profile.d/

4.在三台虚拟机上都要执行

source /etc/profile

source /usr/local/soft/hadoop/etc/hadoop/hadoop-env.sh

(只显示一台)

5.格式化 HDFS 文件系统:hdfs namenode -format(只在master上)

五.启动集群

cd /usr/local/soft/hadoop/sbin/

./start-all.sh

启动后在三台虚拟机上分别输入jps

结果如下:

windows下谷歌浏览器检验:

http://192.168.204.120:8088/cluster(输入自己的master的ip地址)

http://192.168.204.120:9870

Hadoop测试(MapReduce 执行计算测试):

hadoop jar/usr/local/soft/hadoop/share/hadoop/mapreduce/hadoop-mapreduce-examples-3.1.1.jar wordcount /input /output

查看运行结果:

以上hadoop配置完成。

总结

以上所述是小编给大家介绍的centos6.8下hadoop3.1.1完全分布式安装指南,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对网站的支持!
如果你觉得本文对你有帮助,欢迎转载,烦请注明出处,谢谢!

文件 配置 三台 同步 信息 环境 目录 结果 传输 帮助 更新 检验 测试 输入 分布式 指南 主机 位置 出处 变量 数据库的安全要保护哪些东西 数据库安全各自的含义是什么 生产安全数据库录入 数据库的安全性及管理 数据库安全策略包含哪些 海淀数据库安全审计系统 建立农村房屋安全信息数据库 易用的数据库客户端支持安全管理 连接数据库失败ssl安全错误 数据库的锁怎样保障安全 互联网科技公司 互联网是第几次科技革命的成果 互联网和科技技术 互联网电商科技 疫情对互联网科技公司影响 华宇互联网科技 广州互联网络科技有限公司 兼蜜互联网科技 海南科技产业互联网平台 工业互联网等科技实现智能化赋能 互联网金融科技名词解释 科技互联网海报 电子商务与互联网科技的关系 本届互联网大会上的黑科技 玉溪新华互联网科技怎么选 北京品多多互联网科技有限公司 数字科技和互联网金融哪个好 优雇互联网科技有限公司 互联网企业和网络科技有限公司 高科技和互联网的现代国家 蓝思科技飞鸽互联网 中国互联网科技工作委员会毛军 新华互联网科技学院 互联网高科技股票 江阴互联网智能科技产品进口 杭州壁岐互联网科技有限公司 四川慕妮娅互联网科技有限公司 上海科技产业互联网平台 互联网领先科技活动 杭州科技互联网公司有哪些
0