千家信息网

ambari之hadoop的安装

发表于:2026-11-01 作者:千家信息网编辑
千家信息网最后更新 2026年11月01日,前期环境准备:三台机器:192.168.1.25(1-3);251-ambari_master;252-ambari_slare1;253-ambari_slare2机器配置,系统环境使用虚拟机,系统
千家信息网最后更新 2026年11月01日ambari之hadoop的安装

前期环境准备:

三台机器:192.168.1.25(1-3);251-ambari_master;252-ambari_slare1;253-ambari_slare2

机器配置,系统环境

使用虚拟机,系统rhel6.6 ; centos6.5

所有机器都需要执行一下设置(我已经设置好了,可以看一下):

1.打开最大文件数设置

[root@ambari_slare2 ~]# ulimit -Hn
10000

[root@ambari_slare2 ~]# ulimit -Sn
10000

补充:【

1. 修改/etc/security/limits.conf

通过 vi /etc/security/limits.conf修改其内容,在文件最后加入(数值也可以自己定义):

* soft nofile = 32768

* hard nofile = 65536

2. 修改/etc/profile

通过vi /etc/profile修改,在最后加入以下内容

ulimit -n 32768

然后重新登录即可生效了。

说明:

其实只修改/etc/profile就可以生效了,但我还是建议把/etc/security/limits.conf也修改一下。

最后强调的是,你如果要使得修改对所有用户都生效,那么现在看来你只能重新编译Linux的内核才行。】

2. 修改hosts文件
[root@ambari_slare2 ~]# cat /etc/hosts
127.0.0.1 localhost localhost.localdomain localhost4 localhost4.localdomain4
::1 localhost localhost.localdomain localhost6 localhost6.localdomain6

192.168.1.251 ambari_master
192.168.1.252 ambari_slare1
192.168.1.253 ambari_slare2

3. 设置selinux为disabled
[root@ambari_slare2 ~]# getenforce
Disabled

4. 关闭防火墙
[root@ambari_slare2 ~]# /etc/init.d/iptables status
iptables: Firewall is not running.

5. 开启ntpd
[root@ambari_slare2 ~]# /etc/init.d/ntpd status
ntpd (pid 5858) is running...

6. 设置环境变量jdk

[root@ambari_slare2 ~]# java -version
java version "1.7.0_79"
Java(TM) SE Runtime Environment (build 1.7.0_79-b15)
Java HotSpot(TM) 64-Bit Server VM (build 24.79-b02, mixed mode)

7. 配置ssh

[root@ambari_slare2 ~]# cat .ssh/authorized_keys
ssh-rsa AAAAB3NzaC1yc2EAAAABIwAAAQEAnxCVyAwzM743vB6KB4EVLDZ0+ydsmEtuMHD0ATar8zWqPDuBvGc4un5Fv1mIBCgOt3+GyWbDznACNlDzLkwRkxU8XhhTsRFHaWb9t9rH0N9dDEWbLqE1D70MY+oN7ZMVwDSooUESRx05Eg8szoDPY+JXHF8AWgigNUhesJkMVpshI+GNV/x3a9F2aRvTyk5QibMVcmNGYXdrIxzhX8VDWAWI1soy3vAorteHORzOdzWuPZm78MUYwTA1p7z1h7q4gfG3GIEThkCss72LE1m7mIwgTNeAlxWYXckxzhQC13pS1D2dWKLucQHhVqfU0QW5mPE0f/++oyx9trFr72Aaaw== root@ambari_slare2
ssh-rsa AAAAB3NzaC1yc2EAAAABIwAAAQEAki9g5Sy4WWXkDcz78bU5oq5flWk5JL9UeL62XC0qoapD63SjFep9aRWBSabxWHaENo7G/6ES8CI2kjTIwB1syMC8ropDAx+WbkSoLPwrwqapnK49OtQ0hnTs6QMAHey3ilzWfZxKmnk0yKavFqhbfPaBYps8ewXeGdPFsRaPIJzbInwXMw4/sB1hguA0rR55fs3vJR6Px1RGSt6fq/pxX7Wmug+3JShJras8ucs3F+C491f49dNwhQBdgjHCEFabhXeSZG3ngMBX8sOMhuN19Xg/oIaa2IKX4ckIu/LbwNw5lIc+6l9kVn0Y0BLeHux6gLaQM0EfwMbsvdOK/tGZrQ== root@ambari_slare1
ssh-rsa AAAAB3NzaC1yc2EAAAABIwAAAQEAtZacjGL5llcaJLQZtCKDzqg/CQPjKFRJDmo+bIFBfrlD5jAR78fXnlhxdqg8dvSVnSyU7q73bYrV7U+ym4lqq3J7JMRGuNSBBndnwu90I175w8V4IntPS9tv/oLo9zzsPrnKYmsxXguUahEOJJErImIQ4LPJ3oBUDISxfIjEckjlvkUNThUmOMxSHVwyvpwFBzDWBcYsYJtZJbZYOdNSQyOb3AFOgwkgR+sPj+C+Kdp6yP/Ua3r/yZGGgUR+NFLM8x7Oz236cmJVy0xVFrE3BxYIJDp+VBeWb8bTdI40XCPmRvb0wpLRFy9nj7i1EMzZ7xTvCTZo48oLBsxH/obd+w== root@ambari_master

8. yum -y groupinstall "Development tools"

9. yum -y install mysql*

10. yum -y install ruby* redhat-lsb* snappy*

制作ambari和hadoop本地源:

1. 创建本地源目录

选取一台服务器,安装http服务,安装完后会自动创建 /var/www/html 目录(我选的是251 ambari_master)
启动httpd 命令: service httpd start || /etc/init.d/httpd start
chkconfig httpd on
创建两个目录:
mkdir /var/www/html/ambari
mkdir /var/www/html/hdp

2.安装createrepo(在这里需要强制安装,添加:--force --nodeps)

2.1 [root@ambari_master Packages]# rpm -ivh createrepo-0.9.9-22.el6.noarch.rpm --force --nodeps
warning: createrepo-0.9.9-22.el6.noarch.rpm: Header V3 RSA/SHA256 Signature, key ID fd431d51: NOKEY
Preparing... ########################################### [100%]
1:createrepo ########################################### [100%]

2.2 [root@ambari_master hdp]# yum install python*

(输出结果太多,这里就不粘贴了,自己试试)

3.ambari本地源创建

解压HDP-UTILS-1.1.0.20-centos6.tar.gz 到目录 /var/www/html/ambari
命令:tar zxvf HDP-UTILS-1.1.0.20-centos6.tar.tar -C /var/www/html/ambari
把Updates-ambari-2.2.1.0目录拷贝到目录 /var/www/html/ambary

cd /var/www/html/ambari/HDP-UTILS-1.1.0.20/repos/centos6
mkdir Updates-ambari-2.2.1.0
cp -r /var/www/html/ambari/Updates-ambari-2.2.1.0/ambari /var/www/html/ambari/HDP-UTILS-1.1.0.20/repos/centos6/Updates-ambari-2.2.1.0

进入/var/www/html/ambari 目录,执行命令:createrepo ./
ambari本地源制作完成

结果:

[root@ambari_master ambari]# createrepo ./
Spawning worker 0 with 50 pkgs
Workers Finished
Gathering worker results

Saving Primary metadata
Saving file lists metadata
Saving other metadata
Generating sqlite DBs
Sqlite DBs complete
[root@ambari_master ambari]# ls
HDP-UTILS-1.1.0.20 repodata Updates-ambari-2.2.1.0

4. hadoop本地源创建

把HDP-2.4.0目录拷贝到目录 /var/www/html/hdp
进入/var/www/html/hdp 目录,执行命令:createrepo ./
hadoop本地源制作完成

结果:

[root@ambari_master ambari]# cd ../hdp/
[root@ambari_master hdp]# createrepo ./
Spawning worker 0 with 179 pkgs
Workers Finished
Gathering worker results

Saving Primary metadata
Saving file lists metadata
Saving other metadata
Generating sqlite DBs
Sqlite DBs complete
[root@ambari_master hdp]# ls
HDP-2.4.0 repodata

5. 系统光盘本地源创建

[root@ambari_master ambari]# mount -o loop /mnt/iso/rhel-server-6.6-x86_64-dvd.iso /mnt/cdrom/

[root@ambari_master ambari]# df -h
Filesystem Size Used Avail Use% Mounted on
/dev/mapper/VolGroup-lv_root
50G 11G 36G 24% /
tmpfs 2.0G 72K 2.0G 1% /dev/shm
/dev/sda1 477M 33M 419M 8% /boot
/dev/mapper/VolGroup-lv_home
45G 52M 43G 1% /home
/mnt/iso/rhel-server-6.6-x86_64-dvd.iso
3.6G 3.6G 0 100% /mnt/cdrom

[root@ambari_master ambari]#ls /mnt/iso/

rhel-server-6.6-x86_64-dvd.iso
[root@ambari_master ambari]# ls /mnt/cdrom/
EFI EULA_ja isolinux ResilientStorage
EULA EULA_ko LoadBalancer RPM-GPG-KEY-redhat-beta
EULA_de EULA_pt media.repo RPM-GPG-KEY-redhat-release
EULA_en EULA_zh Packages ScalableFileSystem
EULA_es GPL README Server
EULA_fr HighAvailability release-notes TRANS.TBL
EULA_it p_w_picpaths repodata
[root@ambari_master ambari]# cat /etc/yum.repos.d/myself.repo
[daxiong]
name=daxiong
baseurl=file:///mnt/cdrom
enabled=1
gpgcheck=1
gpgkey=file:///mnt/cdrom/RPM-GPG-KEY-redhat-release

检验:

[root@ambari_master yum.repos.d]# yum repolist
Loaded plugins: product-id, refresh-packagekit, security, subscription-manager
This system is not registered to Red Hat Subscription Management. You can use subscription-manager to register.
HDP-2.4 | 2.9 kB 00:00
HDP-2.4/primary_db | 61 kB 00:00
HDP-UTILS-1.1.0.20 | 2.9 kB 00:00
HDP-UTILS-1.1.0.20/primary_db | 31 kB 00:00
ambari-2.2.1 | 2.9 kB 00:00
ambari-2.2.1/primary_db | 31 kB 00:00
daxiong | 4.1 kB 00:00 ...
daxiong/primary_db | 3.1 MB 00:00 ...
repo id repo name status
HDP-2.4 HDP-2.4 179
HDP-UTILS-1.1.0.20 Hortonworks Data Platform Utils Version - HDP-UTILS-1.1.0.20 50
ambari-2.2.1 Ambari 2.2.1 50
daxiong daxiong 3,785
repolist: 4,064

6. mysql 的配置

CREATE USER 'ambari'@'%' IDENTIFIED BY 'ambari';

GRANT ALL PRIVILEGES ON *.* TO 'ambari'@'%';

CREATE USER 'ambari'@'localhost' IDENTIFIED BY 'ambari';

GRANT ALL PRIVILEGES ON *.* TO 'ambari'@'localhost';

CREATE USER 'ambari'@'ambari_master' IDENTIFIED BY 'ambari_master';

GRANT ALL PRIVILEGES ON *.* TO 'ambari'@'ambari_master';

FLUSH PRIVILEGES;

CREATE DATABASE hive;

FLUSH PRIVILEGES;

CREATE DATABASE ambari;
FLUSH PRIVILEGES;

CREATE USER 'hive'@'localhost' IDENTIFIED BY 'hive';

GRANT ALL PRIVILEGES ON *.* TO 'hive'@'localhost';

CREATE USER 'hive'@'%' IDENTIFIED BY 'hive';

GRANT ALL PRIVILEGES ON *.* TO 'hive'@'%';

CREATE USER 'hive'@'ambari_slave2'IDENTIFIED BY 'hive';

GRANT ALL PRIVILEGES ON *.* TO 'hive'@'ambari_slave2';

FLUSH PRIVILEGES;

CREATE USER 'rangeradmin'@'%' IDENTIFIED BY 'rangeradmin';

GRANT ALL PRIVILEGES ON *.* TO 'rangeradmin'@'%' with grant option;

CREATE USER 'rangeradmin'@'localhost' IDENTIFIED BY 'rangeradmin';

GRANT ALL PRIVILEGES ON *.* TO 'rangeradmin'@'localhost' with grant option;

CREATE USER 'rangeradmin'@'ambari_master' IDENTIFIED BY 'rangeradmin';

GRANT ALL PRIVILEGES ON *.* TO 'rangeradmin'@'ambari_master' with grant option;

FLUSH PRIVILEGES;

CREATE USER 'root'@'%' IDENTIFIED BY 'root';

GRANT ALL PRIVILEGES ON *.* TO 'root'@'%';

FLUSH PRIVILEGES;

7.查看yum源(检查,可以省略这步,我是为了后期安装简单所以放在这)

[root@slare2 ~]# ls /etc/yum.repos.d/
ambari.repo HDP.repo HDP-UTILS.repo mnt.repo redhat.repo rhel-source.repo
[root@slare2 ~]# cat /etc/yum.repos.d/ambari.repo
[ambari-2.2.1.]
name=Ambari 2.2.1
baseurl=http://192.168.1.253/ambari/
gpgcheck=0
enabled=1

[HDP-UTILS-1.1.0.20]
name=Hortonworks Data Platform Utils Version - HDP-UTILS-1.1.0.20
baseurl=http://192.168.1.253/ambari/
gpgcheck=0
enabled=1
[root@slare2 ~]# cat /etc/yum.repos.d/HDP-UTILS.repo
[HDP-UTILS-1.1.0.20]
name=HDP-UTILS-1.1.0.20
baseurl=http://192.168.1.253/ambari

path=/
enabled=1
gpgcheck=0
[root@slare2 ~]# cat /etc/yum.repos.d/HDP.repo
[HDP-2.4]
name=HDP-2.4
baseurl=http://192.168.1.253/hdp

path=/
enabled=1
gpgcheck=0[root@slare2 ~]#

8. 配置安装ambari

主节点:

yum -y install ambari-server(这步会自动安装postgresql数据库,我使用的是mysql,所以停掉它)

service postgresql stop
chkconfig postgresql off

scp /var/lib/ambari-server/resources/Ambari-DDL-MySQL-CREATE.sql root@ambari_slave2:/root

mysql数据库节点:

use ambari;

source /root/Ambari-DDL-MySQL-CREATE.sql;

FLUSH PRIVILEGES;

ambari-server setup

ambari-server start

JAVA_HOME=/usr/local/jdk1.7.0_79

cd /usr/share/java
rm -rf mysql-connector-java.jar
ln -s mysql-connector-java-5.1.17.jar mysql-connector-java.jar

ambari-server setup --jdbc-db=mysql --jdbc-driver=/usr/share/java/mysql-connector-java.jar

cp /usr/share/java/mysql-connector-java-5.1.17.jar /var/lib/ambari-server/resources/mysql-jdbc-driver.jar

vim /var/lib/ambari-server/resources/stacks/HDP/2.4/repos/repoinfo.xml



http://192.168.1.253/hdp
HDP-2.4
HDP


http://192.168.1.253/ambari
HDP-UTILS-1.1.0.20
HDP-UTILS

然后就可以到web界面安装hadoop集群以及所需的组件了,在web安装过程中会出现问题,我在这就不一一细说了,其实终端或者log中都有提示,或者就有答案,不会的一些问题可以直接在网上找找,一般都有。

  1. echo never > /sys/kernel/mm/redhat_transparent_hugepage/defrag
    echo never > /sys/kernel/mm/redhat_transparent_hugepage/enabled
    echo never > /sys/kernel/mm/transparent_hugepage/enabled
    echo never > /sys/kernel/mm/transparent_hugepage/defrag

  2. 在web界面会到主节点的私钥,来识别子节点的机器:

    gpgcheck=0[root@ambari_master ~]# cat .ssh/id_rsa

  3. 后期会有补充:看完有问题可以直接联系我,QQ:1591345922



目录 命令 机器 节点 配置 环境 系统 结果 问题 制作 内容 拷贝 数据 数据库 文件 界面 服务 最大 两个 件数 数据库的安全要保护哪些东西 数据库安全各自的含义是什么 生产安全数据库录入 数据库的安全性及管理 数据库安全策略包含哪些 海淀数据库安全审计系统 建立农村房屋安全信息数据库 易用的数据库客户端支持安全管理 连接数据库失败ssl安全错误 数据库的锁怎样保障安全 西安互联网科技公司 互联网科技大会 国外互联网科技网站 佩信高科技互联网 互联网实体化科技化 创业天下互联网科技有限公司 以后互联网后是啥科技 昭通云南众福互联网科技有限公司 来此购互联网科技有限公司 上海宁丞科技互联网 新兴科技互联网创新大赛颁奖典礼 速维有品互联网信息科技(苏州)有限公司 用友工业互联网科技发展 美国互联网科技实力 黑科技 体验场景 互联网大会 新氧科技和美国互联网有关系吗 广州智享互联网科技 长沙渺峰互联网科技有限公司 互联网科技职业技能培训学校 平安好医生打造互联网科技医疗 互联网新科技 中关村互联网 科技集团 重生之互联网科技帝国 互联网和科技创新 北京互联网科技有限公司 喔噻互联网科技 深圳天众互联网科技公司 皮皮虾互联网科技有限公司 风投北京互联网科技 互联网科技手抄报图片
0