千家信息网

hadoop和hbase的安全认证Kerberos部署

发表于:2026-11-01 作者:千家信息网编辑
千家信息网最后更新 2026年11月01日,(接上一篇)五、Kerberos1、jsvc所有节点:# cd ~/soft# wget http://mirror.bit.edu.cn/apache/commons/daemon/source/c
千家信息网最后更新 2026年11月01日hadoop和hbase的安全认证Kerberos部署

(接上一篇)

五、Kerberos

1、jsvc

所有节点:

# cd ~/soft

# wget http://mirror.bit.edu.cn/apache/commons/daemon/source/commons-daemon-1.0.15-native-src.tar.gz

# tar zxfcommons-daemon-1.0.15-native-src.tar.gz

# cd commons-daemon-1.0.15-native-src/unix;./configure; make

# cp jsvc /usr/local/hadoop-2.4.0/libexec/

# cd ~/soft

# wgethttp://mirror.bit.edu.cn/apache//commons/daemon/binaries/commons-daemon-1.0.15-bin.tar.gz

# tar zxf commons-daemon-1.0.15-bin.tar.gz

# cpcommons-daemon-1.0.15/commons-daemon-1.0.15.jar/usr/local/hadoop-2.4.0/share/hadoop/hdfs/lib/

# cpcommons-daemon-1.0.15/commons-daemon-1.0.15.jar/usr/local/hadoop-2.4.0/share/hadoop/httpfs/tomcat/webapps/webhdfs/WEB-INF/lib/

# rm -f /usr/local/hadoop-2.4.0/share/hadoop/hdfs/lib/commons-daemon-1.0.13.jar

# rm -f/usr/local/hadoop-2.4.0/share/hadoop/httpfs/tomcat/webapps/webhdfs/WEB-INF/lib/commons-daemon-1.0.13.jar

# # vim/usr/local/hadoop-2.4.0/etc/hadoop/hadoop-env.sh

exportJSVC_HOME=/usr/local/hadoop-2.4.0/libexec/

2、256位加密

所有节点:

# wget-c http://download.oracle.com/otn-pub/java/jce/7/UnlimitedJCEPolicyJDK7.zip?AuthParam=1400207941_ee158c414c707a057960c521a7b29866

# unzipUnlimitedJCEPolicyJDK7.zip

# cp UnlimitedJCEPolicy/*.jar/usr/java/jdk1.7.0_65/jre/lib/security/

cp:是否覆盖"/usr/java/jdk1.7.0_51/jre/lib/security/local_policy.jar"? y

cp:是否覆盖"/usr/java/jdk1.7.0_51/jre/lib/security/US_export_policy.jar"? y

3、部署KDC

主机test3:

安装kdc server

# yum -y install krb5\*

配置文件krb5.conf

[logging]

default = FILE:/var/log/krb5libs.log

kdc= FILE:/var/log/krb5kdc.log

admin_server = FILE:/var/log/kadmind.log

[libdefaults]

default_realm = cc.cn

dns_lookup_realm = false

dns_lookup_kdc = false

ticket_lifetime = 365d

renew_lifetime = 365d

forwardable = true

[realms]

cc.cn = {

kdc = test3

admin_server = test3

}

[kdc]

profile = /var/kerberos/krb5kdc/kdc.conf

配置文件kdc.conf

# vim /var/kerberos/krb5kdc/kdc.conf

[kdcdefaults]

kdc_ports = 88

kdc_tcp_ports = 88

[realms]

cc.cn = {

#master_key_type = aes256-cts

acl_file = /var/kerberos/krb5kdc/kadm5.acl

dict_file = /usr/share/dict/words

admin_keytab = /var/kerberos/krb5kdc/kadm5.keytab

supported_enctypes = aes256-cts:normal aes128-cts:normaldes3-hmac-sha1:normal arcfour-hmac:normal des-hmac-sha1:normaldes-cbc-md5:normal des-cbc-crc:normal

}

配置文件kadm5.acl

# vim /var/kerberos/krb5kdc/kadm5.acl

*/admin@cc.cn *

创建数据库

# kdb5_util create -r cc.cn -s

Enter KDC database master key:

启动及开机启动

# service krb5kdc start

# service kadmin start

# chkconfig krb5kdc on

# chkconfig kadmin on

创建管理员用户

# kadmin.local

kadmin.local: addprinc root/admin

Enter password for principal "root/admin@cc.cn":

六、Hadoop整合Kerberos

1、配置节点认证

主机test1:

# yum -y install krb5\*

# scp test3:/etc/krb5.conf /etc/

# kadmin -p root/admin

kadmin: addprinc -randkey root/test1

kadmin: addprinc -randkey HTTP/test1

kadmin: ktadd -k /hadoop/krb5.keytab root/test1 HTTP/test1

主机test2:

# yum -y install krb5\*

# scp test3:/etc/krb5.conf /etc/

# kadmin -p root/admin

kadmin: addprinc -randkey root/test2

kadmin: addprinc -randkey HTTP/test2

kadmin: ktadd -k /hadoop/krb5.keytab root/test2 HTTP/test2

主机test3:

# kadmin.local

kadmin.local: addprinc -randkey root/test3

kadmin.lcoal: addprinc -randkey HTTP/test3

kadmin.local: ktadd -k /hadoop/krb5.keytab root/test3 HTTP/test3

2、添加配置

配置文件core-site.xml

主机test1:

# vim/usr/local/hadoop-2.4.0/etc/hadoop/core-site.xml

hadoop.security.authentication

kerberos

hadoop.security.authorization

true

配置文件hdfs-site.xm

主机test1:

# vim /usr/local/hadoop-2.4.0/etc/hadoop/hdfs-site.xml

dfs.journalnode.keytab.file

/hadoop/krb5.keytab

dfs.journalnode.kerberos.principal

root/_HOST@cc.cn

dfs.journalnode.kerberos.internal.spnego.principal

HTTP/_HOST@cc.cn

dfs.block.access.token.enable

true

dfs.namenode.keytab.file

/hadoop/krb5.keytab

dfs.namenode.kerberos.principal

root/_HOST@cc.cn

dfs.web.authentication.kerberos.keytab

/hadoop/krb5.keytab

dfs.web.authentication.kerberos.principal

HTTP/_HOST@cc.cn

ignore.secure.ports.for.testing

true

dfs.datanode.keytab.file

/hadoop/krb5.keytab

dfs.datanode.kerberos.principal

root/_HOST@cc.cn

hadoop.http.staticuser.user

root

配置文件yarn-site.xml

主机test1:

# vim/usr/local/hadoop-2.4.0/etc/hadoop/yarn-site.xml

yarn.resourcemanager.keytab

/hadoop/krb5.keytab

yarn.resourcemanager.principal

root/_HOST@cc.cn

yarn.nodemanager.keytab

/hadoop/krb5.keytab

yarn.nodemanager.principal

root/_HOST@cc.cn

配置文件mapred-site.xml

主机test1:

# vim /usr/local/hadoop-2.4.0/etc/hadoop/mapred-site.xml

mapreduce.jobhistory.keytab

/hadoop/krb5.keytab

mapreduce.jobhistory.principal

root/_HOST@cc.cn

3、同步配置文件

主机test1:

# scp -r/usr/local/hadoop-2.4.0/ test2:/usr/local/

# scp -r/usr/local/hadoop-2.4.0/ test3:/usr/local/

4、启动

主机test1:

# start-all.sh

5、验证

主机test3:

# kinit -k -t /hadoop/krb5.keytab root/test3

# hdfs dfs -ls /

七、Hbase整合Kerberos

1、添加配置

配置文件hbase-site.xml

主机test1:

# vim/usr/local/hbase-0.98.1/conf/hbase-site.xml

hbase.security.authentication

kerberos

hbase.security.authorization

true

hbase.rpc.engine

org.apache.hadoop.hbase.ipc.SecureRpcEngine

hbase.coprocessor.region.classes

org.apache.hadoop.hbase.security.token.TokenProvider

hbase.master.keytab.file

/hadoop/krb5.keytab

hbase.master.kerberos.principal

root/_HOST@cc.cn

hbase.regionserver.keytab.file

/hadoop/krb5.keytab

hbase.regionserver.kerberos.principal

root/_HOST@cc.cn

2、同步配置文件

主机test1:

# scp/usr/local/hbase-0.98.1/conf/hbase-site.xml test2:/usr/local/hbase-0.98.1/conf/

# scp /usr/local/hbase-0.98.1/conf/hbase-site.xmltest3:/usr/local/hbase-0.98.1/conf/

3、启动

主机test1:

# start-hbase.sh

4、验证

主机test3:

# kinit -k -t /hadoop/krb5.keytab root/test3

# hbase shell

八、集群连接方式

1、keytab文件位置

/etc/xiaofeiyun.keytab

创建过程

主机test1:

# kadmin -p root/admin

Password for root/admin@cc.cn:

kadmin: addprinc -randkey data/xiaofeiyun

kadmin: addprinc -randkey platform/xiaofeiyun

kadmin: ktadd -k /etc/xiaofeiyun.keytab data/xiaofeiyun platform/xiaofeiyun

# scp /etc/xiaofeiyun.keytab test2:/etc/

# scp /etc/xiaofeiyun.keytab test3:/etc/

2、krb5.conf文件位置

/etc/krb5.conf

3、hadoop连接

conf.set("fs.defaultFS","hdfs://cluster1");

conf.set("dfs.nameservices","cluster1");

conf.set("dfs.ha.namenodes.cluster1","test1,test2");

conf.set("dfs.namenode.rpc-address.cluster1.test1","test1:9000");

conf.set("dfs.namenode.rpc-address.cluster1.test2","test2:9000");

conf.set("dfs.client.failover.proxy.provider.cluster1","org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider");

4、hbase连接

ha.zookeeper.quorum

test1:2181,test2:2181,test3:2181


主机 配置 文件 节点 位置 同步 整合 验证 认证 数据 数据库 方式 用户 管理员 过程 集群 上一 加密 管理 安全 数据库的安全要保护哪些东西 数据库安全各自的含义是什么 生产安全数据库录入 数据库的安全性及管理 数据库安全策略包含哪些 海淀数据库安全审计系统 建立农村房屋安全信息数据库 易用的数据库客户端支持安全管理 连接数据库失败ssl安全错误 数据库的锁怎样保障安全 广东猪兼强互联网科技有限公司 互联网科技工作委员会 互联网公司 科技公司 有马互联网科技 奇酷互联网络科技公司 米客互联网科技 兼蜜互联网科技 长亮科技互联网金融 海南购全球互联网科技 华中科技有哪些互联网大佬 中化能源互联网科技招聘 深圳育鹏互联网科技有限公司招聘 中国互联网十大科技股排名 长沙互联网科技 互联网科技实习生岗位 江苏互联网科技小贷 珠海东科互联网科技有限公司 互联网时代科技型公司的机会 重庆科技产业互联网有哪些 东风日产互联网科技公司叫什么 互联网科技工作委员会 互联网金融监管科技数据 撒么互联网科技公司 成都仁贤领冠互联网科技有限公司 现代互联网科技股 崇明区互联网教育科技诚信经营 华中科技大学互联网的牛人 宇信科技在杭州互联网排第几 上海互联网科技公司ppt 郑州欣桑互联网科技有限公司
0