kafka集群安装与配置方法

这篇文章主要讲解了"kafka集群安装与配置方法"，文中的讲解内容简单清晰，易于学习与理解，下面请大家跟着小编的思路慢慢深入，一起来研究和学习"kafka集群安装与配置方法"吧！

1）解压安装包

[mayi@mayi101 software]$ tar -zxvf kafka_2.11-2.4.1.tgz -C /opt/software/

2）修改解压后的文件名称

[mayi@mayi101 module]$ mv kafka_2.11-2.4.1/ kafka

3）在/opt/module/kafka目录下创建logs文件夹

[mayi@mayi101 kafka]$ mkdir logs

4）修改配置文件

[mayi@mayi101 kafka]$ cd config/[mayi@mayi101 config]$ vi server.properties输入以下内容：#broker的全局唯一编号，不能重复broker.id=0#删除topic功能使能delete.topic.enable=true#处理网络请求的线程数量num.network.threads=3#用来处理磁盘IO的现成数量num.io.threads=8#发送套接字的缓冲区大小socket.send.buffer.bytes=102400#接收套接字的缓冲区大小socket.receive.buffer.bytes=102400#请求套接字的缓冲区大小socket.request.max.bytes=104857600#kafka运行日志存放的路径log.dirs=/opt/software/kafka/logs#topic在当前broker上的分区个数num.partitions=1#用来恢复和清理data下数据的线程数量num.recovery.threads.per.data.dir=1#segment文件保留的最长时间，超时将被删除log.retention.hours=168#配置连接Zookeeper集群地址zookeeper.connect=mayi101:2181,mayi102:2181,mayi103:2181/kafka

5）配置环境变量

[mayi@mayi101 module]$ sudo vi /etc/profile#KAFKA_HOMEexport KAFKA_HOME=/opt/module/kafkaexport PATH=$PATH:$KAFKA_HOME/bin[atguigu@hadoop102 module]$ source /etc/profile

6）分发安装包

[mayi@mayi101 module]$ xsync kafka/注意：分发之后记得配置其他机器的环境变量分别在mayi102和mayi103上修改配置文件/opt/module/kafka/config/server.properties中的broker.id=1、broker.id=2注：broker.id不得重复

7）启动集群

依次在mayi101、mayi102、mayi103节点上启动kafka[mayi@mayi101 kafka]$ kafka-server-start.sh -daemon $KAFKA_HOME/config/server.properties[mayi@mayi101 kafka]$ kafka-server-start.sh -daemon  $KAFKA_HOME/config/server.properties[mayi@mayi101 kafka]$ kafka-server-start.sh -daemon  $KAFKA_HOME/config/server.properties

8）关闭集群

[mayi@mayi101 kafka]$ bin/kafka-server-stop.sh[mayi@mayi102 kafka]$ bin/kafka-server-stop.sh[mayi@mayi103 kafka]$ bin/kafka-server-stop.sh

9) kafka群启脚本

#!/bin/bashfor i in `cat /opt/software/hadoop-2.9.2/etc/hadoop/slaves`doecho "========== $i ==========" ssh $i 'source /home/mayi/.bash_profile&&/opt/software/kafka_2.11-2.4.1/bin/kafka-server-start.sh -daemon /opt/software/kafka_2.11-2.4.1/config/server.properties'echo $?done

10) kafkaq群关脚本

#!/bin/bashfor i in `cat /opt/software/hadoop-2.9.2/etc/hadoop/slaves`doecho "========== $i ==========" ssh $i 'source /home/mayi/.bash_profile&&/opt/software/kafka_2.11-2.4.1/bin/kafka-server-stop.sh'echo $?done

感谢各位的阅读，以上就是"kafka集群安装与配置方法"的内容了，经过本文的学习后，相信大家对kafka集群安装与配置方法这一问题有了更深刻的体会，具体使用情况还需要大家实践验证。这里是，小编将为大家推送更多相关知识点的文章，欢迎关注！