kafka集群的部署
发表于:2026-11-03 作者:千家信息网编辑
千家信息网最后更新 2026年11月03日,1.zookeeper集群部署不在简介zk对外提供2181端口 分别部署在三台机器上面,也是下面的三台2.hosts文件一定要做 否则kafka系统启动不起来[root@linux-node1 bin
千家信息网最后更新 2026年11月03日kafka集群的部署
1.zookeeper集群部署不在简介
zk对外提供2181端口 分别部署在三台机器上面,也是下面的三台
2.hosts文件一定要做 否则kafka系统启动不起来
[root@linux-node1 bin]# cat /etc/hosts192.168.56.11 linux-node1192.168.56.12 linux-node2192.168.56.13 linux-node3
3.linux-node1
[root@linux-node1 ~]# lltotal 202032-rw-------. 1 root root 1011 Aug 26 18:00 anaconda-ks.cfglrwxrwxrwx 1 root root 17 Oct 5 02:41 jdk -> /root/jdk1.7.0_79drwxr-xr-x 8 10 143 4096 Apr 11 2015 jdk1.7.0_79-rw-r--r-- 1 root root 153512879 Oct 5 02:39 jdk-7u79-linux-x64.tar.gzlrwxrwxrwx 1 root root 24 Oct 5 03:03 kafka01 -> /root/kafka_2.11-0.9.0.1drwxr-xr-x 7 root root 94 Oct 5 03:18 kafka_2.11-0.9.0.1-rw-r--r-- 1 root root 35650542 Oct 5 03:02 kafka_2.11-0.9.0.1.tgzlrwxrwxrwx 1 root root 21 Oct 5 02:43 zk01 -> /root/zookeeper-3.4.6drwxr-xr-x 10 1000 1000 4096 Feb 20 2014 zookeeper-3.4.6-rw-r--r-- 1 root root 17699306 Oct 5 02:43 zookeeper-3.4.6.tar.gz[root@linux-node1 ~]#
linux-node2
[root@linux-node1 ~]# lltotal 202032-rw-------. 1 root root 1011 Aug 26 18:00 anaconda-ks.cfglrwxrwxrwx 1 root root 17 Oct 5 02:41 jdk -> /root/jdk1.7.0_79drwxr-xr-x 8 10 143 4096 Apr 11 2015 jdk1.7.0_79-rw-r--r-- 1 root root 153512879 Oct 5 02:39 jdk-7u79-linux-x64.tar.gzlrwxrwxrwx 1 root root 24 Oct 5 03:03 kafka02 -> /root/kafka_2.11-0.9.0.1drwxr-xr-x 7 root root 94 Oct 5 03:23 kafka_2.11-0.9.0.1-rw-r--r-- 1 root root 35650542 Oct 5 03:02 kafka_2.11-0.9.0.1.tgzlrwxrwxrwx 1 root root 21 Oct 5 02:44 zk02 -> /root/zookeeper-3.4.6drwxr-xr-x 10 1000 1000 4096 Feb 20 2014 zookeeper-3.4.6-rw-r--r-- 1 root root 17699306 Oct 5 02:43 zookeeper-3.4.6.tar.gz[root@linux-node1 ~]#
linux-node3
[root@linux-node3 ~]# lltotal 202032-rw-------. 1 root root 1011 Aug 26 18:00 anaconda-ks.cfglrwxrwxrwx 1 root root 17 Oct 5 02:41 jdk -> /root/jdk1.7.0_79drwxr-xr-x 8 10 143 4096 Apr 11 2015 jdk1.7.0_79-rw-r--r-- 1 root root 153512879 Oct 5 02:39 jdk-7u79-linux-x64.tar.gzlrwxrwxrwx 1 root root 24 Oct 5 03:04 kafka03 -> /root/kafka_2.11-0.9.0.1drwxr-xr-x 7 root root 94 Oct 5 03:23 kafka_2.11-0.9.0.1-rw-r--r-- 1 root root 35650542 Oct 5 03:03 kafka_2.11-0.9.0.1.tgzlrwxrwxrwx 1 root root 21 Oct 5 02:44 zk03 -> /root/zookeeper-3.4.6drwxr-xr-x 10 1000 1000 4096 Feb 20 2014 zookeeper-3.4.6-rw-r--r-- 1 root root 17699306 Oct 5 02:43 zookeeper-3.4.6.tar.gz[root@linux-node3 ~]#
kafka文件查看(每个文件的broker.id 不一样 和zk的myid差不多)
linux-node1
[root@linux-node1 config]# cat server.propertiesbroker.id=1port=9092listeners=PLAINTEXT://:9092num.network.threads=8num.io.threads=10socket.send.buffer.bytes=102400socket.receive.buffer.bytes=102400socket.request.max.bytes=104857600log.dirs=/opt/kafka-logsnum.partitions=1num.recovery.threads.per.data.dir=1log.retention.hours=168log.segment.bytes=1073741824log.retention.check.interval.ms=300000zookeeper.connect=192.168.56.11:2181,192.168.56.12:2181,192.168.56.13:2181zookeeper.connection.timeout.ms=6000message.max.byte=5242880default.replication.factor=2replica.fetch.max.bytes=5242880[root@linux-node1 config]# pwd/root/kafka01/config[root@linux-node1 config]#
linux-node2
[root@linux-node2 config]# cat server.properties broker.id=2port=9092listeners=PLAINTEXT://:9092num.network.threads=8num.io.threads=10socket.send.buffer.bytes=102400socket.receive.buffer.bytes=102400socket.request.max.bytes=104857600log.dirs=/opt/kafka-logsnum.partitions=1num.recovery.threads.per.data.dir=1log.retention.hours=168log.segment.bytes=1073741824log.retention.check.interval.ms=300000zookeeper.connect=192.168.56.11:2181,192.168.56.12:2181,192.168.56.13:2181zookeeper.connection.timeout.ms=6000message.max.byte=5242880default.replication.factor=2replica.fetch.max.bytes=5242880[root@linux-node2 config]#
linux-node3
[root@linux-node3 kafka03]# cat config/server.properties broker.id=3port=9092listeners=PLAINTEXT://:9092num.network.threads=8num.io.threads=10socket.send.buffer.bytes=102400socket.receive.buffer.bytes=102400socket.request.max.bytes=104857600log.dirs=/opt/kafka-logsnum.partitions=1num.recovery.threads.per.data.dir=1log.retention.hours=168log.segment.bytes=1073741824log.retention.check.interval.ms=300000zookeeper.connect=192.168.56.11:2181,192.168.56.12:2181,192.168.56.13:2181zookeeper.connection.timeout.ms=6000message.max.byte=5242880default.replication.factor=2replica.fetch.max.bytes=5242880[root@linux-node3 kafka03]#
分别启动kafka
/root/kafka01/config./kafka-server-start.sh -daemon ../config/server.properties
测试
./kafka-topics.sh --zookeeper localhost:2181 --create --topic ttt --partitions 2 --replication-factor 2./kafka-topics.sh --zookeeper 192.168.56.12:2181 --list ./kafka-topics.sh --zookeeper 192.168.56.12:2181 --describe --topic ttt
文件
三台
集群
差不多
机器
端口
简介
系统
面的
对外
测试
数据库的安全要保护哪些东西
数据库安全各自的含义是什么
生产安全数据库录入
数据库的安全性及管理
数据库安全策略包含哪些
海淀数据库安全审计系统
建立农村房屋安全信息数据库
易用的数据库客户端支持安全管理
连接数据库失败ssl安全错误
数据库的锁怎样保障安全
南京欣网互联网络科技
小米移动互联网科技园
云之行互联网科技
鸠鸠互联网科技
科技服务与互联网
唐信互联网科技
智慧科技互联网
赫美联合互联网科技
卓越科技互联网 招聘
成都仁贤领冠互联网科技有限公司
恒生科技互联网指数分析
欧洲十大科技互联网公司
互联网经济与金融科技
彤创互联网科技有限公司
东莞新华互联网科技学校
互联网科技的全部知识
富国互联网金融科技混合基金
互联网时代高科技布局
深圳互联网科技园地址
山东亿川互联网科技有限责任公司
盈实互联网科技
高科技与互联网
西安互联网科技
远信互联网科技
华中科技大学互联网
壹账通互联网科技
友谊互联网络科技
工业互联网等科技实现智能化赋能
宇信科技在杭州互联网排第几
高科技和互联网的现代国家