千家信息网

如何解决CDH5.10一个clients.NetworkClient: Bootstrap broker ip:9092 disconnected问题

发表于:2026-11-02 作者:千家信息网编辑
千家信息网最后更新 2026年11月02日,如何解决CDH5.10一个clients.NetworkClient: Bootstrap broker ip:9092 disconnected问题,相信很多没有经验的人对此束手无策,为此本文总结了
千家信息网最后更新 2026年11月02日如何解决CDH5.10一个clients.NetworkClient: Bootstrap broker ip:9092 disconnected问题

如何解决CDH5.10一个clients.NetworkClient: Bootstrap broker ip:9092 disconnected问题,相信很多没有经验的人对此束手无策,为此本文总结了问题出现的原因和解决方法,通过这篇文章希望你能解决这个问题。

1.当前环境使用的稳定版本组合
a.本套环境CDH经过四次升级,当然版本为CDH-5.10.0-1.cdh6.10.0.p0.41
b.KAFKA版本为KAFKA-2.1.0-1.2.1.0.p0.115
c.SPARK2版本为SPARK2-2.0.0.cloudera1-1.cdh6.7.0.p0.113931




2.Spark2安装排查分析
你在Hosts-->Parcels页会发现,Spark2可以升级到该版本的release的2.0.0.cloudera2版本,即为2.0.0.cloudera2-1.cdh6.7.0.p0.118100,
但是我们在安装时,发现该版本的spark history启动报错,通过分析shell脚本stdout,stderr日志则报错为
The CSD version (2.0.0.cloudera1) is not compatible with the current Spark 2 version (2.0.0.cloudera2)

后来再分析一下,当前的CSD_VERSION为2.0.0.cloudera1,假如升级为最新版本,则SPARK2_VERSION为2.0.0.cloudera2,所以服务根本不可能启动,
尝试着在元数据库的表中将2.0.0.cloudera2改为2.0.0.cloudera1,但是web界面的parcel的该spark2的则立即显示不可用,这时真心感觉cloudera的厉害!

最后我选择和CSD_VERSION相同版本的SPARK2-2.0.0.cloudera1-1.cdh6.7.0.p0.113931


3.spark2_submit提交jar包到yarn上,实时spak从kafka中读取数据,但是检查job的log发现以下错误



4.分析错误,将程序的pom文件引用的版本全部替换为当前CDH,Kafka,Spark2的版本,再编译jar包
(其实假如编译廋包,就是没有依赖包,pom文件为Apache maven也行);

然后思考怀疑集群上的spark2的kafka jar包和CDH的kafka 版本不一致,
故将之前版本bak,然后cpoy 当前kafka的jar包到spark2的jars文件夹中(重点改这)


4.1pom文件
pom.rar

4.2集群的每台都要进行如下操作

点击(此处)折叠或打开

  1. [root@sh-hadoop-01 ~]# /opt/cloudera/parcels/SPARK2/lib/spark2/jars/

  2. [root@sh-hadoop-01 jars]# ll

  3. ...............

  4. -rw-rw-r-- 1 root root 5001608 Dec 7 02:54 kafka_2.11-0.9.0-kafka-2.0.0.jar

  5. -rw-rw-r-- 1 root root 649382 Dec 7 02:54 kafka-clients-0.9.0-kafka-2.0.0.jar

  6. ..............

  7. [root@sh-hadoop-01 jars]# mv kafka_2.11-0.9.0-kafka-2.0.0.jar kafka_2.11-0.9.0-kafka-2.0.0.jar.bak

  8. [root@sh-hadoop-01 jars]# mv kafka-clients-0.9.0-kafka-2.0.0.jar kafka-clients-0.9.0-kafka-2.0.0.jar.bak

  9. [root@sh-hadoop-01 jars]# cd /opt/cloudera/parcels/KAFKA/lib/kafka/libs

  10. [root@sh-hadoop-01 libs]# cp /opt/cloudera/parcels/KAFKA/lib/kafka/libs/kafka_2.11-0.10.0-kafka-2.1.0.jar /opt/cloudera/parcels/SPARK2/lib/spark2/jars/

  11. [root@sh-hadoop-01 libs]# cp /opt/cloudera/parcels/KAFKA/lib/kafka/libs/kafka-clients-0.10.0-kafka-2.1.0.jar /opt/cloudera/parcels/SPARK2/lib/spark2/jars/

  12. [root@sh-hadoop-01 libs]# ll /opt/cloudera/parcels/SPARK2/lib/spark2/jars/

  13. ...............

  14. -rwxr-xr-x 1 root root 5156768 Mar 9 23:48 kafka_2.11-0.10.0-kafka-2.1.0.jar

  15. -rw-rw-r-- 1 root root 5001608 Dec 7 02:54 kafka_2.11-0.9.0-kafka-2.0.0.jar.bak

  16. -rwxr-xr-x 1 root root 747732 Mar 9 23:48 kafka-clients-0.10.0-kafka-2.1.0.jar

  17. -rw-rw-r-- 1 root root 649382 Dec 7 02:54 kafka-clients-0.9.0-kafka-2.0.0.jar.bak

  18. ...............

5.凌晨解决问题,重新提交jar,直到现在稳定运行10h

看完上述内容,你们掌握如何解决CDH5.10一个clients.NetworkClient: Bootstrap broker ip:9092 disconnected问题的方法了吗?如果还想学到更多技能或想了解更多相关内容,欢迎关注行业资讯频道,感谢各位的阅读!

版本 问题 文件 分析 升级 内容 数据 方法 更多 环境 错误 集群 编译 相同 一致 厉害 束手无策 为此 中将 原因 数据库的安全要保护哪些东西 数据库安全各自的含义是什么 生产安全数据库录入 数据库的安全性及管理 数据库安全策略包含哪些 海淀数据库安全审计系统 建立农村房屋安全信息数据库 易用的数据库客户端支持安全管理 连接数据库失败ssl安全错误 数据库的锁怎样保障安全 华服互联网科技靠谱吗 广州为想互联网科技有限公司 科技互联网企业 互联网科技工作委员会毛军 万易互联网科技 小马过河互联网科技 上海致骋互联网科技 佰商互联网科技有限公司 互联网科技公司的市场部门 科技赋能互联网健康 北京华百购互联网科技有限公司 互联网为啥属于高科技 荆州市昕露互联网络科技有限公司 和信科技工业互联网 互联网金融科技元年 浙南科技城互联网大厦招聘 互联网科技企业商标注意事项 互联网科技新闻 互联网领先科技成果宣传视频 武汉亿视互联网科技有限公司 蓝思科技飞鸽互联网 厦门中拓互联网络科技有限公司 互联网科技ppt模板 济南华为互联网科技产业总部基地 佛山市翊博互联网络科技有限公司 烟台灵鸽互联网科技有限公司 互联网科技平台产品运营 陕西九四连强互联网科技有限公司 好易买互联网科技 知域互联网科技有限公司官网
0