千家信息网

redis主从复制同步数据死循环问题

发表于:2025-11-07 作者:千家信息网编辑
千家信息网最后更新 2025年11月07日,redis主从复制同步数据死循环问题发现现象:最近有问必答codis一个从库端口6504一直时不时,主从延时和从库连接不上的报警,开始怀疑是redis备份导致,没有深入去找原因,后面发现白天也在报警,
千家信息网最后更新 2025年11月07日redis主从复制同步数据死循环问题

redis主从复制同步数据死循环问题

发现现象:

最近有问必答codis一个从库端口6504一直时不时,主从延时和从库连接不上的报警,开始怀疑是redis备份导致,没有深入去找原因,后面发现白天也在报警,故深入排查了一下原因。

host: 10.20.1.4

port: 6504

idc: KDDI

role: redis_s

item: r_replication

current: 32767

last: 1 minutes.

info:

send at [2015-11-27 09:17:49]

------------------------------------------

host: 10.20.1.4

port: 6504

idc: KDDI

role: redis_s

item: r_connection

current: 0

last: 1 minutes.

info: failed

send at [2015-11-27 08:13:46]

问题现象:

1、登录到从库所在服务器,奇怪的发现了,从库周期性的在产生temp-rewriteaof-xxx.aof文件,见下图

2、从库的日志里面出现大量"Connection with master lost"日志,从句面意思来理解是说主库连接丢失,见下图

3、登录到主库,查看日志发现了"Connection with slave 10.20.1.4:6504 lost""scheduled to be closed ASAP for overcoming of output buffer limits."两条重要信息

4、登录到主库使用info命令发现"slave0:ip=10.20.1.4,port=6504,state=send_bulk,offset=0,lag=0"

问题分析:

1、通过从库周期性的生成aof文件以及日志里面看到周期性的连接主库lost现象,初步怀疑是复制层面的问题,并查看其他几个从库的日志没有发现这种情况,先排除网络问题

2、在主库也发现了连接从库lost现象,确定是6504端口redis内部的问题,并且看到"overcoming of output buffer limits",提示buffer限制了

3、以上信息基本上可以确认问题的原因,先回想一下redis主从复制原理:当在从库执行slaveof ip port命令之后,主库会使用bgsave生成一个rdb快照文件,生成文件之后通过网络将这个文件传到从库,同时主库上会将生成rdb快照那一刻起的新数据写的一个buffer缓冲区,另一方面,从库接受主库刚刚生成那个rdb文件之后,开始加载这个rdb文件,加载需要一定时间,如果这个时间越长,其主库的写入量越大,那么刚刚主库产生的buffer也会越大(当然不能无限大),在主库client-output-buffer-limit参数 slave 268435456 67108864 60设置了其大小,意思说如果buffer大小超过256Mb或者连续60秒钟产生的buffer大小大于64Mb,则buffer会强制关闭

解决办法:

1、调整主库client-output-buffer-limit默认参数,CONFIG SET client-output-buffer-limit "slave 1073741824 268435456 300",将其限制设置为1G,连续300秒超过256Mb才强制关闭,问题解决。

在主库的日志里面看到现象如下:

在从库的日志里面看到现象如下:


问题 文件 日志 现象 生成 主从 原因 周期 周期性 大小 登录 数据 下图 信息 参数 命令 快照 意思 时间 端口 数据库的安全要保护哪些东西 数据库安全各自的含义是什么 生产安全数据库录入 数据库的安全性及管理 数据库安全策略包含哪些 海淀数据库安全审计系统 建立农村房屋安全信息数据库 易用的数据库客户端支持安全管理 连接数据库失败ssl安全错误 数据库的锁怎样保障安全 厦门网络安全技术培训课程 阿里云做代理服务器 gdmss服务器连接不上 软件开发文档的作用 泉州国光软件开发 芜湖峰林兴网络技术有限公司 网络安全与管理的选题意义 16年互联网科技园 微软fox数据库的作用 维护服务器工资多少钱 济南市司法局鉴定机构数据库 宁海计算机软件开发 福建本地软件开发要多少钱 数据库金额用什么 南宁奇安信网络安全企业 郑州百知互联网科技有限公司 湛江旅游软件开发公司 朔州软件开发培训机构 物理网络安全评估报告 大同有名的网络安全创新服务 服务器没有硬盘怎么装系统 数据库双机同步软件高可用 少年三国志青梅竹马服务器 数据库多主键设置 初中学生校园网络安全自我保护 大学生网络安全的课件 迅付宝网络技术有限公司 松江区管理软件开发信息推荐 山东省瑞希互联网科技有限公司 网络安全新方向和创意
0