mq Troubleshooting

RabbitMQ 队列阻塞排查方法

RabbitMQ 队列 messages_ready 持续增长、消费者不消费或镜像队列同步卡住时,用 rabbitmqctl list_queues 看队列状态和消费者数,list_consumers 检查 ack_required 长时间无 ack 的阻塞消费者,list_queues slave_pids 判断镜像同步进度。

通过 rabbitmqctl list_queues 查看队列 messages_ready 与 consumers 数,定位是消费者缺失、消费者阻塞还是镜像同步卡住

适用环境Kafka / RabbitMQ / RocketMQ
风险等级
最后验证2026-07-04
建议权限普通用户

Scenario

这篇文章解决什么问题

适用于“RabbitMQ 队列阻塞排查方法”对应的线上或本地排障场景。不要只根据最终报错下结论,应先把问题拆成入口、链路、目标服务和资源限制几层,再用命令逐层证实。通过 rabbitmqctl list_queues 查看队列 messages_ready 与 consumers 数,定位是消费者缺失、消费者阻塞还是镜像同步卡住

Symptoms

典型现象

  • RabbitMQ 队列 messages_ready 持续增长、消费者不消费或镜像队列同步卡住时,用 rabbitmqctl list_queues 看队列状态和消费者数,list_consumers 检查 ack_required 长时间无 ack 的阻塞消费者,list_queues slave_pids 判断镜像同步进度。
  • 相关日志、命令或页面中反复出现 rabbitmq、队列阻塞、镜像队列 等关键词。
  • 同一服务在不同机器、不同入口或不同时间段表现不一致,需要通过证据链缩小范围。

Before Debugging

排查前先确认

  • 先确认是生产者、Broker 还是消费者的问题,不要在三层之间盲改。
  • 保留消息 ID、offset 和故障时间点,方便和上下游日志对齐。
  • 区分消息丢失(没投递成功)和消息积压(投递了但没消费),两者根因完全不同。

Root Causes

常见根因分层

消费者处理速度跟不上生产速度

消费逻辑慢、单线程拉取、批量大小不合理,会让 lag 持续增长,表现为积压而不是丢失。

  • 看 lag 和消费 TPS
  • 确认并发消费者数
  • 排查消费逻辑是否有阻塞

分区或队列不均衡、rebalance 频繁

分区分配倾斜、消费者频繁上下线触发 rebalance,会让部分消费者空转、部分积压。

  • 看分区分布和消费进度
  • 确认 session timeout 和心跳
  • 排查消费者重启原因

连接数或 channel 爆满、内存水位触发

连接泄漏、channel 不复用、Broker 内存超 watermark 触发 flow control,会让生产者被限流甚至断连。

  • 统计连接和 channel 数
  • 看 Broker 内存水位
  • 确认是否触发 flow control

Diagnosis Path

分步诊断流程

1. 固定现场,避免追着变化状态跑

先记录故障时间、影响入口、完整错误和最近一次变更。RabbitMQ 队列阻塞排查方法 这类问题经常在重启、重试或缓存刷新后短暂消失,没有现场信息会很难复盘。

  • 截图或保存完整错误文本
  • 记录请求域名/IP/端口/namespace/服务名
  • 标出最近发布、配置、证书、镜像或依赖变更
1. 固定现场,避免追着变化状态跑
rabbitmqctl list_queues name messages messages_ready consumers state
rabbitmqctl list_consumers queue_name consumer_tag ack_required

2. 在故障发生的同一位置复现

很多误判来自测试位置不同:本机通不代表服务器通,容器内通不代表宿主机通,集群外通也不代表 Pod 内通。复现命令要尽量贴近真实流量路径。

  • 从报错服务所在机器执行测试
  • 必要时加 Host、SNI、namespace 或代理参数
  • 把成功路径和失败路径的输出并排比较
2. 在故障发生的同一位置复现
rabbitmqctl list_consumers queue_name consumer_tag ack_required
rabbitmqctl node_health_check
rabbitmqctl list_queues name policy slave_pids synchronised_slave_pids

3. 读取服务端证据,而不是只看客户端提示

客户端报错通常是结果摘要。真正能区分根因的是服务端日志、内核日志、事件、进程状态或数据库状态。

  • 使用 rabbitmqctl list_queues name messages messages_ready consumers state 查看各队列堆积量与消费者数
  • 筛选 messages_ready 持续增长且 consumers 为 0 的队列,确认消费者是否全部下线
  • 使用 rabbitmqctl list_consumers 确认有消费者但 ack_required 为 true 且长时间无 ack,定位阻塞消费者
3. 读取服务端证据,而不是只看客户端提示
rabbitmqctl node_health_check
rabbitmqctl list_queues name policy slave_pids synchronised_slave_pids

4. 做最小修复并立即回归验证

每次只改一个变量,修复后用同一条复现命令回测,并观察日志是否停止增长。这样可以避免多个临时改动互相掩盖。

  • 使用 rabbitmqctl list_consumers 确认有消费者但 ack_required 为 true 且长时间无 ack,定位阻塞消费者
  • 使用 rabbitmqctl list_queues slave_pids synchronised_slave_pids 检查镜像队列同步是否卡住
  • 使用 rabbitmqctl node_health_check 确认节点磁盘、内存、 Erlang 分布是否健康,必要时重启阻塞消费者或解除镜像同步
4. 做最小修复并立即回归验证
rabbitmqctl node_health_check
rabbitmqctl list_queues name policy slave_pids synchronised_slave_pids

Commands

排查命令与使用意图

命令 1

用于补充“RabbitMQ 队列阻塞排查方法”的排查证据链。rabbitmqctl 的输出需要结合上下文其他命令交叉验证,不要单独依赖某一条结果下结论。

命令 1
rabbitmqctl list_queues name messages messages_ready consumers state

命令 2

用于补充“RabbitMQ 队列阻塞排查方法”的排查证据链。rabbitmqctl 的输出需要结合上下文其他命令交叉验证,不要单独依赖某一条结果下结论。

命令 2
rabbitmqctl list_consumers queue_name consumer_tag ack_required

命令 3

用于补充“RabbitMQ 队列阻塞排查方法”的排查证据链。rabbitmqctl 的输出需要结合上下文其他命令交叉验证,不要单独依赖某一条结果下结论。

命令 3
rabbitmqctl node_health_check

命令 4

用于补充“RabbitMQ 队列阻塞排查方法”的排查证据链。rabbitmqctl 的输出需要结合上下文其他命令交叉验证,不要单独依赖某一条结果下结论。

命令 4
rabbitmqctl list_queues name policy slave_pids synchronised_slave_pids

Risk Notes

容易踩坑的地方

  • 不要直接清空队列丢弃消息来“解决”积压,会导致业务数据丢失,应先确认积压原因。
  • 不要盲目重启 Broker,未持久化的消息和未确认的投递会丢失,重启前应确认同步状态。
  • 不要在生产环境随意调整分区数,分区扩展后不能缩减,且会影响现有消息的顺序。

Verification

修复后怎么确认

  • 原始故障现象已经消失,且使用同一入口重新测试 RabbitMQ 队列阻塞 能稳定成功。
  • 服务端日志不再出现同类错误,监控中的错误率、重启次数、连接数或延迟回到正常区间。
  • 如果做过临时绕过,已经记录恢复计划,例如还原宽松策略、补监控、补限制或提交正式配置。

Prevention

后续预防

  • 监控 lag、连接数和磁盘使用,而不是只看 Broker 是否存活,及时发现潜在问题。
  • 消费者做幂等处理,避免重复消费导致数据错乱,特别是在重试和 rebalance 场景下。
  • 设置合理的消息 TTL 和死信队列,防止异常消息无限堆积影响正常消息处理。
  • 对关键消息链路做端到端监控,从生产到消费全链路追踪,快速定位问题节点。

常见问题

队列有消费者但 messages_ready 一直涨怎么办?

多为消费者处理慢或 prefetch_count 设置过大导致消息被拉取后积压在客户端,调小 prefetch 并优化消费逻辑或扩容消费者

镜像队列同步卡住导致队列不可用怎么办?

检查网络与磁盘 IO,必要时用 rabbitmqctl cancel_sync_queue 取消同步,或临时关闭镜像策略恢复写入后再重新同步

Long-tail SEO

你可能正在搜索这些报错

下面这些错误原文、场景词和中英文搜索词,都是排查同类问题时常见的入口。

  • rabbitmq 队列阻塞
  • rabbitmq 队列堆积
  • rabbitmq 消费者不消费
  • rabbitmq 镜像队列同步卡住
  • rabbitmq messages_ready 增长
  • rabbitmq 队列无消费者