search Troubleshooting
Elasticsearch 集群状态 RED 排查方法
Elasticsearch 集群 health=red、主分片未分配时,用 _cluster/health 记录 unassigned_shards,通过 _cat/shards 和 _cluster/allocation/explain 定位 NODE_LEFT、DISK_FULL 等原因,恢复离线节点、清理磁盘或从副本/快照 reroute 恢复。
集群 RED 说明有主分片未分配,通过 _cluster/allocation/explain 定位原因后重新分配或恢复节点即可
Scenario
这篇文章解决什么问题
适用于“Elasticsearch 集群状态 RED 排查方法”对应的线上或本地排障场景。不要只根据最终报错下结论,应先把问题拆成入口、链路、目标服务和资源限制几层,再用命令逐层证实。集群 RED 说明有主分片未分配,通过 _cluster/allocation/explain 定位原因后重新分配或恢复节点即可
Symptoms
典型现象
- Elasticsearch 集群 health=red、主分片未分配时,用 _cluster/health 记录 unassigned_shards,通过 _cat/shards 和 _cluster/allocation/explain 定位 NODE_LEFT、DISK_FULL 等原因,恢复离线节点、清理磁盘或从副本/快照 reroute 恢复。
- 相关日志、命令或页面中反复出现 elasticsearch、cluster-red、分片未分配 等关键词。
- 同一服务在不同机器、不同入口或不同时间段表现不一致,需要通过证据链缩小范围。
Before Debugging
排查前先确认
- 先确认是索引设计、查询写法还是集群资源问题,避免在错误的层面调参。
- 保留慢查询、分片状态和节点资源水位,作为定位依据。
- 区分查询慢(读路径)和写入慢(写路径),两者优化方向相反。
Root Causes
常见根因分层
分片未分配或磁盘水位线触发
节点磁盘超 flood watermark 会拒绝写入、分片无法分配,集群变 red 或 yellow,表现为大面积失败。
- 看集群 health 和分片分配
- 检查节点磁盘水位
- 看 allocation explain
查询未用 filter 上下文或聚合过高基数
用 query 而非 filter 不走缓存、聚合字段基数过高、深分页 from+size 过大,都会让查询又慢又耗资源。
- 区分 filter 和 query
- 看聚合基数和分桶数
- 排查深分页改 search_after
线程池满或熔断器触发
search/write 线程池队列打满会拒绝请求,parent breaker 触发会让大查询直接失败。
- 看线程池 queue 和 rejected
- 确认是否触发 breaker
- 排查大聚合和全量扫描
Diagnosis Path
分步诊断流程
1. 固定现场,避免追着变化状态跑
先记录故障时间、影响入口、完整错误和最近一次变更。Elasticsearch 集群状态 RED 排查方法 这类问题经常在重启、重试或缓存刷新后短暂消失,没有现场信息会很难复盘。
- 截图或保存完整错误文本
- 记录请求域名/IP/端口/namespace/服务名
- 标出最近发布、配置、证书、镜像或依赖变更
curl -X GET "http://localhost:9200/_cluster/health?pretty"
curl -X GET "http://localhost:9200/_cat/shards?v&h=index,shard,prirep,state,unassigned.reason,node"2. 在故障发生的同一位置复现
很多误判来自测试位置不同:本机通不代表服务器通,容器内通不代表宿主机通,集群外通也不代表 Pod 内通。复现命令要尽量贴近真实流量路径。
- 从报错服务所在机器执行测试
- 必要时加 Host、SNI、namespace 或代理参数
- 把成功路径和失败路径的输出并排比较
curl -X GET "http://localhost:9200/_cat/shards?v&h=index,shard,prirep,state,unassigned.reason,node"
curl -X GET "http://localhost:9200/_cluster/allocation/explain?pretty"
curl -X GET "http://localhost:9200/_cat/indices?v&health=red"3. 读取服务端证据,而不是只看客户端提示
客户端报错通常是结果摘要。真正能区分根因的是服务端日志、内核日志、事件、进程状态或数据库状态。
- 使用 _cluster/health 确认集群状态为 red,记录 unassigned_shards 数量
- 使用 _cat/shards 过滤 state=UNASSIGNED 的分片,定位具体索引和分片编号
- 调用 _cluster/allocation/explain 获取分片未分配的详细原因(如 NODE_LEFT、DISK_FULL 等)
curl -X GET "http://localhost:9200/_cluster/allocation/explain?pretty"
curl -X GET "http://localhost:9200/_cat/indices?v&health=red"4. 做最小修复并立即回归验证
每次只改一个变量,修复后用同一条复现命令回测,并观察日志是否停止增长。这样可以避免多个临时改动互相掩盖。
- 调用 _cluster/allocation/explain 获取分片未分配的详细原因(如 NODE_LEFT、DISK_FULL 等)
- 根据原因处理:恢复离线节点、清理磁盘、手动 reroute 或重建索引
- 再次检查 _cluster/health,确认状态恢复为 yellow 或 green
curl -X GET "http://localhost:9200/_cluster/allocation/explain?pretty"
curl -X GET "http://localhost:9200/_cat/indices?v&health=red"Commands
排查命令与使用意图
命令 1
用于从指定位置模拟真实请求。加 -v 可以看到 DNS、TCP、TLS、HTTP 头和代理连接过程,是定位链路阶段的关键证据。
curl -X GET "http://localhost:9200/_cluster/health?pretty"命令 2
用于从指定位置模拟真实请求。加 -v 可以看到 DNS、TCP、TLS、HTTP 头和代理连接过程,是定位链路阶段的关键证据。
curl -X GET "http://localhost:9200/_cat/shards?v&h=index,shard,prirep,state,unassigned.reason,node"命令 3
用于从指定位置模拟真实请求。加 -v 可以看到 DNS、TCP、TLS、HTTP 头和代理连接过程,是定位链路阶段的关键证据。
curl -X GET "http://localhost:9200/_cluster/allocation/explain?pretty"命令 4
用于从指定位置模拟真实请求。加 -v 可以看到 DNS、TCP、TLS、HTTP 头和代理连接过程,是定位链路阶段的关键证据。
curl -X GET "http://localhost:9200/_cat/indices?v&health=red"Risk Notes
容易踩坑的地方
- 不要在集群 red 状态下强制分配分片,可能造成数据丢失或不一致。
- 不要随意调大熔断器阈值掩盖大查询问题,会让节点 OOM 导致更大的集群故障。
- 不要使用深分页(from+size 超过 10000),应改用 search_after 或 scroll API。
Verification
修复后怎么确认
- 原始故障现象已经消失,且使用同一入口重新测试 Elasticsearch 集群状态 RED 能稳定成功。
- 服务端日志不再出现同类错误,监控中的错误率、重启次数、连接数或延迟回到正常区间。
- 如果做过临时绕过,已经记录恢复计划,例如还原宽松策略、补监控、补限制或提交正式配置。
Prevention
后续预防
- 监控集群 health、磁盘水位和线程池 rejected,建立趋势告警,提前发现集群问题。
- 为索引设置 ILM 策略,自动滚动、收缩和删除,避免单索引无限膨胀导致性能下降。
- 查询统一用 filter 上下文,并按数据量规划合理分片数,避免过度分片或分片不足。
- 定期使用 Profile API 分析慢查询,优化查询 DSL 和索引映射。
常见问题
集群 RED 期间还能写入数据吗?
RED 索引的主分片不可用,写入会失败;其他 green/yellow 索引仍可正常读写。
allocation/explain 返回 NODE_LEFT 怎么办?
说明持有主分片的节点离线,等待节点恢复或从副本提升主分片;若无副本则需从快照恢复。
Long-tail SEO
你可能正在搜索这些报错
下面这些错误原文、场景词和中英文搜索词,都是排查同类问题时常见的入口。
- elasticsearch 集群 red
- ES 集群状态 red 怎么排查
- elasticsearch 主分片未分配
- _cluster/allocation/explain 用法
- elasticsearch unassigned.reason 含义
- ES 集群 health red 恢复
Need More Help
这个问题还没完全解决?
把你的报错、环境和已经尝试过的步骤发给我,后续会优先补充到排障手册。