kubernetes Troubleshooting
Kubernetes Service 访问不通排查
Kubernetes Service 通过 ClusterIP/NodePort 访问不通时,先 kubectl get endpoints 看是否为空——空则是 selector 与 Pod labels 不匹配,有值再核对 targetPort、Pod readiness 和 NetworkPolicy,最后用 busybox nslookup 验证集群 DNS 是否解析 svc.cluster.local。
Service 不通先看 Endpoints 是否为空。Endpoints 为空通常是 selector 没匹配到 Pod,Endpoints 有值再查端口、DNS 和网络策略。
Scenario
这篇文章解决什么问题
适用于“Kubernetes Service 访问不通排查”对应的线上或本地排障场景。不要只根据最终报错下结论,应先把问题拆成入口、链路、目标服务和资源限制几层,再用命令逐层证实。Service 不通先看 Endpoints 是否为空。Endpoints 为空通常是 selector 没匹配到 Pod,Endpoints 有值再查端口、DNS 和网络策略。
Symptoms
典型现象
- Kubernetes Service 通过 ClusterIP/NodePort 访问不通时,先 kubectl get endpoints 看是否为空——空则是 selector 与 Pod labels 不匹配,有值再核对 targetPort、Pod readiness 和 NetworkPolicy,最后用 busybox nslookup 验证集群 DNS 是否解析 svc.cluster.local。
- 相关日志、命令或页面中反复出现 kubernetes、service、dns 等关键词。
- 同一服务在不同机器、不同入口或不同时间段表现不一致,需要通过证据链缩小范围。
Before Debugging
排查前先确认
- 先确认 namespace、资源名、节点、镜像和最近一次变更。
- 按 Pod → Service/Endpoint → Ingress/外部入口的顺序定位,不要跳层。
- 优先看 describe events 和上一轮容器日志,它们通常比状态字段更接近根因。
Root Causes
常见根因分层
控制面状态只是结果,不是根因
CrashLoopBackOff、ImagePullBackOff、Pending 都是 Kubernetes 的状态归纳。真正原因在 Events、容器退出码、镜像拉取错误或调度失败信息里。
- describe pod 看 Events
- logs --previous 看上一轮崩溃
- get events 按时间线排序
标签、端口和就绪状态断链
Service selector 不匹配、targetPort 写错、readiness 未通过,会让流量入口看起来存在但没有可用后端。
- get svc,endpoints 同看
- 核对 Pod labels
- 确认容器监听端口
集群网络和策略限制
DNS、NetworkPolicy、IngressClass、节点到 Registry 网络、TLS Secret 都可能让同一应用在不同 namespace 或节点表现不同。
- 从集群内临时 Pod 测试
- 确认 IngressClass 和 Controller 日志
- 检查 Secret 所在 namespace
Diagnosis Path
分步诊断流程
1. 固定现场,避免追着变化状态跑
先记录故障时间、影响入口、完整错误和最近一次变更。Kubernetes Service 访问不通排查 这类问题经常在重启、重试或缓存刷新后短暂消失,没有现场信息会很难复盘。
- 截图或保存完整错误文本
- 记录请求域名/IP/端口/namespace/服务名
- 标出最近发布、配置、证书、镜像或依赖变更
kubectl get svc,endpoints -n <namespace>
kubectl describe svc <service> -n <namespace>2. 在故障发生的同一位置复现
很多误判来自测试位置不同:本机通不代表服务器通,容器内通不代表宿主机通,集群外通也不代表 Pod 内通。复现命令要尽量贴近真实流量路径。
- 从报错服务所在机器执行测试
- 必要时加 Host、SNI、namespace 或代理参数
- 把成功路径和失败路径的输出并排比较
kubectl describe svc <service> -n <namespace>
kubectl get pod -n <namespace> --show-labels
kubectl run tmp-shell --rm -it --image=busybox -- nslookup <service>.<namespace>.svc.cluster.local3. 读取服务端证据,而不是只看客户端提示
客户端报错通常是结果摘要。真正能区分根因的是服务端日志、内核日志、事件、进程状态或数据库状态。
- 确认 Service 名称、namespace 和访问方式。
- 查看 Endpoints 是否存在 Pod IP 和端口。
- Endpoints 为空时核对 selector 与 Pod labels。
kubectl get pod -n <namespace> --show-labels
kubectl run tmp-shell --rm -it --image=busybox -- nslookup <service>.<namespace>.svc.cluster.local
kubectl get networkpolicy -n <namespace>4. 做最小修复并立即回归验证
每次只改一个变量,修复后用同一条复现命令回测,并观察日志是否停止增长。这样可以避免多个临时改动互相掩盖。
- Endpoints 为空时核对 selector 与 Pod labels。
- Endpoints 正常时检查 targetPort、容器监听端口和 readiness 状态。
- 跨 namespace 或集群策略复杂时检查 DNS 和 NetworkPolicy。
kubectl run tmp-shell --rm -it --image=busybox -- nslookup <service>.<namespace>.svc.cluster.local
kubectl get networkpolicy -n <namespace>Commands
排查命令与使用意图
命令 1
用于读取 Kubernetes 当前资源状态和 Events。重点看 STATUS、RESTARTS 和 Events 中的调度、探针、镜像错误。
kubectl get svc,endpoints -n <namespace>命令 2
用于读取 Kubernetes Events、状态变化和资源引用关系。排查 Pod、Service、Ingress 时,它通常能直接暴露调度、拉镜像、探针或后端错误。
kubectl describe svc <service> -n <namespace>命令 3
用于读取 Kubernetes 当前资源状态和 Events。重点看 STATUS、RESTARTS 和 Events 中的调度、探针、镜像错误。
kubectl get pod -n <namespace> --show-labels命令 4
用于补充“Kubernetes Service 访问不通排查”的排查证据链。kubectl 的输出需要结合上下文其他命令交叉验证,不要单独依赖某一条结果下结论。
kubectl run tmp-shell --rm -it --image=busybox -- nslookup <service>.<namespace>.svc.cluster.local命令 5
用于读取 Kubernetes 当前资源状态和 Events。重点看 STATUS、RESTARTS 和 Events 中的调度、探针、镜像错误。
kubectl get networkpolicy -n <namespace>Risk Notes
容易踩坑的地方
- 不要直接删除有状态 Pod 或 PVC 来“试试”,先确认控制器和数据卷策略,避免数据丢失。
- 不要只看当前容器日志,CrashLoop 场景必须看 --previous 获取上一轮崩溃的完整输出。
- 不要在 production 集群上随意修改资源配额或节点标签,这类变更可能触发级联 Pod 调度。
Verification
修复后怎么确认
- 原始故障现象已经消失,且使用同一入口重新测试 Kubernetes Service 访问不通 能稳定成功。
- 服务端日志不再出现同类错误,监控中的错误率、重启次数、连接数或延迟回到正常区间。
- 如果做过临时绕过,已经记录恢复计划,例如还原宽松策略、补监控、补限制或提交正式配置。
Prevention
后续预防
- 发布模板中强制包含 probes、资源限制和回滚策略,确保所有工作负载都有存活和就绪检查。
- 把 Service selector、端口名和 labels 做成约定,减少手写漂移导致的网络断链问题。
- 为镜像拉取、Pod 重启和 Ingress 5xx 建立基础告警,第一时间发现异常。
- 定期用 kubectl cluster-info dump 和容器运行时检查集群健康状态,提前发现调度和资源问题。
常见问题
Service 有 ClusterIP 但访问不通说明什么?
ClusterIP 存在不代表后端可用。没有 Endpoints 或 targetPort 错误都会导致访问失败。
为什么 Pod IP 能通,Service 不通?
常见原因是 Service selector/targetPort 错误、kube-proxy/IPVS 异常或网络策略拦截。
Long-tail SEO
你可能正在搜索这些报错
下面这些错误原文、场景词和中英文搜索词,都是排查同类问题时常见的入口。
- Kubernetes service 访问不了
- kubectl get endpoints empty
- service selector 不匹配
- ClusterIP 访问失败
- K8s Service no endpoints
- pod ready 但 service 不通
- kubernetes DNS service 解析
- NodePort 访问不了
Need More Help
这个问题还没完全解决?
把你的报错、环境和已经尝试过的步骤发给我,后续会优先补充到排障手册。