linux Troubleshooting
Too many open files 文件句柄耗尽排查
应用日志出现 Too many open files (EMFILE) 时，用 cat /proc/<pid>/limits 看 Max open files，ls /proc/<pid>/fd | wc -l 统计已打开数，lsof -p 按 socket/日志/deleted 文件分类找泄漏点，systemd 服务需要在 unit 里设 LimitNOFILE 并 daemon-reload。
先确认是哪个进程触达 nofile 限制，再看打开的是 socket、日志、临时文件还是已删除文件。不要只全局调大 ulimit。
Scenario
这篇文章解决什么问题
适用于“Too many open files 文件句柄耗尽排查”对应的线上或本地排障场景。不要只根据最终报错下结论，应先把问题拆成入口、链路、目标服务和资源限制几层，再用命令逐层证实。先确认是哪个进程触达 nofile 限制，再看打开的是 socket、日志、临时文件还是已删除文件。不要只全局调大 ulimit。
Symptoms
典型现象
- 应用日志出现 Too many open files (EMFILE) 时，用 cat /proc/<pid>/limits 看 Max open files，ls /proc/<pid>/fd | wc -l 统计已打开数，lsof -p 按 socket/日志/deleted 文件分类找泄漏点，systemd 服务需要在 unit 里设 LimitNOFILE 并 daemon-reload。
- 相关日志、命令或页面中反复出现 linux、ulimit、nofile 等关键词。
- 同一服务在不同机器、不同入口或不同时间段表现不一致，需要通过证据链缩小范围。
Before Debugging
排查前先确认
- 先确定故障资源：CPU、内存、磁盘、网络、权限、文件句柄还是 systemd 生命周期。
- 区分当前状态和故障发生时状态，事故恢复后 free/top 可能已经看不出根因。
- 任何清理或 kill 操作前先记录 PID、命令行、日志和影响范围。
Root Causes
常见根因分层
资源耗尽或限制过低
磁盘、内存、CPU、load、文件句柄和进程数限制都会让服务表现为启动失败、连接失败或随机超时。
- 先看系统级指标，再看进程级指标
- 确认 systemd/cgroup 限制
- 保留 dmesg/journalctl 历史证据
运行环境和交互 shell 不一致
systemd 服务没有你的 shell 环境变量、工作目录和 PATH；手动能跑不代表服务单元能跑。
- ExecStart 使用绝对路径
- 设置 WorkingDirectory 和 EnvironmentFile
- 修改 unit 后 daemon-reload
文件、权限和句柄生命周期异常
权限不对、文件已删除但仍被进程持有、日志无限增长、fd 泄漏都会造成表象复杂的问题。
- 用 lsof +L1 查 deleted 文件
- 检查目录权限和属主
- 看 /proc/<pid>/limits
Diagnosis Path
分步诊断流程
1. 固定现场，避免追着变化状态跑
先记录故障时间、影响入口、完整错误和最近一次变更。Too many open files 文件句柄耗尽排查 这类问题经常在重启、重试或缓存刷新后短暂消失，没有现场信息会很难复盘。
- 截图或保存完整错误文本
- 记录请求域名/IP/端口/namespace/服务名
- 标出最近发布、配置、证书、镜像或依赖变更
ulimit -n
cat /proc/<pid>/limits | grep "Max open files"2. 在故障发生的同一位置复现
很多误判来自测试位置不同：本机通不代表服务器通，容器内通不代表宿主机通，集群外通也不代表 Pod 内通。复现命令要尽量贴近真实流量路径。
- 从报错服务所在机器执行测试
- 必要时加 Host、SNI、namespace 或代理参数
- 把成功路径和失败路径的输出并排比较
cat /proc/<pid>/limits | grep "Max open files"
ls /proc/<pid>/fd | wc -l
sudo lsof -p <pid> | head3. 读取服务端证据，而不是只看客户端提示
客户端报错通常是结果摘要。真正能区分根因的是服务端日志、内核日志、事件、进程状态或数据库状态。
- 从应用日志确认 Too many open files 发生的进程。
- 查看进程当前 Max open files 和已打开 fd 数量。
- 按 fd 类型区分网络连接、普通文件、pipe、deleted 文件。
ls /proc/<pid>/fd | wc -l
sudo lsof -p <pid> | head
sudo lsof -p <pid> | awk '{print $5}' | sort | uniq -c | sort -n4. 做最小修复并立即回归验证
每次只改一个变量，修复后用同一条复现命令回测，并观察日志是否停止增长。这样可以避免多个临时改动互相掩盖。
- 按 fd 类型区分网络连接、普通文件、pipe、deleted 文件。
- systemd 服务需要在 unit 里设置 LimitNOFILE 并 daemon-reload。
- 长期要定位连接/文件句柄泄漏，而不是无限调高限制。
sudo lsof -p <pid> | head
sudo lsof -p <pid> | awk '{print $5}' | sort | uniq -c | sort -nCommands
排查命令与使用意图
命令 1
用于补充“Too many open files 文件句柄耗尽排查”的排查证据链。ulimit 的输出需要结合上下文其他命令交叉验证，不要单独依赖某一条结果下结论。
ulimit -n命令 2
用于确认进程打开了哪些文件、socket 或资源限制。适合定位端口占用、deleted 文件和文件句柄耗尽。
cat /proc/<pid>/limits | grep "Max open files"命令 3
用于确认进程打开了哪些文件、socket 或资源限制。适合定位端口占用、deleted 文件和文件句柄耗尽。
ls /proc/<pid>/fd | wc -l命令 4
用于确认进程打开了哪些文件、socket 或资源限制。适合定位端口占用、deleted 文件和文件句柄耗尽。
sudo lsof -p <pid> | head命令 5
用于确认进程打开了哪些文件、socket 或资源限制。适合定位端口占用、deleted 文件和文件句柄耗尽。
sudo lsof -p <pid> | awk '{print $5}' | sort | uniq -c | sort -nRisk Notes
容易踩坑的地方
- 生产上不要在来源未确认时 rm -rf 大目录，应先确认目录用途和影响范围。
- kill 进程前先确认它属于哪个服务、是否会触发级联重启，优先使用 SIGTERM 而非 SIGKILL。
- 不要忽略 dmesg 中的 OOM Killer 记录，它往往是应用内存泄漏或配置不当的早期信号。
Verification
修复后怎么确认
- 原始故障现象已经消失，且使用同一入口重新测试 Too many open files 文件句柄耗尽 能稳定成功。
- 服务端日志不再出现同类错误，监控中的错误率、重启次数、连接数或延迟回到正常区间。
- 如果做过临时绕过，已经记录恢复计划，例如还原宽松策略、补监控、补限制或提交正式配置。
Prevention
后续预防
- 为关键服务配置日志轮转、资源限制和基础监控，避免等到用户报障才发现问题。
- 把 systemd unit、timer 和环境文件纳入版本管理，确保所有变更可追溯可回滚。
- 对清理动作保留可回滚路径，优先移动/截断/轮转，不盲删。
- 建立系统资源基线监控，一旦 CPU、内存、磁盘或文件句柄超过阈值即可自动告警。
常见问题
改了 /etc/security/limits.conf 为什么 systemd 服务没变？
systemd 服务不一定继承登录 shell 的 limits，应在 service unit 设置 LimitNOFILE。
lsof 看到很多 deleted 文件怎么办？
说明文件被删除但进程仍持有句柄，需要重启或让进程重新打开文件才能释放空间和 fd。
Long-tail SEO
你可能正在搜索这些报错
下面这些错误原文、场景词和中英文搜索词，都是排查同类问题时常见的入口。
- Too many open files
- ulimit nofile 修改
- systemd LimitNOFILE
- lsof open files count
- EMFILE too many open files
- Linux 文件句柄耗尽
- nginx too many open files
- MySQL too many open files
Need More Help
这个问题还没完全解决？
把你的报错、环境和已经尝试过的步骤发给我，后续会优先补充到排障手册。