linux Troubleshooting
Linux 磁盘占满排查与安全清理
Linux 报 No space left on device 或磁盘占满时，用 df -hT 定位具体挂载点，du --max-depth 逐层找大目录，journalctl --disk-usage 和 docker system df 排查日志/镜像占用，lsof +L1 找已删除但仍被进程持有的文件释放空间。
先定位是哪个挂载点满了，再按日志、缓存、Docker 镜像/容器、业务文件的顺序处理。不要在不知道来源时直接 rm -rf 大目录。
Scenario
这篇文章解决什么问题
适用于“Linux 磁盘占满排查与安全清理”对应的线上或本地排障场景。不要只根据最终报错下结论，应先把问题拆成入口、链路、目标服务和资源限制几层，再用命令逐层证实。先定位是哪个挂载点满了，再按日志、缓存、Docker 镜像/容器、业务文件的顺序处理。不要在不知道来源时直接 rm -rf 大目录。
Symptoms
典型现象
- Linux 报 No space left on device 或磁盘占满时，用 df -hT 定位具体挂载点，du --max-depth 逐层找大目录，journalctl --disk-usage 和 docker system df 排查日志/镜像占用，lsof +L1 找已删除但仍被进程持有的文件释放空间。
- 相关日志、命令或页面中反复出现 linux、disk、du 等关键词。
- 同一服务在不同机器、不同入口或不同时间段表现不一致，需要通过证据链缩小范围。
Before Debugging
排查前先确认
- 先确定故障资源：CPU、内存、磁盘、网络、权限、文件句柄还是 systemd 生命周期。
- 区分当前状态和故障发生时状态，事故恢复后 free/top 可能已经看不出根因。
- 任何清理或 kill 操作前先记录 PID、命令行、日志和影响范围。
Root Causes
常见根因分层
资源耗尽或限制过低
磁盘、内存、CPU、load、文件句柄和进程数限制都会让服务表现为启动失败、连接失败或随机超时。
- 先看系统级指标，再看进程级指标
- 确认 systemd/cgroup 限制
- 保留 dmesg/journalctl 历史证据
运行环境和交互 shell 不一致
systemd 服务没有你的 shell 环境变量、工作目录和 PATH；手动能跑不代表服务单元能跑。
- ExecStart 使用绝对路径
- 设置 WorkingDirectory 和 EnvironmentFile
- 修改 unit 后 daemon-reload
文件、权限和句柄生命周期异常
权限不对、文件已删除但仍被进程持有、日志无限增长、fd 泄漏都会造成表象复杂的问题。
- 用 lsof +L1 查 deleted 文件
- 检查目录权限和属主
- 看 /proc/<pid>/limits
Diagnosis Path
分步诊断流程
1. 固定现场，避免追着变化状态跑
先记录故障时间、影响入口、完整错误和最近一次变更。Linux 磁盘占满排查与安全清理 这类问题经常在重启、重试或缓存刷新后短暂消失，没有现场信息会很难复盘。
- 截图或保存完整错误文本
- 记录请求域名/IP/端口/namespace/服务名
- 标出最近发布、配置、证书、镜像或依赖变更
df -hT
sudo du -xh / --max-depth=1 2>/dev/null | sort -h2. 在故障发生的同一位置复现
很多误判来自测试位置不同：本机通不代表服务器通，容器内通不代表宿主机通，集群外通也不代表 Pod 内通。复现命令要尽量贴近真实流量路径。
- 从报错服务所在机器执行测试
- 必要时加 Host、SNI、namespace 或代理参数
- 把成功路径和失败路径的输出并排比较
sudo du -xh / --max-depth=1 2>/dev/null | sort -h
journalctl --disk-usage
docker system df3. 读取服务端证据，而不是只看客户端提示
客户端报错通常是结果摘要。真正能区分根因的是服务端日志、内核日志、事件、进程状态或数据库状态。
- 用 df 确认具体满的是 /、/var、/home 还是单独数据盘。
- 用 du 限定在同一文件系统内逐层定位大目录。
- 检查 journald、应用日志和已删除但仍被进程占用的文件。
journalctl --disk-usage
docker system df
sudo lsof +L14. 做最小修复并立即回归验证
每次只改一个变量，修复后用同一条复现命令回测，并观察日志是否停止增长。这样可以避免多个临时改动互相掩盖。
- 检查 journald、应用日志和已删除但仍被进程占用的文件。
- 如果 Docker 占用大，先查看 docker system df，再决定是否清理未使用资源。
- 清理前确认文件是否仍被业务使用，重要数据先备份或移动。
docker system df
sudo lsof +L1Commands
排查命令与使用意图
命令 1
用于补充“Linux 磁盘占满排查与安全清理”的排查证据链。df 的输出需要结合上下文其他命令交叉验证，不要单独依赖某一条结果下结论。
df -hT命令 2
用于补充“Linux 磁盘占满排查与安全清理”的排查证据链。sudo 的输出需要结合上下文其他命令交叉验证，不要单独依赖某一条结果下结论。
sudo du -xh / --max-depth=1 2>/dev/null | sort -h命令 3
用于读取 systemd 或内核在故障时间附近记录的真实错误，比 status 摘要更完整。重点看时间、退出码、权限、路径和依赖失败。
journalctl --disk-usage命令 4
用于补充“Linux 磁盘占满排查与安全清理”的排查证据链。docker 的输出需要结合上下文其他命令交叉验证，不要单独依赖某一条结果下结论。
docker system df命令 5
用于确认进程打开了哪些文件、socket 或资源限制。适合定位端口占用、deleted 文件和文件句柄耗尽。
sudo lsof +L1Risk Notes
容易踩坑的地方
- 生产上不要在来源未确认时 rm -rf 大目录，应先确认目录用途和影响范围。
- kill 进程前先确认它属于哪个服务、是否会触发级联重启，优先使用 SIGTERM 而非 SIGKILL。
- 不要忽略 dmesg 中的 OOM Killer 记录，它往往是应用内存泄漏或配置不当的早期信号。
Verification
修复后怎么确认
- 原始故障现象已经消失，且使用同一入口重新测试 Linux 磁盘占满 能稳定成功。
- 服务端日志不再出现同类错误，监控中的错误率、重启次数、连接数或延迟回到正常区间。
- 如果做过临时绕过，已经记录恢复计划，例如还原宽松策略、补监控、补限制或提交正式配置。
Prevention
后续预防
- 为关键服务配置日志轮转、资源限制和基础监控，避免等到用户报障才发现问题。
- 把 systemd unit、timer 和环境文件纳入版本管理，确保所有变更可追溯可回滚。
- 对清理动作保留可回滚路径，优先移动/截断/轮转，不盲删。
- 建立系统资源基线监控，一旦 CPU、内存、磁盘或文件句柄超过阈值即可自动告警。
常见问题
du 看不到大文件但 df 显示满了怎么办？
常见原因是文件已删除但进程仍打开。用 lsof +L1 找到占用进程，重启或释放句柄后空间才会归还。
docker system prune 安全吗？
它会删除未使用资源，通常安全但不可无脑执行。先看 docker system df，并确认没有需要保留的停止容器或构建缓存。
Long-tail SEO
你可能正在搜索这些报错
下面这些错误原文、场景词和中英文搜索词，都是排查同类问题时常见的入口。
- Linux 磁盘满了怎么清理
- df 满了 du 找不到大文件
- lsof deleted file disk full
- journalctl 日志占满磁盘
- docker system df 磁盘占用
- No space left on device Linux
- Linux /var 磁盘满
- 安全清理 Linux 大文件
Need More Help
这个问题还没完全解决？
把你的报错、环境和已经尝试过的步骤发给我，后续会优先补充到排障手册。