Terminator0 2020-01-19
作者:布丁缘 https://www.ddkiss.com/archives/68.html
Linux 有很多运维诊断工具,有些用起来很简单,有些功能很强大用起来就有些麻烦。比如I/O等待问题,原因可能有很多种,也很难用某一种工具就能定位。特别是如何找到到底是哪个进程读写了哪个文件引起的?
最近,从监控上看总是在上午10点左右I/O负载突然就升起来了,连远程SSH都卡住。因为ECS服务器内存有限,我启用了SWAP,内存不足时不至于会崩溃,系统性能肯定有所下降。
说明:在Centos7中,top ps
等是系统自带的工具,iostat iotop lsof
等都是需要自行安装的。
最简单的是用top
命令,比如
1234 | Tasks: 102 total, 1 running, 101 sleeping, 0 stopped, 0 zombie%Cpu(s): 0.7 us, 0.2 sy, 0.0 ni, 0.2 id, 98.9 wa, 0.0 hi, 0.0 si, 0.0 stKiB Mem : 1016396 total, 62276 free, 891072 used, 63048 buff/cacheKiB Swap: 1048572 total, 804428 free, 244144 used. 8100 avail Mem |
其中wa
也就是iowait
参数所表示的,有多少比例的CPU在等待I/O
最简单的是iostat
命令,比如
12345678 | $ iostat -x 2 5avg-cpu: %user %nice %system %iowait %steal %idle 3.66 0.00 47.64 48.69 0.00 0.00Device: rrqm/s wrqm/s r/s w/s rkB/s wkB/s avgrq-sz avgqu-sz await r_await w_await svctm %utilsda 44.50 39.27 117.28 29.32 11220.94 13126.70 332.17 65.77 462.79 9.80 2274.71 7.60 111.41dm-0 0.00 0.00 83.25 9.95 10515.18 4295.29 317.84 57.01 648.54 16.73 5935.79 11.48 107.02dm-1 0.00 0.00 57.07 40.84 228.27 163.35 8.00 93.84 979.61 13.94 2329.08 10.93 107.02 |
其中-x
知指明输出更加详细的信息。2 5
表示间隔2秒统计一次总共输出5次。第一行结果是自系统启动以来的统计值,通常排查突发的I/O异常时可忽略。重点看%util
列,表示进程使用I/O的比例。
最简单的是iotop
命令,比如
1234 | Total DISK READ: 404.95 K/s | Total DISK WRITE: 9.91 M/s TID PRIO USER DISK READ DISK WRITE SWAPIN IO> COMMAND 3153 be/3 root 0.00 B/s 3.78 K/s 0.00 % 6.23 % [jbd2/sda5-8]10287 be/4 mysql 253.57 K/s 1858.24 K/s 0.00 % 3.73 % mysqld --defaults-file=/etc/my.cnf --basedir=/opt/my~--pid-file |
iotop
命令确实是一个很好用的工具,但是很多Linux发行版中默认并没有安装。如果系统里没有这个命令,又不想安装时,怎么办?有没有更简单的方式?
iotop
类型功能的ps
命令首先看下进程状态编码
12345678 | PROCESS STATE CODES D uninterruptible sleep (usually IO) R running or runnable (on run queue) S interruptible sleep (waiting for an event to complete) T stopped, either by a job control signal or because it is being traced. W paging (not valid since the 2.6.xx kernel) X dead (should never be seen) Z defunct ("zombie") process, terminated but not reaped by its parent. |
注意到,如果进程正在等待I/O,进行的状态码经常为D
。通过这个信息,我们可以大概估算出哪些进程在I/O等待中,比如
123456789101112 | [ ~]# for x in `seq 1 1 10`; do ps -eo state,pid,cmd | grep "^D"; echo "----"; sleep 5; done------------D 27456 php-fpm: pool www---------------------------- |
这里就发现进行 27456 可能有问题。但等待I/O也不一定说明它在疯狂读写磁盘。为了确定它确实读写很多,可以用/proc
目录下的信息来定位,比如
12345678 | [ ~]# cat /proc/27456/iorchar: 42857442wchar: 35657666syscr: 44932syscw: 9744read_bytes: 1530859520write_bytes: 13824000cancelled_write_bytes: 1249280 |
需要注意的是,不同的线程参考值不一样。这个得具体问题具体分析。