CPU负载观察及调优方法-白红宇

CPU负载观察及调优方法

阅读量：7192 次

发布时间：2019-06-29

本文共 9809 字，大约阅读时间需要 32 分钟。

http://bbs.chinaunix.net/thread-1936302-1-1.html

CPU负载观察及调优方法：

I1,D1(两类一级缓存：一级指令和一级数据缓存)

I2,D2都是cpu独有的，三级缓存可以共享

SMP对称多处理机(SymmetricalMulti-Processing):

多个cpu,访问同一个内存（三个时钟周期：联系内存控制器，寻址，完成读写）；但是随着cpu个数增加，效率不行

NUMA非一致性内存访问(Non Uniform Memory Access Architecture)：

每一个CPU与自己的专用内存

CPU affinity: CPU绑定，防止交叉访问

只有在红帽6以上才能有全的命令：numastat，numactl，numad，numa只是在硬件级别跟我们的cpu进行绑定

在非NUMA架构下绑定：

taskset: 绑定进程至某CPU上

mask:0x0000 0003

0011：0和1

0x0000 0005:

0101: 0和2

# taskset -p mask pid

taskset -p 0x00000003 101

taskset -p -c 0-2,7 101 类似nginx绑定

为了绑定后不进行切换：隔离

/etc/grub.conf

isolcpus=cpu number,…,cpu number

应该将中断绑定至那些非隔离的CPU上，从而避免那些隔离的CPU处理中断程序；

echo CPU_MASK > /proc/irq/<irq number>/smp_affinity 将中断绑定在cpu哪些核上

如：假如我们CPU有16核，我们将中断绑定在0,1上

echo 0x00000011 > /proc/irq/<irq number>/smp_affinity

vmstat:

vmstat命令是最常见的Linux/Unix监控工具，可以展现给定时间间隔的服务器的状态值,包括服务器的CPU使用率，内存使用，虚拟内存交换情况,IO读写情况。这个命令是我查看Linux/Unix最喜爱的命令，一个是Linux/Unix都支持，二是相比top，我可以看到整个机器的CPU,内存,IO的使用情况，而不是单单看到各个进程的CPU使用率和内存使用率(使用场景不一样)。

一般vmstat工具的使用是通过两个数字参数来完成的，第一个参数是采样的时间间隔数，单位是秒，第二个参数是采样的次数，如:

root@ubuntu:~# vmstat 2 1

procs -----------memory---------- ---swap-- -----io---- -system-- ----cpu----

r b swpd free buff cache si so bi bo in cs us sy id wa

1 0 0 3498472 315836 3819540 0 0 0 1 2 0 0 0 100 0

2表示每个两秒采集一次服务器状态，1表示只采集一次。

实际上，在应用过程中，我们会在一段时间内一直监控，不想监控直接结束vmstat就行了,例如:

复制代码

root@ubuntu:~# vmstat 2

procs -----------memory---------- ---swap-- -----io---- -system-- ----cpu----

r b swpd free buff cache si so bi bo in cs us sy id wa

1 0 0 3499840 315836 3819660 0 0 0 1 2 0 0 0 100 0

Load average: average length of run queues

sar -q

top

uptime

vmstat 1 5

CPU utilization

mpstat 1 2

sar -P ALL 1 2

iostat -c 1 2

/proc/stat

dstat -c

复制代码

这表示vmstat每2秒采集数据，一直采集，直到我结束程序，这里采集了5次数据我就结束了程序。

r 表示运行队列(就是说多少个进程真的分配到CPU)，我测试的服务器目前CPU比较空闲，没什么程序在跑，当这个值超过了CPU数目，就会出现CPU瓶颈了。这个也和top的负载有关系，一般负载超过了3就比较高，超过了5就高，超过了10就不正常了，服务器的状态很危险。top的负载类似每秒的运行队列。如果运行队列过大，表示你的CPU很繁忙，一般会造成CPU使用率很高。

b 表示阻塞的进程,这个不多说，进程阻塞，大家懂的。

swpd 虚拟内存已使用的大小，如果大于0，表示你的机器物理内存不足了，如果不是程序内存泄露的原因，那么你该升级内存了或者把耗内存的任务迁移到其他机器。

free 空闲的物理内存的大小，我的机器内存总共8G，剩余3415M。

buff Linux/Unix系统是用来存储，目录里面有什么内容，权限等的缓存，我本机大概占用300多M

cache cache直接用来记忆我们打开的文件,给文件做缓冲，我本机大概占用300多M(这里是Linux/Unix的聪明之处，把空闲的物理内存的一部分拿来做文件和目录的缓存，是为了提高程序执行的性能，当程序使用内存时，buffer/cached会很快地被使用。)

si 每秒从磁盘读入虚拟内存的大小，如果这个值大于0，表示物理内存不够用或者内存泄露了，要查找耗内存进程解决掉。我的机器内存充裕，一切正常。

so 每秒虚拟内存写入磁盘的大小，如果这个值大于0，同上。

bi 块设备每秒接收的块数量，这里的块设备是指系统上所有的磁盘和其他块设备，默认块大小是1024byte，我本机上没什么IO操作，所以一直是0，但是我曾在处理拷贝大量数据(2-3T)的机器上看过可以达到140000/s，磁盘写入速度差不多140M每秒

bo 块设备每秒发送的块数量，例如我们读取文件，bo就要大于0。bi和bo一般都要接近0，不然就是IO过于频繁，需要调整。

in 每秒CPU的中断次数，包括时间中断

cs 每秒上下文切换次数，例如我们调用系统函数，就要进行上下文切换，线程的切换，也要进程上下文切换，这个值要越小越好，太大了，要考虑调低线程或者进程的数目,例如在apache和nginx这种web服务器中，我们一般做性能测试时会进行几千并发甚至几万并发的测试，选择web服务器的进程可以由进程或者线程的峰值一直下调，压测，直到cs到一个比较小的值，这个进程和线程数就是比较合适的值了。系统调用也是，每次调用系统函数，我们的代码就会进入内核空间，导致上下文切换，这个是很耗资源，也要尽量避免频繁调用系统函数。上下文切换次数过多表示你的CPU大部分浪费在上下文切换，导致CPU干正经事的时间少了，CPU没有充分利用，是不可取的。

us 用户CPU时间，我曾经在一个做加密解密很频繁的服务器上，可以看到us接近100,r运行队列达到80(机器在做压力测试，性能表现不佳)。

sy 系统CPU时间，如果太高，表示系统调用时间长，例如是IO操作频繁。

id 空闲 CPU时间，一般来说，id + us + sy = 100,一般我认为id是空闲CPU使用率，us是用户CPU使用率，sy是系统CPU使用率。

wt 等待IO CPU时间。
sar:

http://blog.chinaunix.net/uid-23177306-id-2531032.html

默认监控: sar 5 5 // CPU和IOWAIT统计状态

http://blog.csdn.net/colin_liu2009/article/details/6862910

(1) sar -P ALL 5 5 // 每颗CPU的使用状态信息和IOWAIT统计状态

(2) sar -q 5 5 // 队列的长度（等待运行的进程数）和负载的状态

top:

第一行是任务队列信息，同 uptime 命令的执行结果。其内容如下：

top - 01:06:48 up 1:22, 1 user, load average: 0.06, 0.60, 0.48

01:06:48 当前时间

up 1:22 系统运行时间，格式为时:分

1 user 当前登录用户数

load average: 0.06, 0.60, 0.48 系统负载，即任务队列的平均长度。三个数值分别为 1分钟、5分钟、15分钟前到现在的平均值。

Tasks: 29 total, 1 running, 28 sleeping, 0 stopped, 0 zombie

Cpu(s): 0.3% us, 1.0% sy, 0.0% ni, 98.7% id, 0.0% wa, 0.0% hi, 0.0% si

第二、三行为进程和CPU的信息。当有多个CPU时，这些内容可能会超过两行。内容如下：

Tasks: 29 total 进程总数

1 running 正在运行的进程数

28 sleeping 睡眠的进程数

0 stopped 停止的进程数

0 zombie 僵尸进程数

Cpu(s): 0.3% us 用户空间占用CPU百分比

1.0% sy 内核空间占用CPU百分比

0.0% ni 用户进程空间内改变过优先级的进程占用CPU百分比

98.7% id 空闲CPU百分比

0.0% wa 等待输入输出的CPU时间百分比

0.0% hi

0.0% si

Mem: 191272k total, 173656k used, 17616k free, 22052k buffers

Swap: 192772k total, 0k used, 192772k free, 123988k cached

最后两行为内存信息。内容如下：

Mem: 191272k total 物理内存总量

173656k used 使用的物理内存总量

17616k free 空闲内存总量

22052k buffers 用作内核缓存的内存量

Swap: 192772k total 交换区总量

0k used 使用的交换区总量

192772k free 空闲交换区总量

123988k cached 缓冲的交换区总量。

PID USER PR NI VIRT RES SHR S %CPU %MEM TIME+ COMMAND

TTY 启动进程的终端名。不是从终端启动的进程则显示为 ?

PR 优先级

NI nice值。负值表示高优先级，正值表示低优先级

VIRT 进程使用的虚拟内存总量，单位kb。VIRT=SWAP+RES

TIME+ 进程使用的CPU时间总计

RES 进程使用的、未被换出的物理内存大小

SHR 共享内存大小

uptime同top第一行信息
w:

w命令的显示项目按以下顺序排列：当前时间，系统启动到现在的时间，登录用户的数目，系统在最近1秒、5秒和15秒的平均负载。

然后是每个用户的各项数据，项目显示顺序如下：登录帐号、终端名称、远程主机名、登录时间、空闲时间、JCPU、

PCPU、当前正在运行进程的命令行。

$ w

　　2:50pm up 2 min， 4 users， load average:0.22，0.16，0.06

　　USER TTY FROM LOGIN@ IDLE JCPU PCPU WHAT

　　root tty1 2:49pm 0:00s 0.56s 0.10s w

　　foxy tty2 2:49pm 1:09 0.42s 0.42s bash

　　root tty3 2:49pm 46.00s 0.67s 0.25s telnet bbs3

　　bbs ttyp0 river.net 2:49pm 45.00s 0.49s 0.49s bbs h river.net

mpstat

另一个用于获取 CPU 相关统计信息的有用的命令是 mpstat。下面是一个示例输出：

# mpstat -P ALL 5 2

Linux 2.6.9-67.ELsmp (oraclerac1) 12/20/2008

10:42:38 PM CPU %user %nice %system %iowait %irq %soft %idle intr/s

10:42:43 PM all 6.89 0.00 44.76 0.10 0.10 0.10 48.05 1121.60

10:42:43 PM 0 9.20 0.00 49.00 0.00 0.00 0.20 41.60 413.00

10:42:43 PM 1 4.60 0.00 40.60 0.00 0.20 0.20 54.60 708.40

10:42:43 PM CPU %user %nice %system %iowait %irq %soft %idle intr/s

10:42:48 PM all 7.60 0.00 45.30 0.30 0.00 0.10 46.70 1195.01

10:42:48 PM 0 4.19 0.00 2.20 0.40 0.00 0.00 93.21 1034.53

10:42:48 PM 1 10.78 0.00 88.22 0.40 0.00 0.00 0.20 160.48

Average: CPU %user %nice %system %iowait %irq %soft %idle intr/s

Average: all 7.25 0.00 45.03 0.20 0.05 0.10 47.38 1158.34

Average: 0 6.69 0.00 25.57 0.20 0.00 0.10 67.43 724.08

Average: 1 7.69 0.00 64.44 0.20 0.10 0.10 27.37 434.17

它显示了系统中 CPU 的各种统计信息。–P ALL 选项指示该命令显示所有 CPU 的统计信息，

而不只是特定 CPU 的统计信息。参数 5 2 指示该命令每隔 5 秒运行一次，共运行 2 次。

以上输出首先显示了所有 CPU 的合计指标，然后显示了每个 CPU 各自的指标。

最后，在结尾处显示所有 CPU 的平均值。

让我们看一看这些列值的含义：

%user 表示处理用户进程所使用 CPU 的百分比。

%nice 表示使用 nice 命令对进程进行降级时 CPU 的百分比。在之前的部分中已经对 nice 命令进行了介绍。简单来说，nice 命令更改进程的优先级。

%system 表示内核进程使用的 CPU 百分比

%iowait 表示等待进行 I/O 所使用的 CPU 时间百分比

%irq 表示用于处理系统中断的 CPU 百分比

%soft 表示用于软件中断的 CPU 百分比

%idle 显示 CPU 的空闲时间

%intr/s 显示每秒 CPU 接收的中断总数

当您拥有前面所述的 vmstat 时，您可能想知道 mpstat 命令的作用。差别很大：mpstat 可以显示每个处理器的统计，

而 vmstat 显示所有处理器的统计。因此，编写糟糕的应用程序（不使用多线程体系结构）可能会运行在一个多处理器机器上，

而不使用所有处理器。从而导致一个 CPU 过载，而其他 CPU 却很空闲。通过 mpstat 可以轻松诊断这些类型的问题。

iostat:

-c 仅显示CPU统计信息.与-d选项互斥.

-d 仅显示磁盘统计信息.与-c选项互斥.

# iostat

Linux 2.6.9-8.11.EVAL (ts3-150.ts.cn.tlan) 08/08/2007

avg-cpu: %user %nice %sys %iowait %idle

12.01 0.00 2.15 2.30 83.54

Device: tps Blk_read/s Blk_wrtn/s Blk_read Blk_wrtn

hda 7.13 200.12 34.73 640119 111076

各个输出项目的含义如下:

avg-cpu段:

%user: 在用户级别运行所使用的CPU的百分比.

%nice: nice操作所使用的CPU的百分比.

%sys: 在系统级别(kernel)运行所使用CPU的百分比.

%iowait: CPU等待硬件I/O时,所占用CPU百分比.

%idle: CPU空闲时间的百分比.

Device段:

tps: 每秒钟发送到的I/O请求数.

Blk_read /s: 每秒读取的block数.

Blk_wrtn/s: 每秒写入的block数.

Blk_read: 读入的block总数.

Blk_wrtn: 写入的block总数.

/proc/stat

在Linux系统中，可以用/proc/stat文件来计算cpu的利用率。这个文件包含了所有CPU活动的信息，

该文件中的所有值都是从系统启动开始累计到当前时刻。

cat /proc/stat

cpu 65376847 362756 2405159 10834971593 3765180 93399 2395097 0

cpu0 7680302 5263 111909 1355640955 47680 0 185343 0

cpu1 6527638 2261 327795 1356540189 249151 1 24242 0

cpu2 6239465 47114 200809 1354709532 2153662 3610 317002 0

cpu3 7009912 36126 257576 1356116663 162851 1068 87068 0

cpu4 6028713 1692 197911 1356919175 300788 6821 216076 0

cpu5 7110575 1479 124474 1356297947 92620 4248 39901 0

cpu6 7206763 241427 247384 1355030525 691206 11642 242214 0

cpu7 17573475 27390 937298 1343716603 67218 66006 1283248 0

intr 2466653411 753885765 3 0 4 4 0 0 0 1 0 0 0 4 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 52 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 148466005 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 1553671397 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 10630155 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 21 0 0 0 0 0

ctxt 2905526438

btime 1260187150

processes 4266007

procs_running 5

procs_blocked 0

输出解释

CPU 以及CPU0、CPU1、CPU2、CPU3、CPU4、CPU5、CPU6、每行的每个参数意思（以第一行为例）为：

user (65376847) 从系统启动开始累计到当前时刻，用户态的CPU时间（单位：jiffies），不包含 nice值为负进程。1jiffies=0.01秒

nice (362756) 从系统启动开始累计到当前时刻，nice值为负的进程所占用的CPU时间（单位：jiffies）

system (2405159) 从系统启动开始累计到当前时刻，核心时间（单位：jiffies）

idle (10834971593) 从系统启动开始累计到当前时刻，除硬盘IO等待时间以外其它等待时间（单位：jiffies）

iowait (3765180) 从系统启动开始累计到当前时刻，硬盘IO等待时间（单位：jiffies），