0%

Linux blktrace

iostat可以获取到特定device的IO请求信息,如read/write数,合并数,request size,等待时间等。但这些都是基于device统计的,我们无法获取到基于IO的详细信息,特别是等待时间都花在哪里了?比如多少时间是在IO scheduler(device的queue)中排队,从发送到device driver到完成又是多少时间。blktrace可以提供这些信息。

blktrace简介 (1)

blktrace是block层的trace机制,它可以跟踪IO请求的生成、进入队列、发到driver以及完成等事件。blktrace包含3个组件:

  • 一个内核模块
  • 一个把内核模块跟踪到的IO信息导出到用户态的工具(blktrace命令)
  • 一些分析和展示IO信息的工具(blkparse, btt命令)

所以广义的blktrace包含这3个部分,狭义的blktrace只是blktrace命令。本文介绍广义的blktrace:包括使用blktrace命令导出IO信息,然后使用blkparse和btt分析展示。blktrace命令通过 debug file system 从内核导出数据:

  • blktrace从kernel接收数据并通过debug file system的buffer传递到用户态;debug file system默认是/sys/kernel/debug,可以使用blktrace命令的-r选项来覆盖。buffer的大小和数量默认是512KiB和4,可以通过-b-n来覆盖。blktrace运行的的时候,可以看见debug file system里有一个block/{device}(默认是/sys/kernel/debug/block/{device})目录被创建出来,里面有一些trace{cpu}文件。
  • blktrace默认地搜集所有trace到的事件,可以使用blktrace命令的-a选项来指定事件。
  • blktrace把从内核接收到的数据写到当前目录,文件名为{device}.blktrace.{cpu},内容是二进制数据(对于人来说是不可读的;blkparse用于解析这些二进制数据)。例如blktrace -d /dev/sdc会生成sdc.blktrace.0, sdc.blktrace.1, … sdc.blktrace.N-1个文件,N为cpu个数。也可使用-o选项来自定义{device}部分,这方便和blkparse结合使用:blktrace的-o参数对应blkparse的-i参数。
  • blktrace默认地会一直运行,直到被ctrl-C停掉。可以使用-w选项来指定运行时间,单位是秒。

blktrace会区分两类请求:

  • 文件系统请求(fs requests):通常是用户态进程产生的,读写disk的特定位置和特定大小的数据。当然,也有可能由内核产生:flust脏页或sync文件系统的元数据(super block或journal block等)。
  • SCSI命令(pc requests):blktrace直接把SCSI命令发送到用户态,blkparse可以解析它。

简单情况下,可以实时解析:一边导出IO事件,一边解析。

1
blktrace -d /dev/sde -o - | blkparse -i -

更常见的是事后解析:先用blktrace把trace到的IO事件导出来保存在文件中,然后使用blkparse进行解析。

1
2
blktrace -d /dev/sde
blkparse -i sde

IO流程与event (2)

一个IO可能发起于:

  • Filesystem (PageCache)
  • Application
  • remap (md/dm). 这种情况,blktrace会trace到,并为IO生成一个A(remap)事件。

IO发起之后,主要会经历以下阶段(事件):

  • Q: queued. request尚未生成,只是queue到指定的位置(不清楚)。
  • G: get request. 分配一个struct request实例,生成request。
  • I: inserted. request被发送到IO scheduler(device的queue)。
  • D: issued. IO scheduler(device的queue)中的请求被发送到driver。
  • C: complete. 发送到driver中的请求已经完成了。这个事件会描述IO的初始sector和size(位置和大小),以及是成功还是失败。

首先,Q->G之间可能有一个S(sleep)阶段:

  • S: sleep. 系统没有可用的struct request实例,所以需要等待别的实例被释放。

其次,G->I之间可能有plug/unplug阶段。为了把小请求合成大请求以提高效率,linux在struct task_struct上维护一个plug队列。在plug状态(即堵住队列出口)下,该进程的发起请求进入这个队列,以期望在此得到合并(和device的队列一样)。在unplug的时候,再把这个队列中的请求(可能是合并后的大请求)移到IO scheduler(device的queue)。因为plug队列是per-process的,所以请求入队时不需要锁。也就是说,plug/unplug机制是在per-process的队列上,进行一个merge尝试;因为无需加锁,效率更高。具体见block layer的plug和unplug

  • P: plug. plug开始。1. 进程进入plug状态后,第一个请求到来时;2. 当前plug队列长度已达到最大,flush它,然后开始新的plug时;
  • U: unplug. flush plug队列。

一个细节:这两个事件并不是per-request的,而是进程开始plug和结束plug的事件。所以,它们对于分析request的延迟等并不重要。

其次,S-G->P->U->I这一过程可能被merge取代,也就是说,请求不是作为一个独立的struct request进入IO scheduler(device的queue),而是合并到IO scheduler中的某个struct request中;在这种情况下,不用分配struct request实例。

  • M: back merge. 当前请求被合并到IO scheduler(device的queue)中的某个请求之后。
  • F: front merge. 当前请求被合并到IO scheduler(device的queue)中的某个请求之前。

下图粗略显示一个IO的流程:

左边比较详细,其中灰色的阶段(事件)可能经历也可能不经历(多数情况不经历);而红色和绿色阶段(事件)是多种可能,且最可能是绿色。按照进入IO scheduler(device的queue)方式,可以分成两个路径:

  • Q->G->I->D: 请求作为独立的request进入IO scheduler(device的queue)。这里忽略一些细节,比如请求可能没有经历G->I而是合并到plug队列;因为plug/unplug事件不是per-request的,我们不考虑plug/unplug细节,而把这个路径简化为:分配struct request,然后insert到IO scheduler(device的queue)。
  • Q->M->D:请求直接合并到一个已经存在于IO scheduler(device的queue)的request中。

右边是一个简化流程,也是典型流程:没有合并,没有可选阶段,是我们工作中最常见的情况。

使用blktrace导出原始数据 (3)

如前所述,运行blktrace可以导出内核组件trace到的IO events,并把信息写到当前目录下。常用的选项有:

  • -d: 指定被trace的device。
  • -o: 指定生成文件名{device}.blktrace.{cpu}{device}部分。不指定时,默认为形如sda,sdb的设备名。这个通常用于和blkparse配合使用:1. 实时解析:blktrace的-o选项为-,blkparse的-i选项也为-;2. 事后解析:blktrace的-o选项为x,blkparse的-i选项也必须为x(若blktrace不指定-o选项,则使用默认的形如sda的设备名,此时blkparse的-i选项也必须是形如sda的设备名)。另外,可以使用多个-d选项来同时trace多个device,在这种情况下,-o无法使用(会报错);然而,通常情况下,我们也不会同时trace多个device。
  • -a: mask,也就是让blktrace只trace指定的IO。
  • -w: 运行时间,单位是秒。若不指定,一直运行,直到被Ctrl-C停止。

支持的mask有:

1
2
3
4
5
6
7
8
9
10
11
12
barrier: barrier attribute
complete: completed by driver
fs: requests
issue: issued to driver
pc: packet command events
queue: queue operations
read: read traces
requeue: requeue operations
sync: synchronous attribute
write: write traces
notify: trace messages
drv_data: additional driver specific trace

例如,-a write过滤写事件;-a sync过滤sync事件。多个-a选项是逻辑与的关系。一般情况下,blktrace不用指定mask,而是把所有的事件都trace下来。blkparse有同样的-a选项,可以使用它来指定只解析某些事件,这可以提供更大的灵活性:trace时把全信息保存下来,然后通过mask按需解析不同事件。当然,影响性能的时候除外。所以,通常在事后处理模式下,只需-d-w选项,例如,在一个32核的服务器上trace设备/dev/sde:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
# blktrace -d /dev/sde -w 60

# ll -h
total 3.7M
-rw-r--r-- 1 root root 0 Aug 30 11:19 sde.blktrace.0
-rw-r--r-- 1 root root 472 Aug 30 11:19 sde.blktrace.1
-rw-r--r-- 1 root root 0 Aug 30 11:19 sde.blktrace.10
-rw-r--r-- 1 root root 0 Aug 30 11:19 sde.blktrace.11
...
-rw-r--r-- 1 root root 0 Aug 30 11:19 sde.blktrace.19
-rw-r--r-- 1 root root 620K Aug 30 11:19 sde.blktrace.2
-rw-r--r-- 1 root root 621K Aug 30 11:19 sde.blktrace.20
-rw-r--r-- 1 root root 472 Aug 30 11:19 sde.blktrace.21
...
-rw-r--r-- 1 root root 0 Aug 30 11:19 sde.blktrace.29
-rw-r--r-- 1 root root 360 Aug 30 11:19 sde.blktrace.3
-rw-r--r-- 1 root root 0 Aug 30 11:19 sde.blktrace.30
-rw-r--r-- 1 root root 0 Aug 30 11:19 sde.blktrace.31
-rw-r--r-- 1 root root 620K Aug 30 11:19 sde.blktrace.4
...
-rw-r--r-- 1 root root 0 Aug 30 11:19 sde.blktrace.9

使用blkparse分析数据 (4)

blktrace导出的信息是二进制的不可读的,需要blkparse来解析。

blkparse的输出包含两个部分:1. IO事件;2. summary

  • IO事件
  • 第1列:8,0是设备号,major和minor;
  • 第2列:3是cpuid;
  • 第3列:11是序列号;
  • 第4列:0.009507758是时间偏移;
  • 第5列:697是发起IO的进程的PID;
  • 第6列:C是Event,见第2节;
  • 第7列:R:Read; W:Write; D:Block; B:Barrier-Operation; S:Sync; N:Notify(比较新的内核才有,比如linux kernel 3.10);
  • 第8列:223490 + 56是IO的起始sector号和读写的sector数;即offset和size;
  • 第9列:kjournald是进程名;

其实这是默认输出格式,我们也可以通过-f选项自定义其格式(类似于date命令自定义日期时间格式):%M是major设备号;%m是minor设备号;%c表示cpuid;%s表示序列号;%T表示时间(秒);%t表示时间(纳秒);%P是进程PID;%a是事件;等等,详见man blkparse

  • Summary

Summary包括CPU和device两个维度:

其中对于每个CPU或者对于Total:

  • Writes Queued:trace时间内,Q(queue)的requests个数;
  • Writes Requeued:trace时间内,requeue数。requeue可能来自于multi-layer?
  • Write Dispatches:trace时间内,block layer发送到driver的requests数;
  • Write Merges:trace时间内,merge的requests数;
  • Writes Completed:trace时间内,完成的requests数;
  • Timer unplugs:超时导致的unplug数?

$Writes Queued$与$Writes Requeued$之和是trace时间内block layer接收的requests总数(incomming requests)。$Write Dispatches$和$Write Merges之和是trace时间内block layer发出的(到driver)requests数(outgoing requests)。进等于出,所以:

$$ Writes Queued + Writes Requeued = Write Dispatches + Write Merges $$

$Write Dispatches$是block layer发送到driver的requests数,但不是所有发送到driver的都完成了,其中有一部分被requeue了,即:

$$ Write Dispatches = Writes Completed + Writes Requeued $$

例1:把/dev/sde(设备号:8,64)整个盘格式化成ext4,挂载到/mnt并使用fio写/mnt/fio-test-file (rw=randwrite ioengine=psync bs=4k fsync=1),同时trace /dev/sde

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
# blktrace -d /dev/sde -w 60

# blkparse -i sde

......

8,64 11 2944 33.779658276 90790 Q W 7614344 + 24 [fio]
8,64 11 2945 33.779659493 90790 G W 7614344 + 24 [fio]
8,64 11 2946 33.779660124 90790 P N [fio]
8,64 11 2947 33.779661287 90790 I W 7614344 + 24 [fio]
8,64 11 2948 33.779661791 90790 U N [fio] 1
8,64 11 2949 33.779662409 90790 D W 7614344 + 24 [fio]
8,64 11 2950 33.791580458 0 C W 7614344 + 24 [0]
8,64 11 2951 33.791608964 90790 Q WS 7614368 + 8 [fio]
8,64 11 2952 33.791609940 90790 G WS 7614368 + 8 [fio]
8,64 11 2953 33.791610381 90790 P N [fio]
8,64 11 2954 33.791611867 90790 I WS 7614368 + 8 [fio]
8,64 11 2955 33.791612372 90790 U N [fio] 1
8,64 11 2956 33.791612977 90790 D WS 7614368 + 8 [fio]
8,64 11 2957 33.799933777 0 C WS 7614368 + 8 [0]
8,64 13 5709 33.799963426 90708 Q WS 3905206216 + 8 [jbd2/sde-8]
8,64 13 5710 33.799964662 90708 G WS 3905206216 + 8 [jbd2/sde-8]
8,64 13 5711 33.799965100 90708 P N [jbd2/sde-8]
8,64 13 5712 33.799965942 90708 Q WS 3905206224 + 8 [jbd2/sde-8]
8,64 13 5713 33.799966423 90708 M WS 3905206224 + 8 [jbd2/sde-8]
8,64 13 5714 33.799967148 90708 Q WS 3905206232 + 8 [jbd2/sde-8]

......

CPU8 (sde):
Reads Queued: 0, 0KiB Writes Queued: 195, 29,228KiB
Read Dispatches: 0, 0KiB Write Dispatches: 170, 29,228KiB
Reads Requeued: 0 Writes Requeued: 0
Reads Completed: 0, 0KiB Writes Completed: 170, 29,228KiB
Read Merges: 0, 0KiB Write Merges: 25, 100KiB
Read depth: 0 Write depth: 20
IO unplugs: 104 Timer unplugs: 0
CPU9 (sde):
Reads Queued: 0, 0KiB Writes Queued: 991, 16,156KiB
Read Dispatches: 0, 0KiB Write Dispatches: 574, 16,156KiB
Reads Requeued: 0 Writes Requeued: 0
Reads Completed: 0, 0KiB Writes Completed: 574, 16,156KiB
Read Merges: 0, 0KiB Write Merges: 417, 1,668KiB
Read depth: 0 Write depth: 20
IO unplugs: 346 Timer unplugs: 0
......
Total (sde):
Reads Queued: 0, 0KiB Writes Queued: 8,763, 352,192KiB
Read Dispatches: 0, 0KiB Write Dispatches: 5,380, 352,192KiB
Reads Requeued: 0 Writes Requeued: 0
Reads Completed: 0, 0KiB Writes Completed: 5,380, 352,196KiB
Read Merges: 0, 0KiB Write Merges: 3,383, 13,532KiB
IO unplugs: 3,092 Timer unplugs: 0

Throughput (R/W): 0KiB/s / 5,872KiB/s
Events (sde): 39,850 entries
Skips: 0 forward (0 - 0.0%)

我们尝试把一个特定request的事件给找出来(grep一个特定的起始sector号,而不是grep一个序列号):

1
2
3
4
5
6
# blkparse -i sde | grep -w 7614368
8,64 11 2951 33.791608964 90790 Q WS 7614368 + 8 [fio]
8,64 11 2952 33.791609940 90790 G WS 7614368 + 8 [fio]
8,64 11 2954 33.791611867 90790 I WS 7614368 + 8 [fio]
8,64 11 2956 33.791612977 90790 D WS 7614368 + 8 [fio]
8,64 11 2957 33.799933777 0 C WS 7614368 + 8 [0]

这是一个Write+Sync请求,起始sector是7614368,大小是8个secotr(即4k)。它是一个典型的request:经历了Q->G->I->D-C几个阶段,总耗时:33.799933777-33.791608964 = 8324813纳秒 = 8.3毫秒。

Summary部分的Total(sde):

  • $$ Incomming Requests = Writes Queued + Writes Requeued = 8763 + 0 = 8763 $$
  • $$ Outgoing Requests = Write Dispatches + Write Merges = 5380 + 3383 = 8763 $$

另外,可以看到各个read指标都为0,因为fio全是写操作且大小和文件系统block对齐。可以对比还是全写操作但bs=5k(不再和文件系统block对齐)的情形,这时候read指标就不为0了,因为不对齐,文件系统需要把部分修改的block读出来,修改然后再写回去。

例2:把/dev/sde(设备号:8,64)分区并把/dev/sde2(设备号:8,66)格式化成ext4,挂载到/mnt并使用fio写/mnt/fio-test-file (rw=randwrite ioengine=psync bs=4k fsync=1),同时还是trace /dev/sde:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
# blktrace -d /dev/sde -w 60
# blkparse -i sde

8,64 14 1000 21.217022761 96519 D WS 5857775072 + 8 [jbd2/sde2-8]
8,64 14 1001 21.225342198 0 C WS 5857775072 + 8 [0]
8,64 20 1160 21.225404128 98523 A WS 3927579616 + 8 <- (8,66) 20560864
8,64 20 1161 21.225405121 98523 Q WS 3927579616 + 8 [fio]
8,64 20 1162 21.225407092 98523 G WS 3927579616 + 8 [fio]
8,64 20 1163 21.225407687 98523 P N [fio]
8,64 20 1164 21.225409225 98523 I WS 3927579616 + 8 [fio]
8,64 20 1165 21.225410004 98523 U N [fio] 1
8,64 20 1166 21.225411107 98523 D WS 3927579616 + 8 [fio]
8,64 0 1176 21.238455782 0 C WS 3927579616 + 8 [0]
8,64 14 1002 21.238482169 96519 A WS 5857775080 + 8 <- (8,66) 1950756328
8,64 14 1003 21.238482610 96519 Q WS 5857775080 + 8 [jbd2/sde2-8]
8,64 14 1004 21.238483773 96519 G WS 5857775080 + 8 [jbd2/sde2-8]

......

Total (sde):
Reads Queued: 0, 0KiB Writes Queued: 7,558, 339,096KiB
Read Dispatches: 0, 0KiB Write Dispatches: 5,707, 339,096KiB
Reads Requeued: 0 Writes Requeued: 0
Reads Completed: 0, 0KiB Writes Completed: 5,707, 339,096KiB
Read Merges: 0, 0KiB Write Merges: 1,851, 7,404KiB
IO unplugs: 3,402 Timer unplugs: 0

# blkparse -i sde | grep -w 3927579616
8,64 20 1160 21.225404128 98523 A WS 3927579616 + 8 <- (8,66) 20560864
8,64 20 1161 21.225405121 98523 Q WS 3927579616 + 8 [fio]
8,64 20 1162 21.225407092 98523 G WS 3927579616 + 8 [fio]
8,64 20 1164 21.225409225 98523 I WS 3927579616 + 8 [fio]
8,64 20 1166 21.225411107 98523 D WS 3927579616 + 8 [fio]
8,64 0 1176 21.238455782 0 C WS 3927579616 + 8 [0]

看起始位置为3927579616的request,和例1中的request相比,这个request多了一个A事件,因为这个IO是从/dev/sde2(设备号:8,66)remap到/dev/sde(设备号:8,64)的。总耗时21.238455782-21.225404128 = 13051654纳秒 = 13.05毫秒。

例3:基于例2的数据,我们找一个merge的请求:

1
2
3
4
5
6
7
8
9
# blkparse -i sde | grep -w M
......
8,64 13 4434 59.194332313 96519 M WS 5857801440 + 8 [jbd2/sde2-8]
......

# blkparse -i sde | grep -w 5857801440
8,64 13 4432 59.194331558 96519 A WS 5857801440 + 8 <- (8,66) 1950782688
8,64 13 4433 59.194331878 96519 Q WS 5857801440 + 8 [jbd2/sde2-8]
8,64 13 4434 59.194332313 96519 M WS 5857801440 + 8 [jbd2/sde2-8]

这个请求从remap到queued,然后再merge到一个已存在的请求中,之后便追踪不到了:因为它是其他某个请求的一部分,而不是一个独立的请求。假如知道它被merge到哪个请求了,去追踪那个请求,就能知道后续各个阶段。另外注意,被合并的情况下,没有get request (G)阶段,而直接被合并了(参考第2节结尾的IO流程图)。

通过这三个例子我们可以看出,blktrace可以追踪到一个特定request的各个阶段,及各个阶段的耗时。但这太详细了,我们无法逐一查看各个request。这时btt命令就派上用场了,它可以生成报表。blkparse还有一个功能:把blktrace生成的{device}.blktrace.{cpu}一堆文件dump成一个二进制文件,输出到-d指定的文件中(忽略标准输出)。这个功能正好方便btt的使用。

1
2
3
# blkparse -i sde -d sde.blktrace.bin
# ls sde.blktrace.bin
sde.blktrace.bin

使用btt生成报表 (5)

阶段定义 (5.1)

我们再用一个图来表示各阶段的时延:

其中各个阶段的定义如下:

  • Q2Q: time between requests sent to the block layer
  • Q2G: time from a block I/O is queued to the time it gets a request allocated for it
  • G2I: time from a request is allocated to the time it is Inserted into the device’s queue
  • Q2M: time from a block I/O is queued to the time it gets merged with an existing request
  • I2D: time from a request is inserted into the device’s queue to the time it is actually issued to the device
  • M2D: time from a block I/O is merged with an exiting request until the request is issued to the device
  • D2C: service time of the request by the device
  • Q2C: total time spent in the block layer for a request

注意以下几点:

  • Q2Q是表示两个reqeusts之间的间隔;而其他都是表示一个request的各个阶段的间隔。
  • 和第2节中的IO的流程图一致,分为两个路径:上面绿色Q->G->I->D表示一个典型request(没有被merge的request)特有的阶段;下面红色为Q->M->D表示一个被merge的request特有的阶段;黄色部分表示公共阶段。
  • Q2G一般比较小,若它比较大,说明分配不到struct request,中途经历了S(sleep)阶段。

btt的默认输出 (5.2)

以第2节中例2的数据为例,btt最简单的使用方式如下:

1
2
3
4
5
6
7
8
9
10
11
12
13
# btt -i sde.blktrace.bin -o bttout
# ll
total 2388
-rw-r--r-- 1 root root 362 Sep 2 22:06 8,64_iops_fp.dat
-rw-r--r-- 1 root root 710 Sep 2 22:06 8,64_mbps_fp.dat
-rw-r--r-- 1 root root 3468 Sep 2 22:06 bttout.avg
-rw-r--r-- 1 root root 17023 Sep 2 22:06 bttout.dat
-rw-r--r-- 1 root root 7220 Sep 2 22:06 bttout_dhist.dat
-rw-r--r-- 1 root root 0 Sep 2 22:06 bttout.msg
-rw-r--r-- 1 root root 7236 Sep 2 22:06 bttout_qhist.dat
-rw-r--r-- 1 root root 2387128 Sep 2 22:06 sde.blktrace.bin
-rw-r--r-- 1 root root 362 Sep 2 22:06 sys_iops_fp.dat
-rw-r--r-- 1 root root 710 Sep 2 22:06 sys_mbps_fp.dat

btt的输入-i是blkparse生成(dump)的二进制文件(见第4节),默认输出包括:

  • 标准输出:很多信息,下面细说。
  • {major,minor设备号}_iops_fp.dat:包含两列,第一列为时间(以秒为单位,从第0秒开始);第二列为IOPS;
  • {major,minor设备号}_mbps_fp.dat:包含两列,第一列为时间(以秒为单位,从第0秒开始);第二列为带宽,即MB/s;
  • sys_iops_fp.dat:只trace一个设备的时候,和{major,minor设备号}_iops_fp.dat一样(两个文件的MD5相同)。
  • sys_mbps_fp.dat:只trace一个设备的时候,和{major,minor设备号}_mbps_fp.dat一样(两个文件的MD5相同)

其中标准输出很多,把屏幕搞的很乱,看不清主要信息。为此,我们加一个-o bttout选项,这时屏幕上就没有任何信息,但生成以下四个文件:

  • bttout.avg

这个输出文件最重要,里面包含各种统计信息,我们逐一解读(数据来自于第2节中的例2):

1
2
3
4
5
6
7
8
9
10
11
12
13
==================== All Devices ====================

ALL MIN AVG MAX N
--------------- ------------- ------------- ------------- -----------

Q2Q 0.000000915 0.007937919 0.103788139 7557
Q2G 0.000000410 0.000001214 0.000030594 5707
G2I 0.000000278 0.000001805 0.000033501 5707
Q2M 0.000000164 0.000000498 0.000014527 1851
I2D 0.000000308 0.000001078 0.000002753 5707
M2D 0.000001169 0.000002162 0.000032612 1851
D2C 0.001751673 0.013116498 0.103759327 7557
Q2C 0.001753524 0.013120242 0.103761266 7557

这部分显示了各个阶段的最小、平均及最大耗时,单位是秒。阶段的定义见第5.1节,不细说。这里着重看最后一列,它显示了各个事件发生的次数数(一个request经历多个事件/阶段)。参考第2节的IO流程图和第5.1节的阶段图,我们知道一个request:

  • 要么作为独立的请求进入device driver,经历路径:Q->G->I->D
  • 要么被合并到另一个request,经历路径:Q->M->D

所以,我们得知:

  • $ N(Q2G) = N(G2I) = N(I2D) $是经历Q->G->I->D的request个数;
  • $ N(Q2M) = N(M2D) $是经历Q->M->D的request的个数;
  • $ N(D2C) = N(Q2C) $是request总个数;

并且:

$$ N(Q2G) + N(Q2M) = N(D2C) $$

代入上面的数据,可验证。这部分数据和blkparse输出的summary是一致的,见第4节的例2。

1
2
3
4
5
6
7
==================== Device Overhead ====================

DEV | Q2G G2I Q2M I2D D2C
---------- | --------- --------- --------- --------- ---------
( 8, 64) | 0.0070% 0.0104% 0.0009% 0.0062% 99.9715%
---------- | --------- --------- --------- --------- ---------
Overall | 0.0070% 0.0104% 0.0009% 0.0062% 99.9715%

这部分显示了几个重要阶段在总耗时中的占比。Overall是所有被trace的设备的总体情况,我们只trace了一个设备(major,minor设备号为8,64),所以Overall这一行和(8, 64)这一行一样。通过这些数据,我发现占比的计算不只是 阶段耗时除以Q2C(总耗时),而且考虑到个数的加权,其公式是这样的:

$$ \frac{AvgStage * N_1}{AvgQ2C * N_2} $$

例如:

$$ \frac{AvgD2C * 7557}{AvgQ2C * 7557} = \frac{0.013116498 * 7557}{0.013120242 * 7557} = 99.9715% $$
$$ \frac{AvgI2D * 5707}{AvgQ2C * 7557} = \frac{0.000001078 * 5707}{0.013120242 * 7557} = 0.0062% $$
$$ \frac{AvgQ2M * 1851}{AvgQ2C * 7557} = \frac{0.000000498 * 1851}{0.013120242 * 7557} = 0.0009% $$

某个占比小,一方面可能是这个阶段耗时少,另一方面可能是经历这个路径的request少。也就是说,占比小并不一定意味着这个阶段耗时少,也可能表示经历这个路径的request数少。当然,由于经历D->C的requests数和经历Q->C的request数一样,所以,D2C占比反映的就是D2C阶段的耗时

1
2
3
4
5
==================== Device Merge Information ====================

DEV | #Q #D Ratio | BLKmin BLKavg BLKmax Total
---------- | -------- -------- ------- | -------- -------- -------- --------
( 8, 64) | 7558 5707 1.3 | 8 118 1024 678184

这部分主要用于显示merge率。#Q是block层接到的incoming requests数;#D是最后发到driver的outgoing requests数,它们的差值就是merge数。Ratio是它们的比率,即:

$$ Ratio = \frac{N_Q}{N_D} $$

可见Ratio越大,表明merge越多,可期的效率越高,性能(吞吐量)越好。

右边的BLKminBLKavgBLKmax分别表示:合并之后发送到driver的最小、平均和最大request size,单位是sector。在本例中,由于配置了/sys/block/sde/queue/max_sectors_kb=512,所以最大request size是512KiB,即1024 sectors。平均是118 sectors(59 KiB);最小8 sectors(4 KiB)。

Total是trace期间总共传输的数据量,以sector为单位。本例中678184 sectors(339092 KiB)。这和blkparse输出的summary也是一致的,看第4节中的例2,blkparse的summary部分显示:Writes QueuedWrite DispatchesWrites Completed是339096 KiB,基本一致。

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
==================== Device Q2Q Seek Information ====================

DEV | NSEEKS MEAN MEDIAN | MODE
---------- | --------------- --------------- --------------- | ---------------
( 8, 64) | 7558 894100249.2 0 | 0(3937)
---------- | --------------- --------------- --------------- | ---------------
Overall | NSEEKS MEAN MEDIAN | MODE
Average | 7558 894100249.2 0 | 0(3937)


==================== Device D2D Seek Information ====================

DEV | NSEEKS MEAN MEDIAN | MODE
---------- | --------------- --------------- --------------- | ---------------
( 8, 64) | 5707 1184091411.0 0 | 0(2086)
---------- | --------------- --------------- --------------- | ---------------
Overall | NSEEKS MEAN MEDIAN | MODE
Average | 5707 1184091411.0 0 | 0(2086)

这部分是seek距离的统计。默认情况下,seek距离是按”closeness”方式统计的,即当前IO和前一个IO的seek距离是:min{当前IO的起点和前一个IO的终点的距离,当前IO的终点和前一个IO的起点的距离}。可以使用btt的-a(–seek-absolute)选项改变这个方式,即改成绝对seek距离:前一个IO的终点和当前IO的起点的距离。

1
2
3
4
5
6
7
8
9
10
11
12
==================== Plug Information ====================

DEV | # Plugs # Timer Us | % Time Q Plugged
---------- | ---------- ---------- | ----------------
( 8, 64) | 3402( 0) | 0.014552920%

DEV | IOs/Unp IOs/Unp(to)
---------- | ---------- ----------
( 8, 64) | 1.0 0.0
---------- | ---------- ----------
Overall | IOs/Unp IOs/Unp(to)
Average | 1.0 0.0
1
2
3
4
5
==================== Active Requests At Q Information ====================

DEV | Avg Reqs @ Q
---------- | -------------
( 8, 64) | 0.2
1
2
3
4
5
6
7
==================== I/O Active Period Information ====================

DEV | # Live Avg. Act Avg. !Act % Live
---------- | ---------- ------------- ------------- ------
( 8, 64) | 4925 0.012143126 0.000036958 99.70
---------- | ---------- ------------- ------------- ------
Total Sys | 4925 0.012143126 0.000036958 99.70
  • bttout.dat

此文件是一些debug信息。

  • bttout_dhist.dat
1
2
3
4
5
6
7
8
9
10
11
12
# D buckets
1 0
2 0
3 0
4 0
......
1022 0
1023 0
1024 608

# D bucket for > 1024
1024 0
  • bttout.msg

此文件为空。

  • bttout_qhist.dat
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
# BTT histogram data
# Q buckets
1 0
2 0
3 0
4 0
5 0

......

1020 0
1021 0
1022 0
1023 0
1024 608

# Q bucket for > 1024
1024 0
写的不错,有赏!