“Tam Quốc Diễn Nghĩa” làng Benchmark: ab, wrk và k6 – Ai mới là trùm cuối?#

Chào anh em,

Chuyện là hôm nọ mình có làm một con web game 2D sương sương để đem đi thuyết trình ở lớp. Mọi thứ đều ổn cho đến khi mình chợt nghĩ: “Nhỡ đâu lúc mình đang thao thao bất tuyệt thì 30 cái máy tính ở dưới cùng truy cập và… BÙM! Server sập?”

Hiệu ứng Demo (Demo Effect) là một cái gì đó rất tâm linh. Để ăn ngon ngủ yên, mình quyết định phải Benchmark (kiểm thử chịu tải) hệ thống.

Và thế là cuộc hành trình đi tìm “Thanh Long Đao” để chém server bắt đầu. Mình đã thử qua 3 cái tên sừng sỏ nhất: Apache Benchmark (ab), wrk, và k6. Dưới đây là bài review chân thực (và đau thương) của mình.

1. Apache Benchmark (ab) - “Cụ tổ” huyền thoại#

Đầu tiên, mình tìm đến ab. Đây là công cụ có sẵn trên hầu hết các máy macOS/Linux. Nó giống như chiếc xe đạp Phượng Hoàng của ông nội để lại: Cũ, bền, ai cũng biết đi, nhưng không đua được với bọn trẻ trâu bây giờ.

Apache Benchmark

Cài đặt trên ubuntu/debian nếu chưa có:

1
sudo apt update
2
sudo apt install apache2-utils

Cách dùng: Siêu đơn giản, gõ một dòng là chạy:

1
ab -n 1000 -c 10 <http://localhost:8080/>

Bắn 1000 request với 50 kết nối đồng thời vào server

1
❯ ab -n 1000 -c 50 http://localhost:8080/

Kết quả thu được:

1
This is ApacheBench, Version 2.3 <$Revision: 1923142 $>
2
Copyright 1996 Adam Twiss, Zeus Technology Ltd, http://www.zeustech.net/
3
Licensed to The Apache Software Foundation, http://www.apache.org/
4

5
Benchmarking localhost (be patient)
6
Completed 100 requests
7
Completed 200 requests
8
Completed 300 requests
9
Completed 400 requests
10
Completed 500 requests
11
Completed 600 requests
12
Completed 700 requests
13
Completed 800 requests
14
Completed 900 requests
15
Completed 1000 requests
16
Finished 1000 requests
17

18

19
Server Software:        nginx/1.29.4
20
Server Hostname:        localhost
21
Server Port:            8080
22

23
Document Path:          /
24
Document Length:        444 bytes
25

26
Concurrency Level:      50
27
Time taken for tests:   0.079 seconds
28
Complete requests:      1000
29
Failed requests:        0
30
Total transferred:      677000 bytes
31
HTML transferred:       444000 bytes
32
Requests per second:    12591.92 [#/sec] (mean)
33
Time per request:       3.971 [ms] (mean)
34
Time per request:       0.079 [ms] (mean, across all concurrent requests)
35
Transfer rate:          8324.93 [Kbytes/sec] received
36

37
Connection Times (ms)
38
              min  mean[+/-sd] median   max
39
Connect:        0    0   0.4      0       2
40
Processing:     0    4   1.6      3      12
41
Waiting:        0    3   1.5      3      11
42
Total:          1    4   1.6      3      12
43

44
Percentage of the requests served within a certain time (ms)
45
  50%      3
46
  66%      4
47
  75%      4
48
  80%      5
49
  90%      6
50
  95%      7
51
  98%      9
52
  99%     10
53
 100%     12 (longest request)

Cảm nhận:

Ưu điểm: Mì ăn liền. Cần check nhanh xem server còn sống hay đã “ngỏm” thì dùng ab là chuẩn bài. Không cần cài cắm lằng nhằng.
Nhược điểm:
- Yếu sinh lý: ab chỉ chạy đơn luồng (single-thread). Tức là khi mình muốn test server chịu tải cao, thì chính ông ab bị nghẽn cổ chai trước cả server.
- Lỗi thời: Không hỗ trợ tốt HTTP/2.

=> Kết luận: Dùng để “khều” nhẹ server thì được. Chứ đem đi đánh trận lớn (High concurrency) thì ab thở oxy không kịp.

2. wrk - “Kẻ hủy diệt” cục súc#

Thấy ab hơi yếu, mình chuyển sang wrk. Nếu ab là xe đạp, thì wrk chính là chiếc xe tăng húc đổ cổng dinh Độc Lập.

wrk

Sức mạnh: Thằng này chạy đa luồng (multithread), tận dụng tối đa sức mạnh CPU để spam request. Mình đã thử bắn vào con Nginx tội nghiệp của mình:

1
docker run --rm --network host williamyeh/wrk -t12 -c400 -d30s <http://localhost:8080/>

Các tham số:
- -t12: Dùng 12 threads (tùy theo CPU mà chỉnh cho phù hợp).
- -c400: Tạo 400 kết nối đồng thời (con số này càng cao thì server càng mệt).
- -d30s: Chạy trong 30 giây.

1
❯ docker run --rm --network host williamyeh/wrk -t12 -c400 -d30s http://localhost:8080/

Kết quả thu được:

1
Running 30s test @ http://localhost:8080/
2
  12 threads and 400 connections
3
  Thread Stats   Avg      Stdev     Max   +/- Stdev
4
    Latency    28.39ms   96.39ms   2.00s    98.59%
5
    Req/Sec     1.72k   382.59     9.09k    91.79%
6
  613055 requests in 30.09s, 398.73MB read
7
  Socket errors: connect 0, read 0, write 0, timeout 107
8
Requests/sec:  20374.45
9
Transfer/sec:     13.25MB

Kết quả: Nó bắn ra 20374.45 request/giây! Server mình không những không sập mà còn cười khẩy. Nhưng quan trọng là wrk cho mình cảm giác quyền lực tuyệt đối.

Ưu điểm: Nhanh, mạnh, trâu bò. Muốn test ngưỡng giới hạn (stress test) xem server chịu được bao nhiêu đòn thì phải dùng con này.
Nhược điểm:
- Output xấu: Màn hình kết quả toàn text, nhìn hoa cả mắt.
- Khó chiều: Muốn kịch bản phức tạp (ví dụ: login xong mới mua hàng) thì phải viết script bằng Lua (ngôn ngữ từ thời Napoléon). Khá khoai.

=> Kết luận: Dành cho dân hardcore thích bạo lực. Chỉ quan tâm số to, không quan tâm cảm xúc người dùng.

3. k6 - “Giáo sư” hiện đại & tinh tế#

Sau khi đã chán cảnh đấm đá túi bụi của wrk, mình tìm đến k6. Đây là tool mới nổi, được viết bởi Grafana. Nó giống như một anh chàng IT mặc suit, đeo kính, làm việc khoa học.

Sự khác biệt: Thay vì spam 1 URL như điên, k6 cho phép mình viết kịch bản bằng Javascript (chân ái của Web Dev). Mình có thể giả lập người dùng thật:

Vào trang chủ.
Nghỉ 1 giây (để đọc chữ).
Tải ảnh.
Nghỉ 2 giây.

1
import http from 'k6/http';
2
import { sleep } from 'k6';
3
export default function () {
4
  http.get('<http://localhost:8080>');
5
  sleep(1); // Người dùng thật thì phải biết nghỉ!
6
}

Ưu điểm:
- Thực tế: Giả lập được hành vi “con người” (User Journey) chứ không phải zombie.
- Đẹp: Output có màu sắc, thanh loading, biểu đồ ASCII art nhìn rất “nghệ”.
- Dễ viết: JS thì ai mà chẳng biết (hoặc ít nhất là copy paste được).
Nhược điểm: Chạy hơi tốn RAM hơn so với wrk một chút (vì nó phải tải engine JS).