istio/fortio

Fortio

镜像概述和主要用途

Fortio（Φορτίο）最初是Istio的负载测试工具，现已发展为独立项目，名称源自希腊语“φορτίο”（意为“负载/负担”）。它是一个快速、轻量级（3Mb Docker镜像，依赖极少）的负载测试工具，同时也是可复用、可嵌入的Go库，支持命令行模式和服务器模式，服务器端包含简单Web UI及结果可视化功能。

Fortio主要用于以指定的每秒查询数（QPS）运行负载测试，记录执行时间直方图并计算百分位数（如p99，表示99%的请求响应时间小于该值）。支持按持续时间、固定调用次数运行，或持续运行直至中断。此外，它还提供类似httpbin的服务器端调试功能，如请求回显、延迟/错误注入、TCP/UDP回显、代理等。

核心功能和特性

负载测试核心能力

• 精确QPS控制：支持设置目标QPS或最大速度模式（每个连接/线程的最大负载）
• 灵活运行模式：按持续时间（-t）、固定调用次数（-n）或持续运行直至中断
• 详细结果记录：生成延迟直方图，计算自定义百分位数（默认p50/p75/p90/p99/p99.9）
• 多协议支持：HTTP、GRPC、TCP、UDP

服务器端调试功能

• 请求回显：返回请求头、方法、路径等信息（类似httpbin）
• 延迟/错误注入：按概率分布添加响应延迟或返回指定错误码
• 网络工具：TCP/UDP回显服务、TCP代理、HTTP扇出/散射聚集代理
• GRPC支持：GRPC回显、健康检查服务

其他特性

• 轻量级：3Mb Docker镜像，极小依赖
• Web UI：直观展示单结果延迟图表及多结果对比图表（min/max/avg/QPS/百分位数）
• 可嵌入性：作为Go库集成到其他项目（日志、统计、HTTP工具等组件可独立复用）
• 稳定性：成熟稳定，无已知重大bug，问题修复响应迅速

使用场景和适用范围

主要适用场景

• API/服务负载测试：评估服务在不同QPS下的响应性能和稳定性
• 性能基准测试：建立服务响应时间、吞吐量的基准参考
• 网络调试：利用回显/代理功能诊断请求头、延迟、连接问题
• GRPC/HTTP服务测试：验证GRPC健康检查、HTTP重定向等特性
• CI/CD集成：作为自动化测试环节，验证部署后服务性能

目标用户

• 开发工程师（API性能验证）
• 测试工程师（负载测试与基准测试）
• 运维工程师（服务稳定性监控）
• SRE（性能故障排查）

安装与使用方法

安装方式

Docker（推荐）

shell
# 拉取镜像
docker pull fortio/fortio

# 启动服务器模式（含Web UI）
docker run -p 8080:8080 -p 8079:8079 fortio/fortio server

# 运行负载测试
docker run fortio/fortio load http://www.google.com

源码安装

shell
# 需Go 1.16+
go get fortio.org/fortio
# 可执行文件位于$GOPATH/bin/fortio

二进制包

从https://github.com/fortio/fortio/releases%E4%B8%8B%E8%BD%BD%E5%AF%B9%E5%BA%94%E5%B9%B3%E5%8F%B0%E7%9A%84%E4%BA%8C%E8%BF%9B%E5%88%B6%E5%8C%85%EF%BC%9A

shell
# Linux示例
curl -L https://github.com/fortio/fortio/releases/download/v1.17.0/fortio-linux_x64-1.17.0.tgz \
  | sudo tar -C / -xvzpf -

包管理器

• macOS：brew install fortio
• Windows：下载ZIP包并解压，执行fortio.exe

命令行参数说明

核心参数（负载测试）

完整参数列表

执行fortio help或查看https://github.com/fortio/fortio/wiki%E8%8E%B7%E5%8F%96%E5%85%A8%E9%83%A8%E5%8F%82%E6%95%B0%E3%80%82

基本使用示例

1. 启动服务器（含Web UI）

shell
# 默认端口（8080: HTTP服务，8079: GRPC服务）
fortio server

# 自定义HTTP端口
fortio server -http-port 10.10.10.10:8088

# Unix域套接字
fortio server --http-port /tmp/fortio-uds-http

Web UI访问地址：http://localhost:8080/fortio/

2. HTTP负载测试

shell
# 基础测试（默认8 QPS，持续5s）
fortio load http://www.google.com

# 高并发测试（100 QPS，20连接，持续1分钟）
fortio load -qps 100 -c 20 -t 1m https://api.example.com/v1/health

# POST请求（指定 payload）
fortio load -payload "test data" -content-type "application/json" https://api.example.com/v1/submit

3. TCP负载测试

shell
# 启动TCP回显服务器
fortio tcp-echo &

# 最大速度测试（10万次调用）
fortio load -qps -1 -n 100000 tcp://localhost:8078

4. UDP负载测试

shell
# 启动UDP回显服务器
fortio udp-echo &

# 最大速度测试（10万次调用）
fortio load -qps -1 -n 100000 udp://localhost:8078/

5. GRPC测试

shell
# GRPC ping测试（5次调用）
fortio grpcping -n 5 localhost:8079

# TLS加密GRPC测试
fortio grpcping -cacert /path/to/ca.crt localhost:8079

Docker部署示例

服务器模式（含Web UI）

shell
docker run -d \
  -p 8080:8080 \
  -p 8079:8079 \
  --name fortio-server \
  fortio/fortio server

访问http://localhost:8080/fortio/查看Web UI。

负载测试模式

shell
# 测试本地服务（需确保容器网络可达）
docker run --rm fortio/fortio load -qps 100 -t 30s http://host.docker.internal:8080/debug

配置参数详解

环境变量

无特殊环境变量，配置主要通过命令行参数实现。

动态标志配置

通过-config参数指定配置目录，支持动态更新部分参数（如最大延迟max-echo-delay）：

shell
fortio server -config /path/to/config-dir

结果文件管理

• 使用-a自动生成带时间戳的JSON结果（如fortio-20231001-123456.json）
• 通过fortio report命令启动报告服务器，浏览历史结果：

  shell
  fortio report -data-dir /path/to/results
  

示例输出解析

TCP负载测试输出

shell
$ fortio load -qps -1 -n 100000 tcp://localhost:8078
Fortio 1.17.0 running at -1 queries per second, 16->16 procs, for 100000 calls: tcp://localhost:8078
20:01:31 I tcprunner.go:218> Starting tcp test for tcp://localhost:8078 with 4 threads at -1.0 qps
Starting at max qps with 4 thread(s) [gomax 16] for exactly 100000 calls (25000 per thread + 0)
20:01:32 I periodic.go:558> T003 ended after 1.240585427s : 25000 calls. qps=20151.77629520873
...
Aggregated Function Time : count 100000 avg 4.9404876e-05 +/- 1.145e-05 min 2.7697e-05 max 0.000887051 sum 4.94048763
# range, mid point, percentile, count
>= 2.7697e-05 <= 0.000887051 , 0.000457374 , 100.00, 100000
# target 50% 0.00045737
# target 75% 0.00067221
# target 90% 0.000801115
# target 99% 0.000878457
# target 99.9% 0.000886192
All done 100000 calls (plus 0 warmup) 0.049 ms avg, 80495.0 qps

关键指标：

• qps：吞吐量（每秒调用数）
• avg：平均延迟（秒）
• percentiles：百分位数（如p99表示99%的请求延迟小于该值）
• sum：总执行时间

GRPC Ping测试输出

shell
$ fortio grpcping -n 5 localhost
22:36:55 I pingsrv.go:150> Ping RTT 212000 (avg of 259000, 217000, 160000 ns) clock skew -10500
...
RTT histogram usec : count 15 avg 144.73333 +/- 44.48 min 101 max 259 sum 2171
# range, mid point, percentile, count
>= 101 <= 110 , 105.5 , 26.67, 4
> 110 <= 120 , 115 , 40.00, 2
...
# target 50% 130

• RTT：往返时间（微秒）
• clock skew：时钟偏差（客户端与服务器时间差）