istio/fortio.echosrv

Fortio

Fortio（Φορτίο）最初是 Istio 的负载测试工具，现已发展为独立项目，也被 Meshery 等项目采用。它能以指定的每秒查询数（QPS）运行，记录执行时间直方图并计算百分位数（如 p99），可运行指定时长、固定调用次数或直至中断。名称源自希腊语“φορτίο”，意为“负载/负担”。

核心功能与特性

• 多协议支持：支持 HTTP、gRPC、TCP、UDP 等多种协议的负载测试。
• 性能指标：记录执行时间直方图，计算 50%、75%、90%、99%、99.9% 等自定义百分位数。
• 轻量高效：Docker 镜像仅 3Mb，依赖少，可作为 CLI 工具、服务器进程或嵌入式 Go 库使用。
• Web UI 与图形化：服务器端包含简单 Web UI，可图形化展示单结果延迟图和多结果对比图（最小、最大、平均、QPS 及百分位数）。
• 服务器端调试功能：提供类似 httpbin 的功能，包括请求回显（含 headers）、按概率分布添加延迟或错误码、TCP 回显/代理、HTTP 扇出/散射聚集代理服务器、gRPC 回显/健康检查等。

使用场景与适用范围

• 服务性能测试：评估 HTTP、gRPC、TCP、UDP 服务在不同负载下的响应时间、吞吐量和稳定性。
• 性能基准测试：建立服务性能基准，监控性能变化。
• 服务调试：利用内置的请求回显、延迟注入等功能调试服务行为。
• CI/CD 集成：作为自动化测试的一部分，在部署前验证服务性能。

安装与部署

Docker 部署

启动 Fortio 服务器

shell
docker run -p 8080:8080 -p 8079:8079 fortio/fortio server &

此命令启动 Fortio 服务器，映射 HTTP 端口 8080 和 gRPC 端口 8079，可通过 http://localhost:8080/fortio/ 访问 Web UI。

运行负载测试

shell
docker run fortio/fortio load http://www.google.com/

对指定目标（如 http://www.google.com/）执行负载测试。

其他安装方式

• Go 安装：

  shell
  go get fortio.org/fortio
  

• 二进制下载：从 https://github.com/fortio/fortio/releases 下载对应平台的二进制文件。

• macOS（Homebrew）：

  shell
  brew install fortio
  

• Windows：下载 ZIP 包并解压，在命令提示符中运行 fortio.exe server。

命令行参数

常用 HTTP 负载测试参数

完整参数列表

运行 fortio help 查看所有命令和参数，包括 gRPC、TCP、UDP 测试相关参数。

使用示例

启动内部服务器

shell
fortio server &
# 输出示例：
# 14:11:05 I fortio_main.go:171> 未使用动态标志监控（使用 -config 设置监控目录）
# Fortio 1.17.0 tcp-echo server listening on [::]:8078
# Fortio 1.17.0 grpc 'ping' server listening on [::]:8079
# Fortio 1.17.0 https redirector server listening on [::]:8081
# Fortio 1.17.0 echo server listening on [::]:8080
# Data directory is /Users/ldemailly/go/src/fortio.org/fortio
# UI started - visit: http://localhost:8080/fortio/

修改端口/绑定地址

shell
fortio server -http-port 10.10.10.10:8088

将 HTTP 服务器绑定到 10.10.10.10:8088。

Unix 域套接字

shell
# 启动 HTTP 服务器监听 Unix 域套接字
fortio server --http-port /tmp/fortio-uds-http &

# 通过 Unix 域套接字访问
fortio curl -unix-socket=/tmp/fortio-uds-http http://foo.bar/debug

TCP 负载测试

shell
# 启动 TCP 回显服务器
fortio tcp-echo &

# 对 TCP 服务器执行最大 QPS 负载测试（100000 次调用）
fortio load -qps -1 -n 100000 tcp://localhost:8078

UDP 负载测试

shell
# 启动 UDP 回显服务器
fortio udp-echo &

# 对 UDP 服务器执行最大 QPS 负载测试（100000 次调用）
fortio load -qps -1 -n 100000 udp://localhost:8078/

gRPC 测试

简单 gRPC Ping

shell
fortio grpcping -n 5 localhost

向本地 gRPC 服务器发送 5 次 Ping 请求。

使用 TLS 的 gRPC Ping

shell
# 启动带 TLS 的 Fortio 服务器
fortio server -cert /path/to/server.crt -key /path/to/server.key

# 使用 CA 证书连接
fortio grpcping -cacert /path/to/ca.crt localhost

简单 HTTP 负载测试

shell
fortio load http://www.google.com

以默认 QPS（8）和持续时间（5s）测试 http://www.google.com。

结果解读

负载测试结果包含以下关键指标：

• QPS：每秒完成的请求数，反映吞吐量。
• 延迟直方图：展示不同延迟区间的请求占比。
• 百分位数（p50/p75/p90/p99 等）：如 p99 表示 99% 的请求延迟小于该值，反映服务的长尾延迟。
• 错误率：请求失败的比例，评估服务稳定性。

例如，测试输出中可能包含：

Ended after 5.059691387s : 40 calls. qps=7.9056
Aggregated Function Time : count 40 avg 0.060587641 +/- 0.006564 min 0.052549016 max 0.089893269 sum 2.42350566
# target 50% 0.0605556
# target 75% 0.065
# target 90% 0.075
# target 99% 0.0849466

表示 40 次调用，QPS 约 7.9，平均延迟 0.06s，p99 延迟 0.0849s。