llm-api-benchmark
Installation
SKILL.md
LLM API Benchmark
LLM API 端点性能测试工具,支持两种测试模式:
- Agent 模式:测试真实工作负载响应时间(推荐用于相对性能对比)
- HTTP 模式:精确测量 TTFT/TPS 指标(使用 Python 脚本直接调用 API)
Quick Start
Agent 模式(推荐)
第一步:确认测试方案
使用 AskUserQuestion 工具确认:
question: "📊 LLM API Benchmark 测试方案