Poor Paul's Benchmark GPU 추론 데이터(양자화 × 처리량 × VRAM × 동시 사용자 수)를 모든 LLM 클라이언트가 쿼리 가능한 도구로 제공하는 MCP 서버입니다.
호스팅된 인스턴스: https://mcp.poorpaul.dev/ (streamable-http 전송, 인증 없음)
MCP를 지원하는 모든 클라이언트(Claude Desktop, Cline, Continue 등)를 연결하여 다음과 같은 질문을 할 수 있습니다:
"8명의 동시 사용자가 Qwen3.5-9B를 실행하는 32GB GPU에 가장 적합한 양자화는 무엇인가요?"
"RTX 5090에서 Q4_K_M으로 테스트된 모든 모델을 보여주세요."
"4명의 동시 사용자가 있는 24GB GPU에서 Llama-13B를 Q5_K_M으로 실행할 수 있을까요?"
30,000개 이상의 실제 벤치마크 행을 기반으로 하는 4가지 도구를 제공합니다:
도구 | 기능 |
| 테스트된 모든 GPU, 모델 및 양자화 목록을 나열합니다 (가장 먼저 호출하세요) |
| GPU / VRAM / 모델 / 양자화 / 사용자 수 / 백엔드별로 원시 벤치마크 행을 필터링합니다 |
| 3단계 경험적 우선 추천 엔진 (높음 / 중간 / 낮음 신뢰도) |
| VRAM 여유 공간을 위해 (gpu, 모델, 양자화, 사용자 수) 구성을 검증합니다 |
Related MCP server: atom-mcp-server
MCP 클라이언트 설정에 추가하세요 (Claude Desktop 예시, ~/Library/Application Support/Claude/claude_desktop_config.json):
{
"mcpServers": {
"ppb": {
"transport": { "type": "http", "url": "https://mcp.poorpaul.dev/mcp" }
}
}
}pip install 및 로컬 실행 (stdio)pip install ppb-mcp
MCP_TRANSPORT=stdio ppb-mcpClaude Desktop 설정:
{
"mcpServers": {
"ppb": {
"command": "ppb-mcp",
"env": { "MCP_TRANSPORT": "stdio" }
}
}
}docker run --rm -p 8000:8000 \
-e MCP_TRANSPORT=streamable-http \
-v ppb-hf-cache:/data/huggingface \
ghcr.io/paulplee/ppb-mcp:latestgit clone https://github.com/paulplee/ppb-mcp
cd ppb-mcp
pip install -e ".[dev]"
ppb-mcp # streamable-http on :8000> list_tested_configs
{ "gpus": ["Apple M4 Pro", "NVIDIA GB10", "NVIDIA GeForce RTX 5090"],
"models": ["Qwen3.5-9B", ...], "quantizations": ["Q4_K_M", ...] }
> recommend_quantization(gpu_vram_gb=32, concurrent_users=8, model="Qwen3.5-9B", priority="balance")
{ "recommended_quantization": "Q5_K_M",
"estimated_vram_usage_gb": 27.8,
"estimated_tokens_per_second": 142.0,
"headroom_gb": 4.2,
"confidence": "high",
"reasoning": "Q5_K_M is recommended for your NVIDIA GeForce RTX 5090 (32 GB) ...",
"alternatives": ["Q4_K_M", "Q8_0"] }환경 변수 | 기본값 | 참고 |
|
| HuggingFace 데이터셋 ID |
|
| 백그라운드 새로고침 주기 |
|
|
|
|
| HTTP 바인드 호스트 |
|
| HTTP 바인드 포트 |
|
| Python |
git clone https://github.com/paulplee/ppb-mcp /tmp/ppb-mcp
cd /tmp/ppb-mcp
DOMAIN=mcp.example.com EMAIL=you@example.com ./deploy/deploy.sh이 스크립트는 Docker를 설치하고, 이미지를 빌드하며, systemd 유닛을 등록하고, nginx를 구성하며, certbot을 실행합니다.
pip install -e ".[dev]"
ruff check src tests
pytest -v실제 HuggingFace 데이터셋에 대한 통합 테스트는 CI를 오프라인 상태로 유지하기 위해 PPB_RUN_INTEGRATION=1로 제한되어 있습니다.
1단계 — 경험적 정확 일치 (높은 신뢰도). 요청된 동시성에서 VRAM 예산 이하의 GPU에서 측정된 3회 이상의 실행 결과.
2단계 — 경험적 근사치 (중간). 동일한 동시성에서 다른 GPU로 벤치마크된 동일한 (model, quant) 결과; 처리량은 차용하고 VRAM은 사용자의 카드에 맞게 조정됨.
3단계 — 공식 외삽 (낮음). vram_per_user ≈ (params_B × bits_per_weight / 8) × 1.15; 총합이 VRAM의 90% 이하일 경우에만 실행 가능.
MIT — LICENSE를 참조하세요.
This server cannot be deployed
GPU and LLM inference benchmarks, hardware evidence, deployment recommendations, and launch configs.
Compare LLM API prices, search models and providers, and access reviewed benchmark results.
Source-backed AI model pricing, rankings, history, and benchmark data.
Live cloud GPU prices, observed stock and 12-month price history across 30+ providers (H100, H200, A100, RTX 5090 and more), refreshed hourly. Read-only. Needs a GPU Finder API key sent as "Authorization: Bearer <key>"; free key with 60 data calls a month at https://gpufinder.dev/developers. Listing tools and get_usage are free.
