Poor Paul's Benchmark のGPU推論データ（量子化 × スループット × VRAM × 同時ユーザー数）を、あらゆるLLMクライアントからクエリ可能なツールとして提供するMCPサーバーです。
ホスト済みインスタンス: https://mcp.poorpaul.dev/ (streamable-httpトランスポート、認証なし)
MCP対応クライアント（Claude Desktop、Cline、Continueなど）に接続して、以下のような質問が可能です：
「Qwen3.5-9Bを8人の同時ユーザーで実行する場合、32GB GPUに最適な量子化は何ですか？」
「RTX 5090でQ4_K_Mとしてテストされたすべてのモデルを表示して。」
「Llama-13BのQ5_K_Mは、4人の同時ユーザーで24GB GPUに収まりますか？」
30,000件以上の実際のベンチマークデータに基づいた4つのツールを提供します：
ツール | 機能 |
| テスト済みのすべてのGPU、モデル、量子化を一覧表示します（最初に呼び出してください） |
| GPU / VRAM / モデル / 量子化 / ユーザー数 / バックエンドで生のベンチマーク行をフィルタリングします |
| 3段階の経験則に基づく推奨エンジン（高 / 中 / 低の信頼度） |
| (gpu, model, quant, users) 設定のVRAMヘッドルームを健全性チェックします |
Related MCP server: atom-mcp-server
MCPクライアントの設定に追加します（Claude Desktopの例: ~/Library/Application Support/Claude/claude_desktop_config.json）：
{
"mcpServers": {
"ppb": {
"transport": { "type": "http", "url": "https://mcp.poorpaul.dev/mcp" }
}
}
}pip install してローカルで実行する (stdio)pip install ppb-mcp
MCP_TRANSPORT=stdio ppb-mcpClaude Desktopの設定：
{
"mcpServers": {
"ppb": {
"command": "ppb-mcp",
"env": { "MCP_TRANSPORT": "stdio" }
}
}
}docker run --rm -p 8000:8000 \
-e MCP_TRANSPORT=streamable-http \
-v ppb-hf-cache:/data/huggingface \
ghcr.io/paulplee/ppb-mcp:latestgit clone https://github.com/paulplee/ppb-mcp
cd ppb-mcp
pip install -e ".[dev]"
ppb-mcp # streamable-http on :8000> list_tested_configs
{ "gpus": ["Apple M4 Pro", "NVIDIA GB10", "NVIDIA GeForce RTX 5090"],
"models": ["Qwen3.5-9B", ...], "quantizations": ["Q4_K_M", ...] }
> recommend_quantization(gpu_vram_gb=32, concurrent_users=8, model="Qwen3.5-9B", priority="balance")
{ "recommended_quantization": "Q5_K_M",
"estimated_vram_usage_gb": 27.8,
"estimated_tokens_per_second": 142.0,
"headroom_gb": 4.2,
"confidence": "high",
"reasoning": "Q5_K_M is recommended for your NVIDIA GeForce RTX 5090 (32 GB) ...",
"alternatives": ["Q4_K_M", "Q8_0"] }環境変数 | デフォルト | 備考 |
|
| HuggingFaceデータセットID |
|
| バックグラウンド更新の間隔 |
|
|
|
|
| HTTPバインドホスト |
|
| HTTPバインドポート |
|
| Pythonの |
git clone https://github.com/paulplee/ppb-mcp /tmp/ppb-mcp
cd /tmp/ppb-mcp
DOMAIN=mcp.example.com EMAIL=you@example.com ./deploy/deploy.shこれにより、Dockerのインストール、イメージのビルド、systemdユニットの登録、nginxの設定、certbotの実行が行われます。
pip install -e ".[dev]"
ruff check src tests
pytest -vライブのHuggingFaceデータセットに対する統合テストは、CIをオフラインでクリーンに保つため PPB_RUN_INTEGRATION=1 で制御されています。
Tier 1 — 経験的完全一致（高信頼度）: 要求された同時実行数において、VRAM予算内またはそれ以下のGPUで3回以上測定された実行結果。
Tier 2 — 経験的近似（中信頼度）: 同じ同時実行数で別のGPUにおいてベンチマークされた同じ (model, quant)。スループットを流用し、VRAMを自身のカードに合わせてスケーリングします。
Tier 3 — 数式による外挿（低信頼度）: vram_per_user ≈ (params_B × bits_per_weight / 8) × 1.15。合計がVRAMの90%以下の場合に有効とみなします。
MIT — LICENSE を参照してください。
This server cannot be installed
Unclaimed servers have limited discoverability.
If you are the server author, to access and configure the admin panel.
Provision private AI model endpoints on dedicated GPUs (Llama, Qwen, Mistral). Pay per minute.
Live, neutral benchmarks for public RPC latency, oracles, bridges, perp DEX, and prediction markets.
AI Reasoning Cache & Consensus Layer with 11 MCP tools via Streamable HTTP.
We provide all the information about MCP servers via our MCP API.
curl -X GET 'https://glama.ai/api/mcp/v1/servers/paulplee/ppb-mcp'
If you have feedback or need assistance with the MCP directory API, please join our Discord server