Skip to main content
Glama
pipsyncio

PipSync MCP Evals

Official
by pipsyncio

PipSync MCP Evals

トレーディング向けツール設計のための、公開された安全性評価と、実行を伴わないMCPモックを提供します。

このリポジトリは、次の3つの境界をモデル化しています。

  • 読み取り専用の合成シグナル一覧;

  • 決定論的で、実行不可能なペーパープレビュー;

  • 公開モックが常にブロックする、ライブ対応の確認 スキーマ。

モックには、ネットワーククライアント、APIキーローダー、認証情報ストア、ブローカーアダプター、注文発注の実装は一切含まれていません。

評価を実行する

PYTHONPATH=src python -m pipsync_mcp_evals.evals
PYTHONPATH=src python -m unittest discover -s tests -v

Related MCP server: ShadowRun

stdioモックを実行する

PYTHONPATH=src python -m pipsync_mcp_evals.server

1行につき1つのJSON-RPCメッセージを受け取り、モダンでステートレスなMCP 2026-07-28サーフェース(server/discover、tools/list、tools/call)を実装しています。すべてのリクエストは、params._meta 内に io.modelcontextprotocol/protocolVersion と io.modelcontextprotocol/clientCapabilities を含める必要があります。成功するすべての結果には、resultType とサーバーを識別するメタデータが含まれます。従来の initialize は、明示的な移行ヒントと、サポートされているプロトコルバージョンとともに拒否されます。

評価が強制する内容

  • すべてのツールに明示的なMCP注釈があります。

  • ツールの入力スキーマは未知のフィールドを拒否します。

  • 確認(confirmation)は、読み取り専用ではなく、破壊的操作として分類されます。

  • 確認には、account、preview、confirmation、idempotency、risk-hash の各フィールドが必要です。

  • 確認データが不足している場合は、フェイルクローズで失敗します。

  • 構造的に完全な確認であっても、mock_server_no_execution を返します。

  • プレビュー出力は決定論的であり、実行不可能であることが明示されています。

  • リクエストのメタデータが欠落している場合や、未サポートのプロトコルバージョンは、現在のMCPエラーコントラクトに従って失敗します。

注釈はヒントであり、認可境界ではありません。実際に書き込みが可能なサーバーは、ブローカーへのすべての呼び出しの前に、認証済みテナント/アカウントの所有権、権限、ユーザーの権限、最新のブローカー状態、リスクゲート、明示的なライブモード、冪等性、監査、そして人間による確認を独立して強制する必要があります。

このカタログは、MCP 2026-07-28 ツールコントラクト と、その ステートレスディスカバリコントラクト を対象としています。

ライセンス

Apache-2.0.

Related MCP Connectors

Related MCP Servers

  • A
    license
    B
    quality
    C
    maintenance
    Enables deterministic security testing of AI agents that use tools by serving synthetic MCP environments with poisoned data, fake secrets, and privileged actions. Records agent tool calls and evaluates security invariants (e.g., canary leaks, forbidden access, approval binding) without an LLM judge or real systems.
    8
    MIT
  • A
    license
    Not graded
    quality
    B
    maintenance
    A local-first stdio proxy for MCP servers that traps destructive tool calls and holds them for manual commit or discard, preventing accidental mutations.
    AGPL 3.0
  • A
    license
    A
    quality
    C
    maintenance
    Enables MCP-compatible assistants to research prediction markets on Polymarket and Kalshi, analyze public wallets, read market signals, and run paper-only trading simulations.
    10
    19 npm
    MIT
  • A
    license
    Not graded
    quality
    A
    maintenance
    Provides a safe paper-trading twin of the Binance Agent OS MCP API so agents can be rehearsed, scored, gated for go-live, and shadow-compared against live calls without using real funds.
    MIT