SHAP MCP Server (shap-mcp)

Ein leichtgewichtiger, fokussierter Model Context Protocol (MCP)-Server, der SHAP (SHapley Additive exPlanations) Modell-Erklärbarkeit als agentenaufrufbare Tools bereitstellt.

Entwickelt für KI-Assistenten (wie Claude Desktop) und menschliche Data Scientists, um nahtlos über eine gemeinsame In-Memory-Sitzung zusammenzuarbeiten.

Hauptfunktionen

• Duale gleichzeitige Transports: Standard-stdio-Transport für Claude Desktop neben einem Starlette-HTTP-Transport auf Port 8765, der die Web-GUI und generierte Visualisierungen bereitstellt.

• Einheitliche In-Memory-Sitzung: Analysen über die Web-GUI ausführen und Fragen in Claude stellen, oder Claude die Analyse auslösen lassen und generierte Plots sofort in der GUI-Galerie ansehen.

• Universelle Modellunterstützung:

  • tree: Exakter TreeExplainer für XGBoost, LightGBM, CatBoost, RandomForest, ExtraTrees.

  • linear: Schneller LinearExplainer in geschlossener Form für Logistische Regression, Ridge, Lasso.

  • deep: DeepExplainer für PyTorch-neuronale Netze.

  • kernel: Modellunabhängiger KernelExplainer mit automatischem kmeans-Clustering.

• Publikationsreife Visualisierungen: Generieren und Speichern von 6 Plot-Typen (summary, bar, waterfall, force, dependence, heatmap) mit vorformatierten klickbaren Browser- und lokalen Dateilinks.

• URL- und Datei-Ingestion: Modelle und CSV-Datensätze aus lokalen Pfaden oder öffentlichen HTTP/HTTPS-URLs mit Streaming-Downloads, automatischen Größenbegrenzungen (SHAP_MCP_MAX_DOWNLOAD_MB) und Bereinigung temporärer Dateien aufnehmen.

• Sicherheit: Optionale API-Key-Authentifizierung über SHAP_MCP_API_KEY für HTTP-Endpunkte.

Related MCP server: my-mcp-server2

Installation

# Standard installation
pip install shap-mcp

# Optional extra for PyTorch DeepExplainer support
pip install shap-mcp[deep]

Claude-Desktop-Konfiguration

Fügen Sie shap-mcp zu Ihrer claude_desktop_config.json hinzu:

Universelles empfohlenes Setup (über uvx)

{
  "mcpServers": {
    "shap-mcp": {
      "command": "uvx",
      "args": ["shap-mcp", "--no-ui"]
    }
  }
}

Direkte Pip-/Pipx-Einrichtung

{
  "mcpServers": {
    "shap-mcp": {
      "command": "shap-mcp",
      "args": ["--no-ui"]
    }
  }
}

Tool-Referenz

Laufzeitkonfiguration

Die gesamte Laufzeitkonfiguration wird über Umgebungsvariablen verwaltet:

Web-GUI

Wenn der Server direkt über shap-mcp gestartet wird, öffnet er automatisch die Web-GUI unter http://localhost:8765/ui/:

• Konfigurationsformular: Lokale Pfade oder URLs eingeben, Modellarchitektur wählen und Analyse ausführen.

• Echtzeit-Badges: Live-Status des geladenen Modells, Anzahl analysierter Zeilen und aktiver Explainer-Typ.

• Dynamische Plot-Galerie: Thumbnails erscheinen automatisch, wenn Claude oder die GUI Visualisierungen generiert.

• Instanz-Explainer: Interaktive Tabelle der individuellen Feature-Beiträge.

Geplante Funktionen & Roadmap

Die folgenden Funktionen sind für kommende Releases geplant:

• save_analysis / load_analysis: Berechnete SHAP-Werte in .npz-Dateien serialisieren, um die Neuberechnung beim erneuten Laden zu überspringen und Ergebnisse teamweit zu teilen.

• Auth-geschützte Remote-Ingestion: Unterstützung für Hugging-Face-Tokens, private S3/GCS-Buckets und presignierte URLs.

• Tabbed-GUI & progressive Offenlegung: Die Web-GUI in übersichtliche, fokussierte Tabs umgestalten, die sich mit fortschreitender Analyse schrittweise freischalten.

• Interaktive Visualisierungen: Schwenken, Zoomen und Tooltip-Hover-Unterstützung auf matplotlib-Diagrammen über mpld3.

• Plotspezifische geführte Prompts: Dedizierte MCP-Prompts, die auf jeden der 6 Visualisierungstypen zugeschnitten sind.

• Multi-Tenant-Sitzungsisolierung: Verbindungsisolierte Sitzungszustände für gemeinsame Multi-User-Serverbereitungen.

• Zusätzliche Modellformate: Native Unterstützung für ONNX-Runtime, MLflow-Modelle und Weights-&-Biases-Modellregister.

• Fairness- und Bias-Disaggregation: Demografische Parität pro Untergruppe und slice-basierte SHAP-Analyse.

• MCP-UI-Inline-Canvas und lokales Drag-and-Drop: Direktes In-Chat-Canvas-Rendering über die MCP-UI-/MCP-Apps-Spezifikation mit lokaler Drag-and-Drop-Datei-Ingestion, wodurch externe Browser-Tabs und Cloud-Anhang-Reibung entfallen.

Lizenz

MIT-Lizenz. Siehe LICENSE für Details.