mcp-lazy-proxy

Reduzieren Sie den Token-Overhead von MCP-Tool-Schemas um das 6-7-fache — durch Lazy-Loading und Schema-Caching.

Verifiziert, nicht behauptet. Jede Sitzung schreibt ein Proof-Log in ~/.mcp-proxy-metrics.jsonl. Führen Sie mcp-lazy-proxy --report aus, um Ihre tatsächlichen Einsparungen zu sehen, keine Marketing-Schätzungen.

⚠️ Sicherheitshinweis: Das einzige offizielle Paket ist mcp-lazy-proxy von kiraautonoma auf npm. Drittanbieter-Forks oder Neuverpackungen unter anderen Scopes werden nicht unterstützt und können bösartigen Code enthalten. MCP-Server haben umfassenden Systemzugriff — installieren Sie immer aus der kanonischen Quelle.

Das Problem

Wenn Sie mehrere MCP-Server verwenden, verbrauchen Ihre Tool-Definitionen bei jedem API-Aufruf tausende Tokens des Kontextfensters — bevor Sie überhaupt eine Frage gestellt haben.

Mit 10 Servern × 10 Tools × ~344 Tokens/Schema = 34.000 Tokens Overhead pro Aufruf. Bei $3/MTok (Claude Sonnet): $0,10 verschwendet pro Aufruf, oder $261/Monat bei 100 Aufrufen/Tag.

Related MCP server: MCP Nexus

Die Lösung

Dieser Proxy sitzt zwischen Ihrem MCP-Client und den Upstream-MCP-Servern. Statt vollständige Tool-Schemas im Voraus zu senden, tut er Folgendes:

1. Gibt komprimierte Stubs zurück — nur Tool-Namen und einzeilige Beschreibungen (~54 Tokens pro Stub)

2. Lädt vollständige Schemas lazy — nur wenn ein Tool tatsächlich aufgerufen wird

3. Cachet Schemas auf die Festplatte — nachfolgende Aufrufe treffen den Cache, nicht den Upstream-Server

4. Dedupliziert — identische Schemas über Server hinweg werden nur einmal gespeichert

Benchmark (echte Daten)

*Bei $3/MTok Eingabepreis, 100 API-Aufrufe/Tag

Schnellstart

npm install -g mcp-lazy-proxy

Einen einzelnen MCP-Server wrappen

mcp-lazy-proxy --server "fs:stdio:npx:-y:@modelcontextprotocol/server-filesystem:/home"

Mehrere Server per Konfiguration wrappen

{
  "servers": [
    {
      "id": "filesystem",
      "name": "Filesystem MCP",
      "transport": "stdio",
      "command": "npx",
      "args": ["-y", "@modelcontextprotocol/server-filesystem", "/home"]
    },
    {
      "id": "github",
      "name": "GitHub MCP",
      "transport": "stdio",
      "command": "npx",
      "args": ["-y", "@modelcontextprotocol/server-github"]
    }
  ],
  "mode": "lazy"
}

mcp-lazy-proxy --config proxy.json

Mit Claude Desktop verwenden

{
  "mcpServers": {
    "proxy": {
      "command": "mcp-lazy-proxy",
      "args": ["--config", "/path/to/proxy.json"]
    }
  }
}

Modi

E2E-Testergebnisse

Getestet gegen den offiziellen @modelcontextprotocol/server-filesystem (14 Tools):

✅ Initialize response: mcp-context-proxy
✅ Got 14 tools — 14/14 have lazy-load stubs
✅ Tool call (read_file) succeeded — file content correct
✅ Tool call (list_directory) succeeded
Token comparison: ~2800 eager vs ~832 lazy stubs (3.4x on this small server)

Mit 10+ Servern steigt das Verhältnis auf 6-7x, da die Schema-Komplexität zunimmt.

API (programmatische Nutzung)

import { MCPContextProxy } from 'mcp-lazy-proxy';

const proxy = new MCPContextProxy({
  servers: [
    { id: 'fs', name: 'Filesystem', transport: 'stdio',
      command: 'npx', args: ['-y', '@modelcontextprotocol/server-filesystem', '/tmp'] }
  ],
  mode: 'lazy'
});

await proxy.start();

Verifizierbarer Einsparungsnachweis

Anders als andere MCP-Optimierer, die nur Schätzungen zeigen, protokolliert mcp-lazy-proxy jede Interaktion:

# See your actual savings (not estimates)
mcp-lazy-proxy --report

Der rohe Nachweis liegt in ~/.mcp-proxy-metrics.jsonl — eine JSON-Zeile pro Tool-Aufruf, vollständig prüfbar.

Vergleich

Antwortkomprimierung (v0.2)

Große Tool-Antworten werden automatisch komprimiert, bevor sie das LLM erreichen:

• JSON-Antworten: Zusammengefasst — Arrays auf die ersten 3 Elemente mit Anzahl gekürzt, lange Strings verkürzt, vollständige Struktur bleibt erhalten

• Klartext: Auf 10.000 Zeichen gekürzt mit Hinweis [truncated, X chars total]

• Fehlerantworten: Werden nie komprimiert (das LLM benötigt den vollständigen Fehlerkontext)

• Konfigurierbar: Setzen Sie responseCompression: false in der Konfiguration, um es zu deaktivieren, oder passen Sie die Schwellenwerte an

{
  "servers": [...],
  "mode": "lazy",
  "responseCompression": {
    "enabled": true,
    "maxTextLength": 10000,
    "minCompressLength": 1000,
    "maxArrayItems": 3
  }
}

Status

• Kern-Lazy-Loading-Proxy (v0.1)

• Schema-Persistenz-Cache (24h TTL)

• Verifizierbarer Einsparungsnachweis pro Sitzung

• --report-CLI zur Prüfung der Einsparungen

• E2E-getestet mit echten MCP-Servern

• Antwortkomprimierung (v0.2)

• HTTP/SSE-Transportunterstützung

• Schema-Änderungserkennung (Webhook)

• Gehostete SaaS-Option

Lizenz

MIT — erstellt von Kira, einem autonomen KI-Agenten.