JIT-Tool-Synthese v4

LLM-gestützte On-Demand-Tool-Generierung mit Human-in-the-Loop-Genehmigung und sicherer Ausführung.

Übersicht

Dieses System generiert TypeScript-Tools dynamisch mithilfe eines LLM, erfordert eine menschliche Genehmigung vor der Ausführung und führt sie in einer Sandbox-Umgebung aus.

Related MCP server: Code Mode MCP Server

Architektur

┌─────────────┐     ┌──────────────┐     ┌─────────────┐
│ Synthesizer │────▶│   Approval   │────▶│  Sandbox    │
│   (LLM)     │     │ (Human Gate) │     │ (Execution) │
└─────────────┘     └──────────────┘     └─────────────┘
       │                   │                    │
       ▼                   ▼                    ▼
  Generates TS        Waits for            Runs in
  tool code          human approval       isolated env

Komponenten

Provider-agnostisch

Dieses Tool funktioniert mit jedem OpenAI-kompatiblen LLM-API:

• OpenRouter — 100+ Modelle (Claude, GPT, Llama, etc.)

• OpenAI — GPT-4o, o3, etc.

• Ollama — Lokale Modelle (Llama, Qwen, etc.)

• LM Studio — Lokale Modelle mit GUI

• Groq — Schnelle Inferenz

• Jede andere OpenAI-kompatible API

Einrichtung

# Install dependencies
npm install

# Copy environment template
cp .env.example .env

Konfigurieren Sie Ihren LLM-Provider

Bearbeiten Sie die .env mit Ihren Provider-Details:

# Option 1: OpenRouter (default - 100+ models)
LLM_API_KEY=your-openrouter-key
LLM_BASE_URL=https://openrouter.ai/api/v1
LLM_MODEL=anthropic/claude-sonnet-4-6

# Option 2: OpenAI direct
LLM_API_KEY=sk-...
LLM_BASE_URL=https://api.openai.com/v1
LLM_MODEL=gpt-5.4

# Option 3: Ollama (local)
LLM_BASE_URL=http://localhost:11434/v1
LLM_MODEL=llama-3.3

# Option 4: Groq
LLM_API_KEY=gsk_...
LLM_BASE_URL=https://api.groq.com/openai/v1
LLM_MODEL=llama-3.3-70b-versatile

Verwendung

Build

npm run build

Test mit MCP Inspector

Der schnellste Weg, um zu überprüfen, ob alles funktioniert:

npx @modelcontextprotocol/inspector node dist/server.js

Verbindung zu MCP-Clients

Dieser Server funktioniert mit jedem MCP-Client. Beispiel-Konfigurationen:

Claude Desktop — zu Ihren Claude Desktop MCP-Einstellungen hinzufügen:

{
  "mcpServers": {
    "jit-tool-synthesis": {
      "command": "node",
      "args": ["/absolute/path/to/jit-tool-synthesis/dist/server.js"],
      "env": {
        "LLM_API_KEY": "your-api-key",
        "LLM_BASE_URL": "https://openrouter.ai/api/v1",
        "LLM_MODEL": "anthropic/claude-sonnet-4-6"
      }
    }
  }
}

Claude Code:

claude mcp add jit-tools node /absolute/path/to/jit-tool-synthesis/dist/server.js

VS Code (Copilot):

code --add-mcp '{"name":"jit-tools","type":"stdio","command":"node","args":["/absolute/path/to/jit-tool-synthesis/dist/server.js"]}'

Cursor — zu .cursor/mcp.json hinzufügen:

{
  "mcpServers": {
    "jit-tools": {
      "command": "node",
      "args": ["/absolute/path/to/jit-tool-synthesis/dist/server.js"],
      "env": { "LLM_API_KEY": "your-api-key" }
    }
  }
}

Laufzeit-Konfiguration

Sie können den LLM-Provider ändern, ohne neu zu starten:

# View current config
get_config

# Change model at runtime
set_config model=openai/gpt-5.4

MCP-Tools

Workflow

1. Anfrage — Benutzer fragt nach einem Tool (z. B. "Erstelle einen Farbumwandler")

2. Synthese — LLM generiert Tool-Code

3. Test — Validierung mit Beispielparametern vor der Übernahme

4. Genehmigung — Mensch überprüft und genehmigt den Code

5. Ausführung — Tool läuft in einer Sandbox-Umgebung

6. Speicherung — Genehmigte Tools bleiben über Sitzungen hinweg erhalten

Umgebungsvariablen

Ebenfalls unterstützt (Legacy): OPENROUTER_API_KEY, OPENAI_API_KEY, OPENAI_BASE_URL, SYNTHESIZER_MODEL

Sicherheit

• Generierter Code läuft in einer isolierten VM-Sandbox

• Blockierte Muster verhindern gefährlichen Code (process, require, eval, etc.)

• API-Schlüssel werden nicht in der Konfigurationsdatei gespeichert

Status

Produktionsbereit — Phase 1 abgeschlossen.