Skip to main content
Glama

LocalForge ⚒️

Model Context Protocol (MCP)-Brücke für hybrides agentisches Codieren – Delegation tokenintensiver Implementierung an lokale Open-Source-Modelle.
Architekt in der Cloud. Lokal implementieren. Sparen Sie 80–90 % Premium-API-Tokens.

MCP Compatible License: MIT Node.js Built by ADIS


💡 Das Problem & die Lösung

In traditionellen agentischen Coding-Setups führen Frontier-Modelle (OpenAI Codex, Claude 3.7 Sonnet / Opus) jeden Schritt des Workflows aus: vom Abstract-Level-Reasoning über das Lesen tausender Repository-Zeilen, das Ausführen von Test-Suiten bis hin zur Behebung von Compiler-Fehlern.

Das ist extrem und ineffizient:

  • Über 80 % der gesamten Tokens werden in repetitiven, mechanischen Schleifen verbraucht (Dateisuche, Syntax-Fixes, Unit-Test-Iterationen).

  • Proprietärer Quellcode-Kontext wird wiederholt an externe Cloud-APIs gestreamt.

LocalForge löst das mit Hybrid Agentic Coding:

  1. Frontier-Modell (Cloud): Agiert als Architect und Reviewer (hohe Intelligenz, geringes Token-Volumen).

  2. LocalForge (MCP-Grenzschicht): Verschickt strukturierte, begrenzte Aufgabenspezifikationen und verwaltet lokale Code-Sandboxes.

  3. Lokales Open-Source-Modell (Local LLM): Führt hohe tokenintensive Implementierungs-, Änderungs- und Test-Debug-Schleifen lokal aus, ohne zusätzliche API-Kosten.

  4. Frontier-Review: Das Cloud-Modell kontrolliert nur den kompakten Diff, die Logs und die Zusammenfassung, um die Korrektheit zu überprüfen.

   ┌──────────────────────────────────────────────────────────┐
   │                  1. ARCHITECT / REVIEWER                 │
   │                      (Codex / Claude)                    │
   │       • Understands requirement  • Reviews diff & logs   │
   └────────────────────────────┬─────────────────────────────┘
                                │
                    [MCP Task Specification]
                                │
                                ▼
   ┌──────────────────────────────────────────────────────────┐
   │                   2. LOCALFORGE (MCP)                    │
   │      • Session continuity      • Privacy boundary        │
   │      • Cross-process locks     • Telemetry ledger        │
   └────────────────────────────┬─────────────────────────────┘
                                │
                    [Local Inference Stream]
                                │
                                ▼
   ┌──────────────────────────────────────────────────────────┐
   │                3. IMPLEMENTATION WORKER                  │
   │           (DeepSeek V4 Flash / Qwen 2.5 / 3.5)           │
   │  ┌────────────────────────────────────────────────────┐  │
   │  │ 🔄 LOCAL ITERATION LOOP                            │  │
   │  │ Read Repo ➔ Edit Code ➔ Run Tests ➔ Fix Errors    │  │
   │  └────────────────────────────────────────────────────┘  │
   └──────────────────────────────────────────────────────────┘

Related MCP server: local-agent

✨ Kernfunktionen

  • 📉 80–90 % Reduktion der Premium-Tokens: Hält tokenintensive Code-Änderungen, Dateinindizierung und Test-Debugging vollständig auf lokaler Hardware.

  • 🛡️ ** Strikte Datenschutz- und Sicherheitsgrenzen**: Vertrauliche interne Dateien und mehrstufige Diagnose-Protokoll bleiben in Ihrem lokalen Netzwerk.

  • 🔄 Session-Continuity: Mehrstufige Folgeaktionen (opencode_followup) setzen dieselbe Ausführungssession fort, ohne den gesamten Repository-Kontext erneut zu senden.

  • 🔒 Prozessübergreifende Repository-Sperre: Verhindert konflikttierende gleichzeitige Schreibzugriffe über mehrere Agent-Tabs oder Clients.

  • 📊 Telemetrie- und Audit-Ledger: Automatische Aufzeichnung von Ausführungsdauer, berührten Dateien, hinzugefügten/gelöschten Zeilen und geschätzten Spike-Einsparungen in state/ledger.jsonl.

  • ⚡ Null-Konfiguration-Client-Registrierung: Ein-Befehl-Setup für Codex, Claude Code, Claude Desktop und Antigravity.


🛠️ MCP-Tools-Referenz

LocalForge registriert 8 native Tools über das Standard Model Context Protocol (stdio/JSON-RPC):

Tool

Beschreibung

opencode_implement

Sendet eine begrenzte Aufgabenspezifikation (Ziel, Randbedingungen, Schnittstellen, Kontext) an den lokalen Worker.

opencode_wait

Ein einzelnes blockierendes Warten, bis eine laufende Aufgabe einen Endzustand (completed / failed) erreicht. Ersetzt Status-Polling-Schleifen.

opencode_status

Nicht-blockierender Status-Snapshot einer aktiven oder abgeschlossenen Aufgabe.

opencode_diff

Liefert einen skalierbaren Git-Diff der Änderungen der Arbeit des lokalen Workers gegenüber dem Basis-Commit.

opencode_followup

Setzt eine vorhandene OpenCode Session fort, um Fehler zu beheben, Randfälle anzupassen oder Tests anhand des Review-Feedbacks hinzuzufügen.

opencode_cancel

Beendet eine laufende Aufgabe und ihre Kindprozesse sauber. Deaktiviert.

opencode_health

Prüft die Verfügbarkeit des lokalen Modell-Endpoints, die opencode-CLI-Gesundheit und die aktivierten Modellkonfiguration.

opencode_history

Fragt vergangene Delegationsergebnisse, Laufzeiten und Erfolgsraten für ein bestimmtes Repository ab.


🚀 Schnellstart

1. Voraussetzungen

  • Node.js: >= 20.0.0

  • OpenCode CLI: installiert und erreichbar in PATH (npm i -g opencode-ai oder Binary)

  • Lokales Inferenz-Modell: Ein laufender OpenAI-kompatibler EndpPoint (z. B. DeepSeek V4 Flash, Qwen 2.5/3.5 auf vLLM, Ollama, SGLang oder mehrere DGX-Spark-Cluster).

2. Install and Build

git clone https://github.com/aditya1503/LocalForge.git
cd LocalForge
npm install
npm run build

3. Verify Health

npm run dev
# or run health check
tsx tests/v2.test.ts

4. Connect to Ihrer AI-Client

LocalForge enthält ein automatisiertes Client-Registrierungs-Skript:

# Register with OpenAI Codex / Antigravity
node scripts/register-client.mjs antigravity

# Register with Claude Code
node scripts/register-client.mjs claude-code

# Register with Claude Desktop
node scripts/register-client.mjs claude-desktop

⚙️ Konfiguration

Setzen Sie die folgenden Umgebungsvariablen in Ihrer Umgebung oder in der Client-Konfiguration:

Variable

Standardwert

Beschreibung

OPENCODE_MODEL

spark/deepseek-v4-flash-0731

Modell-Identifier, der an OpenCode übergeben wird.

WORKER_HEALTH_URL

http://127.0.0.1:8890/v1/models

Health-Endpunkt für den lokalen Inferenzserver.

ALLOWED_REPO_ROOT

Aktuelles Arbeitsverzeichnis

Whitelist für das Wurzelverzeichnis, um Path-Traversal zu verhindern.

TASK_TIMEOUT_MS

600000 (10 Minuten)

Maximale Ausführungszeit bis zur automatischen Beendigung.


📊 Telemetrie & Reporting

Jede abgeschlossene Aufgabe zeichnet automatisch Telemetrie-Daten in state/ledger.jsonl auf. Führen Sie das integrierte Rollup-Tool aus, um die Einsparungen zu analysieren:

npm run rollup

BeispielAusgabe:

=== LocalForge Telemetry Rollup ===
Total Tasks: 42
Success Rate: 95.2%
Avg Task Duration: 28.4s
Estimated Cloud Tokens Saved: ~1.85M tokens
Top Task Classes: unit-test-generation, bugfix, refactoring

🎨 Interaktive Architektur-Infografik

Dieses Repository enthält eine eigenständige interaktive HTML-Infografik, die den vollständigen MCP-Delegationsfluss visualisiert:

open index.html

📄 Lizenz

MIT-Lizenz. Design und Pflege: ADIS (Artificially Developed Intelligence Services).

Maintenance

ActivitySlowing
ResponsivenessNo issues

Related MCP Connectors

Related MCP Servers

  • A
    license
    A
    quality
    D
    maintenance
    Optimizes token costs by intelligently delegating low-complexity tasks to local LLMs via LiteLLM, enabling cost-effective development workflows.
    3
    1
    MIT