bionic-mcp

Sie führen Modelle in LM Studio aus. bionic-mcp verwandelt sie in Werkzeuge, die Claude Code (oder ein beliebiger MCP-Client) aufrufen kann, sodass Sie die günstige und umfangreiche Arbeit an Ihre eigene Maschine abgeben können, anstatt an ein kostenpflichtiges Modell. Es ist kostenlos, lokal und privat: Der Prompt und die Antwort verlassen nie Ihren Mac.

Warum nicht einfach den Client auf die API von LM Studio richten?

Sie können das, aber zwei Dinge werden Ihnen irgendwann zum Verhängnis. Dieser Server behebt beide:

• LM Studio wechselt Modelle stillschweigend. Fragen Sie ein Modell an, das nicht geladen ist, und seine API antwortet still mit dem, was gerade geladen ist, sodass Sie glauben, mit einem 14B zu sprechen, während Sie tatsächlich mit einem 3B sprechen. Dieser Server lehnt eine unbekannte Modell-ID im Voraus ab und prüft response.model bei jeder Antwort, sodass Sie immer wissen, was geantwortet hat.

• Kaltstarts sind langsam. Auf 16 GB kann nur ein Modell resident bleiben, und das Wechseln dauert 8-30 Sekunden. model:"auto" verwendet das bereits geladene Modell, anstatt ein Neuladen zu erzwingen, sodass ein schneller Aufruf schnell bleibt.

Das ist das ganze Angebot: sicherer Zugriff auf die Modelle, die Sie bereits ausführen, ohne die beiden Fallstricke.

Related MCP server: Local LLM MCP Server

Wo es in Ihren Workflow passt

Sie sind in Claude Code und stoßen auf eine Teilaufgabe, die das teure Modell nicht benötigt: diese klassifizieren, das zusammenfassen, dazu eine Zweitmeinung einholen, Felder aus einem Stapel extrahieren. Übergeben Sie es an respond, und es läuft kostenlos auf Ihrer Hardware. models zeigt Ihnen, was installiert und geladen ist, sodass Sie wählen können, oder lassen Sie auto entscheiden.

Installation

Claude Code (Kopieren und Einfügen)

Fügen Sie dies in Ihr Terminal ein. Es klont, installiert und registriert den MCP in einem Zug:

git clone https://github.com/turner-moore/bionic-mcp.git && cd bionic-mcp && npm install && \
claude mcp add -s user bionic -- node "$(pwd)/index.js"

Sie benötigen außerdem LM Studio mit laufendem lokalem Server (dort befinden sich die Modelle):

~/.lmstudio/bin/lms server start

Jeder andere MCP-Client

Fügen Sie dies zur Konfiguration Ihres Clients hinzu (z. B. claude_desktop_config.json) mit einem absoluten Pfad:

{
  "mcpServers": {
    "bionic": {
      "command": "node",
      "args": ["/absolute/path/to/bionic-mcp/index.js"]
    }
  }
}

Richten Sie es mit BIONIC_BASE_URL auf einen anderen Endpunkt (Standard: http://127.0.0.1:1234).

Werkzeuge

• respond: führt einen Prompt aus. Wählen Sie ein Modell anhand der ID, oder lassen Sie model:"auto" das geladene verwenden. Akzeptiert einen System-Prompt, eine Temperatur und ein JSON-Schema, um strukturierte Ausgaben zu erzwingen.

• models: listet installierte Modelle mit aktuellem Ladestatus und einer Fähigkeitskarte (Qualität, Geschwindigkeit, Kontextgröße) auf, damit Sie entscheiden können, was Sie abgeben.

Eine wichtige Regel: Jeder Prompt muss für sich allein stehen können. Das lokale Modell kann Ihre Claude-Sitzung, Dateien oder Ihr Gedächtnis nicht sehen, also fügen Sie alle benötigten Eingaben und Anweisungen direkt ein.

Zwei Server hierin

• index.js (bionic): die direkte LM-Studio-Brücke. Beginnen Sie hier.

• local.js (local): eine optionale, gestaffelte Version. Sie versucht zuerst ein schnelleres On-Device-Backend (caix, Apple Core AI auf der Neural Engine) und fällt auf LM Studio zurück, wenn das nicht verfügbar ist. Registrieren Sie es separat, falls Sie es möchten:

  claude mcp add -s user local -- node "$(pwd)/local.js"

Anforderungen

Node 18+ (für integriertes fetch) und LM Studio mit laufendem Server. Die Fähigkeitskarte befindet sich in models.json. Bearbeiten Sie sie, um sie an Ihre eigenen installierten Modelle anzupassen.