bionic-mcp

당신은 LM Studio에서 모델을 실행합니다. bionic-mcp는 그 모델들을 Claude Code(또는 다른 MCP 클라이언트)가 호출할 수 있는 도구로 바꿔줍니다. 그래서 비싸고 부피가 큰 작업을 유료 모델 대신 자신의 기기에서 처리할 수 있습니다. 무료이고 로컬이며 비공개입니다. 프롬프트와 응답은 결코 Mac을 떠나지 않습니다.

왜 그냥 클라이언트를 LM Studio의 API에 연결하지 않는가

물론 가능하지만, 결국 두 가지 문제에 부딪히게 됩니다. 이 서버는 두 가지를 모두 해결합니다:

• LM Studio는 조용히 모델을 바꿔칩니다. 로드되지 않은 모델을 요청하면 API는 로드된 모델로 조용히 응답합니다. 그래서 14B와 대화하고 있다고 생각하지만 실제로는 3B와 대화하고 있을 수 있습니다. 이 서버는 처음에 알 수 없는 모델 id를 거부하고 모든 응답에서 response.model을 확인하므로, 어떤 모델이 응답했는지 항상 알 수 있습니다.

• 콜드 로드는 느립니다. 16GB에서는 하나의 모델만 상주하고, 전환하는 데 8~30초가 걸립니다. model:"auto"는 강제로 다시 로드하는 대신 이미 로드된 모델을 사용하므로 빠른 호출은 빠르게 유지됩니다.

이것이 전부입니다: 두 가지 함정 없이 이미 실행 중인 모델에 안전하게 접근할 수 있습니다.

Related MCP server: Local LLM MCP Server

작업 흐름에 어울리는 곳

Claude Code에서 작업하다가 값비싼 모델이 필요 없는 하위 작업을 만나면: 이것을 분류하고, 저것을 요약하고, 이것에 대한 의견을 듣고, 배치에서 필드를 추출하세요. respond에 넘기면 무료로 내 하드웨어에서 실행됩니다. models는 설치 및 로드된 모델을 보여주므로 선택하거나 auto가 결정하도록 할 수 있습니다.

설치

Claude Code (복사-붙여넣기)

이것을 터미널에 붙여넣으세요. 한 번에 MCP를 클론하고 설치하고 등록합니다:

git clone https://github.com/turner-moore/bionic-mcp.git && cd bionic-mcp && npm install && \
claude mcp add -s user bionic -- node "$(pwd)/index.js"

또한 LM Studio가 로컬 서버를 실행 중이어야 합니다 (모델이 거기 있습니다):

~/.lmstudio/bin/lms server start

다른 MCP 클라이언트

클라이언트의 설정(예: claude_desktop_config.json)에 절대 경로로 추가하세요:

{
  "mcpServers": {
    "bionic": {
      "command": "node",
      "args": ["/absolute/path/to/bionic-mcp/index.js"]
    }
  }
}

BIONIC_BASE_URL(기본값 http://127.0.0.1:1234)로 다른 엔드포인트를 지정할 수 있습니다.

도구

• respond: 프롬프트를 실행합니다. id로 모델을 선택하거나 model:"auto"로 로드된 모델을 사용할 수 있습니다. 시스템 프롬프트, temperature, 그리고 구조화된 출력을 강제하는 JSON 스키마를 받습니다.

• models: 설치된 모델을 실시간 로드 상태와 기능 카드(품질, 속도, 컨텍스트 크기)와 함께 나열하여 무엇을 넘길지 결정할 수 있습니다.

중요한 규칙 하나: 각 프롬프트는 독립적이어야 합니다. 로컬 모델은 Claude 세션, 파일, 메모리를 볼 수 없으므로, 필요한 모든 입력과 지시를 인라인으로 포함해야 합니다.

여기 두 개의 서버

• index.js (bionic): 직접적인 LM Studio 브리지입니다. 여기서 시작하세요.

• local.js (local): 선택적인 계층형 버전입니다. 먼저 더 빠른 온디바이스 백엔드(caix, Neural Engine에서 실행되는 Apple Core AI)를 시도하고, 사용할 수 없으면 LM Studio로 폴백합니다. 원한다면 별도로 등록하세요:

  claude mcp add -s user local -- node "$(pwd)/local.js"

요구 사항

Node 18+ (내장 fetch 사용) 및 서버가 실행 중인 LM Studio가 필요합니다. 기능 카드는 models.json에 있으며, 직접 설치한 모델에 맞게 편집하세요.