Skip to main content
Glama

bionic-mcp

你在 LM Studio 中运行模型。bionic-mcp 将它们变成 Claude Code(或任何 MCP 客户端)可以调用的工具,这样你就可以把廉价而繁重的工作交给自己的机器,而不是付费模型。它免费、本地、私密:提示词和答案永远不会离开你的 Mac。

为什么不直接把客户端指向 LM Studio 的 API

你可以这样做,但有两件事最终会坑到你。这个服务器修复了这两点:

  • LM Studio 会静默替换模型。 如果你请求一个未加载的模型,它的 API 会悄悄用当前 已加载 的模型来回答,所以你以为是 14B,实际上却是 3B。这个服务器会事先拒绝未知的模型 ID,并在每次回复时检查 response.model,所以你始终知道是谁在回答。

  • 冷加载很慢。 在 16GB 内存上只能常驻一个模型,切换需要 8-30 秒。model:"auto" 会使用已加载的模型,而不是强制重新加载,所以快速调用仍然很快。

这就是全部卖点:安全访问你已经运行的模型,同时避开这两个坑。

Related MCP server: Local LLM MCP Server

它如何融入你的工作流

你在 Claude Code 中遇到了一个不需要昂贵模型的子任务:把这些分类、把那个总结、给这个提供第二意见、从一批数据中提取字段。把它交给 respond,它就会免费在你的硬件上运行。models 显示已安装和已加载的模型,你可以选择,或者让 auto 决定。

安装

Claude Code(复制粘贴)

将其粘贴到终端中。它会一次性完成克隆、安装和注册 MCP:

git clone https://github.com/turner-moore/bionic-mcp.git && cd bionic-mcp && npm install && \
claude mcp add -s user bionic -- node "$(pwd)/index.js"

你还需要让 LM Studio 运行其本地服务器(模型就放在那里):

~/.lmstudio/bin/lms server start

任何其他 MCP 客户端

将其添加到你的客户端配置(例如 claude_desktop_config.json)中,并使用绝对路径:

{
  "mcpServers": {
    "bionic": {
      "command": "node",
      "args": ["/absolute/path/to/bionic-mcp/index.js"]
    }
  }
}

使用 BIONIC_BASE_URL 将其指向不同的端点(默认为 http://127.0.0.1:1234)。

工具

  • respond:运行提示词。按 id 选择模型,或让 model:"auto" 使用已加载的模型。接受系统提示词、温度和 JSON schema,以强制结构化输出。

  • models:列出已安装的模型,包含实时加载状态和能力卡片(质量、速度、上下文大小),以便你决定把什么任务交给它。

一条重要的规则:每个提示词都必须独立成立。本地模型看不到你的 Claude 会话、文件或内存,因此请将所需的所有输入和指令都内联进去。

这里包含两个服务器

  • index.js(bionic):直接的 LM Studio 桥接器。从这里开始。

  • local.js(local):一个可选的分层版本。它会先尝试更快的设备端后端(caix,神经引擎上的 Apple Core AI),如果该后端不可用,则回退到 LM Studio。如果你需要,可以单独注册它:

    claude mcp add -s user local -- node "$(pwd)/local.js"

要求

Node 18+(用于内置 fetch)以及运行着服务器的 LM Studio。能力卡片位于 models.json 中,请编辑它以匹配你自己安装的模型。

Related MCP Connectors

Related MCP Servers