Muse Glimmer + MCP + Langfuse (local)

Минимальный агент на Pydantic AI, который:

• запускает muse-glimmer (агентную модель Meta на 30 млрд параметров) через локальный экземпляр Ollama;

• подключает MCP: локальный сервер FastMCP (mcp_server.py) работает как stdio-подпроцесс и предоставляет get_weather, get_current_time и list_ollama_models в качестве инструментов агента;

• отправляет полные трейсы (запросы моделей, вызовы инструментов, результаты) в локальный экземпляр Langfuse для наблюдаемости.

Требования

• Ollama запущен с загруженной моделью:

  ollama pull muse-glimmer

• Локальный экземпляр Langfuse (например, через docker compose из репозитория Langfuse), доступный по адресу http://localhost:3000.

• uv (или используйте python3 -m venv + pip).

Related MCP server: MCP Ollama Consult Server

Настройка

cp .env.example .env   # then fill in your Langfuse keys
uv sync                # installs pydantic-ai, fastmcp, langfuse, ...

.env:

LANGFUSE_PUBLIC_KEY=pk-lf-...
LANGFUSE_SECRET_KEY=sk-lf-...
LANGFUSE_BASE_URL=http://localhost:3000
LANGFUSE_HOST=http://localhost:3000

OLLAMA_BASE_URL=http://localhost:11434/v1
OLLAMA_MODEL=muse-glimmer

Запуск

uv run python agent.py

После запуска агент отвечает на три демонстрационных запроса, вызывая MCP-инструменты по мере необходимости:

🧑  User: What is the weather in Paris today?
🤖  Agent: Weather in Paris: clear skies, 22°C, humidity 51%.

🧑  User: What time is it in Tokyo right now?
🤖  Agent: The current time in Asia/Tokyo is 2026-08-25 21:04:33 JST.

🧑  User: Which Ollama models are available locally?
🤖  Agent: NAME  ID  SIZE  MODIFIED ...

Наблюдаемость (Langfuse)

Откройте http://localhost:3000 → Traces. Каждый запуск создаёт трейсы с именем muse-glimmer-mcp-agent, в которых видны спаны для запросов модели (входные/выходные токены) и каждого вызова MCP-инструмента. Можно посмотреть входные данные, результаты, задержки и стоимость.

Предоставление агента как MCP-сервера

agent_mcp_server.py переворачивает архитектуру: агент сам становится MCP-сервером и предоставляет один инструмент — ask_agent(prompt) — любому MCP-клиенту (Claude Desktop, VS Code, Cursor, другому агенту на Pydantic AI, ...). Каждый вызов запускает muse-glimmer через Ollama, сохраняя внутренние MCP-инструменты под капотом, и записывает трейсы в Langfuse.

Запуск сервера

uv run python agent_mcp_server.py

Настройка клиента

Укажите любому MCP-клиенту на этот сервер, используя Python из вашего uv-окружения (uv run --project <repo> python тоже подойдёт).

Claude Desktop — claude_desktop_config.json:

{
  "mcpServers": {
    "muse-glimmer-agent": {
      "command": "/home/d3lee/.local/bin/uv",
      "args": ["run", "--project", "/home/d3lee/my-repos/pydantic-ai-mcp-server-sample", "python", "agent_mcp_server.py"]
    }
  }
}

VS Code — .vscode/mcp.json:

{
  "servers": {
    "muse-glimmer-agent": {
      "type": "stdio",
      "command": "uv",
      "args": ["run", "--project", "/home/d3lee/my-repos/pydantic-ai-mcp-server-sample", "python", "agent_mcp_server.py"]
    }
  }
}

Cursor — .cursor/mcp.json:

{
  "mcpServers": {
    "muse-glimmer-agent": {
      "command": "uv",
      "args": ["run", "--project", "/home/d3lee/my-repos/pydantic-ai-mcp-server-sample", "python", "agent_mcp_server.py"]
    }
  }
}

Состав проекта

pydantic-ai-mcp-server-sample