Оркестратор агентов

MCP-сервер и GUI на localhost, который распределяет задачи между агентами Cursor и внешними LLM-бэкендами (OpenAI-совместимыми API, Anthropic, локальным vLLM, Ollama или пользовательским HTTP-агентом).

Chat (GUI or MCP)
  → Auto router (control tools | single agent | multi-agent debate)
      → Cursor (local or cloud) — can edit allowlisted directories
      → External models — text only
      → Local model server on 127.0.0.1 — never public

Быстрый старт

Требуется Node.js 22.13+.

npm install
cp .env.example .env

Помещайте API-ключи в .env или на страницу Backends в GUI — никогда в agents.config.yaml. apiKeyEnv — это имя переменной (GEMINI_API_KEY), а не секрет.

# GUI (loopback only)
npm run gui

Откройте URL, выведенный в stderr (http://127.0.0.1:8787?token=…). Сессионный токен хранится в .orchestrator/gui.secret (исключён из git).

Если порт 8787 уже занят, GUI уже запущен — используйте gui:stop или откройте существующий URL с токеном. Остановка контейнера локальной модели не останавливает GUI.

Cursor: в этом репозитории есть .cursor/mcp.json. После клонирования один раз перезагрузите MCP. list_agents перечитывает окружение и секреты GUI без полного перезапуска IDE.

Related MCP server: Cloud Agent MCP Server

Чат

Главная — это чат-тред. Шапка (новый чат, переключатель тредов, настройки) и поле ввода сообщения остаются на экране; прокручиваются только сообщения.

• Авто (по умолчанию) — инструменты управления для оборудования/загрузки/запуска; дебаты для планирования/исправления/ревью, когда готовы два или более бэкенда; иначе — один агент.

• Дебаты — круглый стол: каждая готовая модель выступает по очереди (по одному сообщению на спикера), затем замыкающий синтезирует итог.

• Одиночный / закрепить бэкенд — только этот бэкенд.

Пока выступает спикер, плашка thinking показывает имя, прошедшее время и фазу, чтобы интерфейс не выглядел зависшим.

Запись и установки ожидают подтверждения Approve. Реализация/установка остаётся только планом, пока вы не нажмёте Approve на карточке ожидающих действий. После этого Cursor может писать только внутри списка разрешённых для записи директорий. Установки на уровне хоста (пакетные менеджеры, игровые движки, sudo) помечаются отдельно и по-прежнему ожидают подтверждения. Внешние модели никогда не редактируют файлы.

Настройки

Ключи хранятся в .env и .orchestrator/secrets.env (в gitignore, режим 0600). Перезагрузка env подхватывает ключ, добавленный после запуска.

Безопасность

Не туннелируйте GUI или vLLM. Облачные агенты Cursor не могут получить доступ к localhost; оркестратор передаёт текст между локальной и облачной средой.

Список разрешённых для записи

По умолчанию: эта рабочая область (WORKSPACE_CWD / workspace.cwd). Добавляйте новые через Настройки → Список разрешённых или add_allowed_dir. Чат предлагает добавление в один клик, когда вы указываете абсолютный путь, которого нет в списке.

Локальные модели (независимо от вендора)

list_hardware обнаруживает любые присутствующие ускорители (NVIDIA CUDA, AMD ROCm, Intel XPU или CPU, если их нет). Рекомендации используют измеренную VRAM, а не одного вендора. Отсутствие NVIDIA не трактуется как «только CPU», если есть другой GPU.

Модель из каталога помещается, если расчётный вес плюс запас ~20% на KV-кэш не превышают VRAM на GPU. При нескольких GPU можно использовать тензорный параллелизм, когда модель не помещается на одну карту, но помещается на две.

Скачивайте снапшоты в .orchestrator/models (в gitignore; должны оставаться в списке разрешённого). Для закрытых репозиториев Hugging Face нужен HF_TOKEN в env или в GUI — никогда в git.

start_vllm выбирает serving-стек в зависимости от обнаруженного бэкенда:

• CUDA — vllm serve на хосте, если установлен wheel-пакет CUDA

• ROCm — ROCm vLLM при наличии

• XPU — образы Docker от вендора, если они уже есть локально; в противном случае сборка XPU на хосте

• CPU — не используется как путь для serving

API публикуется только на 127.0.0.1 (порты 8000–8099). Запуск возвращает управление сразу (202); на странице «Локальные модели» ждите, пока /v1/models не станет доступным. Запущенный сервер автоматически регистрируется как бэкенд (фиктивный loopback-токен, если клиенту требуется Bearer, — вам не нужно копировать ключ из контейнера).

Вы можете запускать несколько моделей одновременно. Для каждого id из каталога создаются свой контейнер, порт и бэкенд (vllm-<catalog-slug>). Остановить один инстанс; Убрать из набора также убирает этот бэкенд из YAML; Удалить веса — отдельное подтверждение.

pip install -r scripts/requirements-hf.txt   # downloads
# Then install the vLLM build that matches your GPU (CUDA, ROCm, or vendor XPU/Docker).

MCP-инструменты

Специалисты по умолчанию

Только бэкенды Cursor редактируют файлы. Укажите backend на любой id в agents.config.yaml.

Добавление бэкенда

backends:
  groq:
    type: openai
    baseUrl: https://api.groq.com/openai/v1
    model: llama-3.3-70b-versatile
    apiKeyEnv: GROQ_API_KEY

specialists:
  groq-reviewer:
    description: Fast external review
    backend: groq
    fallback: reviewer

Gemini использует OpenAI-совместимую конечную точку Google. Укажите один текущий id модели (GUI перечисляет id от Google, когда ключ работает). Не помещайте комментарии или списки pro / flash в model.

${ENV_NAME} в YAML раскрывается из окружения процесса.

Использование из другого репозитория

{
  "mcpServers": {
    "agent-orchestrator": {
      "type": "stdio",
      "command": "/absolute/path/to/this-repo/node_modules/.bin/tsx",
      "args": ["/absolute/path/to/this-repo/src/index.ts"],
      "env": {
        "AGENT_ORCHESTRATOR_CONFIG": "/absolute/path/to/this-repo/agents.config.yaml",
        "WORKSPACE_CWD": "${workspaceFolder}",
        "CURSOR_API_KEY": "${env:CURSOR_API_KEY}"
      }
    }
  }
}

Что не входит в git

.env, .orchestrator/ (токен GUI, секреты, чаты, список разрешённого, веса моделей, состояние vLLM), node_modules/ и логи. См. .gitignore.