ToolRoute

Уровень маршрутизации для ИИ-агентов. Один вызов возвращает лучший MCP-сервер и LLM для любой задачи — на основе 132 реальных бенчмарков.

Быстрый старт

Добавьте в любой MCP-клиент (Claude Code, Cursor, Windsurf, Cline):

{
  "mcpServers": {
    "toolroute": {
      "url": "https://toolroute.io/api/mcp"
    }
  }
}

Или через HTTP:

curl -X POST https://toolroute.io/api/route \
  -H "Content-Type: application/json" \
  -d '{"task": "search the web for recent AI papers"}'

{
  "approach": "mcp_server",
  "recommended_skill": "exa-mcp-server",
  "recommended_model": "gemini-flash-2.0",
  "confidence": 0.91
}

Related MCP server: Playwright MCP Server

Как это работает

Каждая задача относится к одному из трех подходов:

Маршрутизация использует LLM-классификатор (~$0.00001/вызов) для понимания задачи, а затем ранжирует кандидатов по 5-мерной шкале:

Value Score = 0.35 × Output Quality
            + 0.25 × Reliability
            + 0.15 × Efficiency
            + 0.15 × Cost
            + 0.10 × Trust

Каждый сообщенный результат обновляет оценки. Маршрутизация становится точнее по мере того, как ее используют больше агентов.

Результаты бенчмарков

132 слепых A/B выполнения в задачах по кодингу, письму, анализу, структурированному выводу и переводу.

API

Полная документация на toolroute.io/api-docs

SDK

npm install @toolroute/sdk

import { ToolRoute } from '@toolroute/sdk'

const tr = new ToolRoute()
const rec = await tr.route({ task: 'parse this CSV and summarize it' })
// execute with rec.recommended_model ...
await tr.report({ skill: rec.recommended_skill, outcome: 'success', latency_ms: 1400 })

Самостоятельный хостинг

git clone https://github.com/grossiweb/ToolRoute.git
cd ToolRoute
cp .env.local.example .env.local
npm install
npm run dev

Требуется: NEXT_PUBLIC_SUPABASE_URL, NEXT_PUBLIC_SUPABASE_ANON_KEY, SUPABASE_SERVICE_ROLE_KEY

Как работает маршрутизация

ToolRoute классифицирует каждую задачу с помощью LLM-классификатора (Gemini Flash Lite, ~$0.00001/вызов) с резервным вариантом по ключевым словам. Полученный уровень сопоставляется с конкретной моделью через src/lib/routing/tiers.ts. Актуальные данные о ценах и возможностях поступают из таблицы models. Полную картину см. в docs/architecture.md.

Стек

Next.js 14 (App Router) · Supabase (Postgres) · Vercel

Лицензия

MIT