ToolRoute

Routing-Ebene für KI-Agenten. Ein Aufruf liefert den besten MCP-Server und das beste LLM für jede Aufgabe — bewertet anhand von 132 echten Benchmark-Ausführungen.

Schnellstart

Zu jedem MCP-Client hinzufügen (Claude Code, Cursor, Windsurf, Cline):

{
  "mcpServers": {
    "toolroute": {
      "url": "https://toolroute.io/api/mcp"
    }
  }
}

Oder via HTTP:

curl -X POST https://toolroute.io/api/route \
  -H "Content-Type: application/json" \
  -d '{"task": "search the web for recent AI papers"}'

{
  "approach": "mcp_server",
  "recommended_skill": "exa-mcp-server",
  "recommended_model": "gemini-flash-2.0",
  "confidence": 0.91
}

Related MCP server: Playwright MCP Server

Funktionsweise

Jede Aufgabe fällt in einen von drei Ansätzen:

Das Routing verwendet einen LLM-Klassifikator (~$0,00001/Aufruf) für das Aufgabenverständnis und bewertet dann die Kandidaten anhand eines 5-Dimensionen-Scores:

Value Score = 0.35 × Output Quality
            + 0.25 × Reliability
            + 0.15 × Efficiency
            + 0.15 × Cost
            + 0.10 × Trust

Jedes gemeldete Ergebnis aktualisiert die Scores. Das Routing wird genauer, je mehr Agenten es verwenden.

Benchmark-Ergebnisse

132 blinde A/B-Ausführungen in den Bereichen Code, Schreiben, Analyse, strukturierte Ausgabe und Übersetzung.

API

Vollständige Referenz unter toolroute.io/api-docs

SDK

npm install @toolroute/sdk

import { ToolRoute } from '@toolroute/sdk'

const tr = new ToolRoute()
const rec = await tr.route({ task: 'parse this CSV and summarize it' })
// execute with rec.recommended_model ...
await tr.report({ skill: rec.recommended_skill, outcome: 'success', latency_ms: 1400 })

Self-Hosting

git clone https://github.com/grossiweb/ToolRoute.git
cd ToolRoute
cp .env.local.example .env.local
npm install
npm run dev

Erfordert: NEXT_PUBLIC_SUPABASE_URL, NEXT_PUBLIC_SUPABASE_ANON_KEY, SUPABASE_SERVICE_ROLE_KEY

Funktionsweise des Routings

ToolRoute klassifiziert jede Aufgabe mithilfe eines LLM-Klassifikators (Gemini Flash Lite, ~$0,00001/Aufruf) mit einem Keyword-Fallback. Die resultierende Stufe wird über src/lib/routing/tiers.ts einem bestimmten Modell zugeordnet. Live-Preise und Fähigkeitsdaten stammen aus der models-Tabelle. Siehe docs/architecture.md für das Gesamtbild.

Stack

Next.js 14 (App Router) · Supabase (Postgres) · Vercel

Lizenz

MIT