AI 에이전트를 위한 라우팅 계층입니다. 단 한 번의 호출로 모든 작업에 가장 적합한 MCP 서버와 LLM을 반환하며, 132개의 실제 벤치마크 실행을 기반으로 점수가 산정됩니다.
모든 MCP 클라이언트(Claude Code, Cursor, Windsurf, Cline)에 추가하세요:
{
"mcpServers": {
"toolroute": {
"url": "https://toolroute.io/api/mcp"
}
}
}또는 HTTP를 통해:
curl -X POST https://toolroute.io/api/route \
-H "Content-Type: application/json" \
-d '{"task": "search the web for recent AI papers"}'{
"approach": "mcp_server",
"recommended_skill": "exa-mcp-server",
"recommended_model": "gemini-flash-2.0",
"confidence": 0.91
}Related MCP server: Playwright MCP Server
모든 작업은 다음 세 가지 접근 방식 중 하나로 분류됩니다:
접근 방식 | 상황 | 반환 값 |
| LLM만 필요한 작업 (코드, 글쓰기, 분석) | 최적 모델 + 비용 추정치 |
| 외부 도구가 필요한 작업 (검색, 이메일, 캘린더) | 최적 도구 + 최적 모델 |
| 복합 작업 ("Slack 전송 및 Jira 업데이트 및 이메일") | 순차적 오케스트레이션 체인 |
라우팅은 작업 이해를 위해 LLM 분류기(호출당 약 $0.00001)를 사용하며, 5가지 차원의 점수를 기준으로 후보 순위를 매깁니다:
Value Score = 0.35 × Output Quality
+ 0.25 × Reliability
+ 0.15 × Efficiency
+ 0.15 × Cost
+ 0.10 × Trust보고된 모든 결과는 점수를 업데이트합니다. 더 많은 에이전트가 사용할수록 라우팅은 더욱 정확해집니다.
코드, 글쓰기, 분석, 구조화된 출력 및 번역 전반에 걸친 132개의 블라인드 A/B 실행 결과입니다.
ToolRoute | 고정 GPT-4o | |
품질 우위 | 6 | 0 |
동점 | 9 | 9 |
열위 | 0 | — |
평균 비용 | $0.001–0.01 | $0.03–0.10 |
엔드포인트 | 메서드 | 설명 |
| POST | 작업을 최적의 MCP 서버 + LLM으로 라우팅 |
| POST (JSON-RPC) | MCP 서버 — 16개 도구 |
| GET (SSE) | MCP 클라이언트를 위한 SSE 전송 |
| POST | 모델 결과 보고 |
| POST | 모델 출력 품질 검증 |
| GET | MCP 서버 카탈로그 검색 |
| POST | 에이전트 ID 등록 |
전체 참조는 toolroute.io/api-docs에서 확인하세요.
npm install @toolroute/sdkimport { ToolRoute } from '@toolroute/sdk'
const tr = new ToolRoute()
const rec = await tr.route({ task: 'parse this CSV and summarize it' })
// execute with rec.recommended_model ...
await tr.report({ skill: rec.recommended_skill, outcome: 'success', latency_ms: 1400 })git clone https://github.com/grossiweb/ToolRoute.git
cd ToolRoute
cp .env.local.example .env.local
npm install
npm run dev필수 항목: NEXT_PUBLIC_SUPABASE_URL, NEXT_PUBLIC_SUPABASE_ANON_KEY, SUPABASE_SERVICE_ROLE_KEY
ToolRoute는 각 작업을 LLM 분류기(Gemini Flash Lite, 호출당 약 $0.00001)와 키워드 폴백을 사용하여 분류합니다. 결과로 도출된 티어는 src/lib/routing/tiers.ts를 통해 특정 모델에 매핑됩니다. 실시간 가격 및 기능 데이터는 models 테이블에서 가져옵니다. 전체적인 내용은 docs/architecture.md를 참조하세요.
Next.js 14 (App Router) · Supabase (Postgres) · Vercel
MIT
This server cannot be deployed
Cost-optimized LLM model routing recommendations for autonomous AI agents
One MCP endpoint for Claude, GPT & Gemini: 100+ tools + no-code connectors + agent workers.
HiveCompute MCP Server — decentralized inference router for AI agents
MCP server for building and testing AI agents with multi-model experimentation and insights.
