429-throttle-mcp

English | Español

No más rechazos de API 429 — un proxy MCP con límite de velocidad que permite a los modelos controlar automáticamente el ritmo de llamadas en tareas de larga duración.

Qué es

Muchas API gratuitas de modelos grandes (Grok, Gemini, Dots, etc.) solo permiten alrededor de 30 llamadas por minuto. Cuando el modelo realiza tareas de larga duración (búsqueda + generación de PPT, llamadas por lotes a herramientas), es fácil exceder el límite y recibir rechazos 429.

429-throttle-mcp proporciona una capa transparente de limitación de velocidad para este problema:

模型 → call_api 工具 → 限流器 → 实际 API 请求 → 返回结果 + 用量快照

El modelo no necesita saber que existe un límite de velocidad; solo necesita llamar a call_api normalmente. La lógica de limitación se ejecuta de forma transparente dentro de MCP: si hay cuota disponible, se permite el paso; si no, se le indica al modelo cuánto tiempo esperar antes de reintentar.

Related MCP server: tiny-mcp-gateway

Estructura del paquete

Monorepo que contiene dos paquetes npm independientes que comparten la lógica central de limitación:

429-throttle-mcp/
├── packages/
│   ├── rate-limiter.js              # 核心限流逻辑（共享）
│   ├── 429-throttle-mcp/            # MCP Server 包
│   │   ├── package.json
│   │   ├── server.js
│   │   └── README.md
│   └── dsh-throttle/                # DSH Plugin 包
│       ├── package.json
│       ├── plugin.js
│       └── README.md
├── dsh-manifest.json
├── README.md
└── .env.example

Parámetros principales

Herramientas expuestas

call_api

Envía solicitudes HTTP a través del proxy de limitación. Todas las llamadas a API externas deben pasar por esta herramienta.

Devuelve: respuesta de la API + instantánea de uso de _meta.rateLimit. Si se rechaza por límite de velocidad, devuelve el error RATE_LIMIT_EXCEEDED con el tiempo de espera sugerido retryAfterSeconds.

get_rate_limit_status

Consulta el uso actual del límite de velocidad. Devuelve llamadas usadas/restantes y número de tokens, así como sugerencias. No incluye cola de espera para evitar ansiedad en el usuario.

set_rate_limit

Ajusta dinámicamente los parámetros de limitación (corresponde al ajuste del control deslizante, efecto en tiempo real sin reinicio).

Instalación

Cliente MCP (como ZCode)

npm install 429-throttle-mcp

Agrega en la configuración de MCP:

{
  "mcpServers": {
    "429-throttle-mcp": {
      "command": "node",
      "args": ["node_modules/429-throttle-mcp/server.js"],
      "env": {
        "MAX_CALLS": "30",
        "MAX_TOKENS": "750000"
      }
    }
  }
}

DeepSeek Harness

npm install dsh-throttle

Agrega en la configuración de DSH:

{
  "plugins": {
    "dsh-throttle": {
      "maxCalls": 30,
      "maxTokens": 750000
    }
  }
}

Ejemplo de flujo de trabajo

Cuando el modelo realiza tareas de búsqueda de marca PPT:

1. Llama a get_rate_limit_status → confirma que hay cuota suficiente

2. Llama a call_api → busca palabras clave de marca

3. Si es rechazado → espera retryAfterSeconds y reintenta

4. Repite los pasos 2-3 hasta recopilar toda la información

5. Llama a set_rate_limit → ajusta los parámetros de limitación para la fase de generación

Algoritmo de limitación

Ventana deslizante + Cubo de tokens (Sliding Window + Token Bucket): mantiene una ventana deslizante de 60 segundos, registra la marca de tiempo y el consumo de tokens en cada llamada. Los registros antiguos fuera de la ventana se limpian automáticamente. Cuando se excede el límite, calcula el tiempo de espera restante basado en el registro más antiguo.

Seguridad de concurrencia: tryConsume() es una función síncrona que se serializa naturalmente en el bucle de eventos de un solo hilo de Node.js, sin condiciones de carrera.

Por qué usar esto en lugar de escribir "ve más lento" en el prompt

Escenarios de aplicación

Error 429, anti 429, limitación MCP, límite de llamadas por minuto de modelos grandes, límite de velocidad de modelos grandes gratuitos, llamadas por lotes de Agent que disparan 429, llamadas en cola MCP, RPM, TPM, rate limiter mcp, quota guard, mcp server, mcp proxy, throttle, llm api quota, cop, HTTP 429, Too Many Requests, rate limiting, token bucket, sliding window, API proxy, LLM rate limit, AI API throttle, concurrent rate limit, 30 calls per minute

Licencia

MIT