Bifrost AI Gateway

La forma más rápida de crear aplicaciones de IA que nunca se caen

Bifrost es una puerta de enlace de IA de alto rendimiento que unifica el acceso a más de 23 proveedores (OpenAI, Anthropic, AWS Bedrock, Google Vertex y más) a través de una única API compatible con OpenAI. Despliegue en segundos con configuración cero y obtenga conmutación por error automática, equilibrio de carga, caché semántica y funciones de nivel empresarial.

Related MCP server: MCPGate

Inicio rápido

Pase de cero a una puerta de enlace de IA lista para producción en menos de un minuto.

Paso 1: Inicie Bifrost Gateway

# Install and run locally
npx -y @maximhq/bifrost

# Or use Docker
docker run -p 8080:8080 maximhq/bifrost

Paso 2: Configure a través de la interfaz web

# Open the built-in web interface
open http://localhost:8080

Paso 3: Realice su primera llamada a la API

curl -X POST http://localhost:8080/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "openai/gpt-4o-mini",
    "messages": [{"role": "user", "content": "Hello, Bifrost!"}]
  }'

¡Eso es todo! Su puerta de enlace de IA está en funcionamiento con una interfaz web para configuración visual, monitorización en tiempo real y análisis.

Guías de configuración completas:

• Configuración de Gateway - Despliegue de API HTTP

• Configuración del SDK de Go - Integración directa

Despliegues empresariales

Bifrost admite despliegues privados de nivel empresarial para equipos que ejecutan sistemas de IA de producción a escala. Además de redes privadas, controles de seguridad personalizados y gobernanza, los despliegues empresariales desbloquean capacidades avanzadas que incluyen equilibrio de carga adaptativo, agrupación en clústeres, protecciones, puerta de enlace MCP y otras funciones diseñadas para la escala y fiabilidad de nivel empresarial.

Características principales

Infraestructura principal

• Interfaz unificada - API única compatible con OpenAI para todos los proveedores

• Soporte multi-proveedor - OpenAI, Anthropic, AWS Bedrock, Google Vertex, Azure, Cerebras, Cohere, Mistral, Ollama, Groq y más

• Conmutación por error automática - Conmutación por error sin interrupciones entre proveedores y modelos con cero tiempo de inactividad

• Equilibrio de carga - Distribución inteligente de solicitudes entre múltiples claves API y proveedores

Características avanzadas

• Protocolo de Contexto de Modelo (MCP) - Permite que los modelos de IA utilicen herramientas externas (sistema de archivos, búsqueda web, bases de datos)

• Caché semántica - Caché inteligente de respuestas basada en similitud semántica para reducir costos y latencia

• Soporte multimodal - Soporte para texto, imágenes, audio y transmisión, todo detrás de una interfaz común.

• Plugins personalizados - Arquitectura de middleware extensible para análisis, monitorización y lógica personalizada

• Gobernanza - Seguimiento de uso, limitación de velocidad y control de acceso detallado

Empresa y seguridad

• Gestión de presupuestos - Control de costos jerárquico con claves virtuales, equipos y presupuestos de clientes

• Aprovisionamiento de usuarios (OIDC) - Inicio de sesión OAuth 2.0 / OIDC con sincronización de directorio en segundo plano para equipos, roles y unidades de negocio

• Observabilidad - Métricas nativas de Prometheus, trazado distribuido y registro integral

• Gestión de secretos - Gestión segura de claves API con variables de entorno y secretos de despliegue

Experiencia del desarrollador

• Inicio sin configuración - Inicie inmediatamente con configuración dinámica de proveedores

• Reemplazo directo - Reemplace las API de OpenAI/Anthropic/GenAI con una línea de código

• Integraciones de SDK - Soporte nativo para SDK de IA populares sin cambios de código

• Flexibilidad de configuración - Opciones de configuración basadas en interfaz web, API o archivos

Estructura del repositorio

Bifrost utiliza una arquitectura modular para máxima flexibilidad:

bifrost/
├── npx/                 # NPX script for easy installation
├── core/                # Core functionality and shared components
│   ├── providers/       # Provider-specific implementations (OpenAI, Anthropic, etc.)
│   ├── schemas/         # Interfaces and structs used throughout Bifrost
│   └── bifrost.go       # Main Bifrost implementation
├── framework/           # Framework components for data persistence
│   ├── configstore/     # Configuration storage backends
│   ├── logstore/        # Request logging storage backends
│   └── vectorstore/     # Vector storages
├── transports/          # HTTP gateway and other interface layers
│   └── bifrost-http/    # HTTP transport implementation
├── ui/                  # Web interface for HTTP gateway
├── plugins/             # Extensible plugin system
│   ├── governance/      # Budget management and access control
│   ├── jsonparser/      # JSON parsing and manipulation utilities
│   ├── logging/         # Request logging and analytics
│   ├── maxim/           # Maxim's observability integration
│   ├── mocker/          # Mock responses for testing and development
│   ├── semanticcache/   # Intelligent response caching
│   └── telemetry/       # Monitoring and observability
├── docs/                # Documentation and guides
└── tests/               # Comprehensive test suites

Opciones de inicio

Elija el método de despliegue que se adapte a sus necesidades:

1. Gateway (API HTTP)

Ideal para: Integración independiente del lenguaje, microservicios y despliegues de producción

# NPX - Get started in 30 seconds
npx -y @maximhq/bifrost

# Docker - Production ready
docker run -p 8080:8080 -v $(pwd)/data:/app/data maximhq/bifrost

Características: Interfaz web, monitorización en tiempo real, gestión multi-proveedor, inicio sin configuración

Más información: Guía de configuración de Gateway

2. SDK de Go

Ideal para: Integración directa de Go con máximo rendimiento y control

go get github.com/maximhq/bifrost/core

Características: API nativas de Go, despliegue integrado, integración de middleware personalizado

Más información: Guía del SDK de Go

3. Reemplazo directo

Ideal para: Migrar aplicaciones existentes sin cambios de código

# OpenAI SDK
- base_url = "https://api.openai.com"
+ base_url = "http://localhost:8080/openai"

# Anthropic SDK
- base_url = "https://api.anthropic.com"
+ base_url = "http://localhost:8080/anthropic"

# Google GenAI SDK
- api_endpoint = "https://generativelanguage.googleapis.com"
+ api_endpoint = "http://localhost:8080/genai"

Más información: Guías de integración

Rendimiento

Bifrost añade prácticamente cero sobrecarga a sus solicitudes de IA. En pruebas de referencia sostenidas de 5,000 RPS, la puerta de enlace añadió solo 11 µs de sobrecarga por solicitud.

Aspectos destacados del rendimiento:

• Tasa de éxito perfecta - 100% de tasa de éxito de solicitudes incluso a 5k RPS

• Sobrecarga mínima - Menos de 15 µs de latencia adicional por solicitud

• Colas eficientes - Tiempos de espera promedio de sub-microsegundos

• Selección rápida de claves - ~10 ns para elegir claves API ponderadas

Pruebas de referencia completas: Análisis de rendimiento

Documentación

Documentación completa: https://docs.getbifrost.ai

Inicio rápido

• Configuración de Gateway - Despliegue de API HTTP en 30 segundos

• Configuración del SDK de Go - Integración directa de Go

• Configuración de proveedores - Configuración multi-proveedor

Características

• Soporte multi-proveedor - API única para todos los proveedores

• Integración MCP - Llamada a herramientas externas

• Caché semántica - Caché inteligente de respuestas

• Conmutación por error y equilibrio de carga - Características de fiabilidad

• Gestión de presupuestos - Control de costos y gobernanza

Integraciones

• SDK de OpenAI - Reemplazo directo de OpenAI

• SDK de Anthropic - Reemplazo directo de Anthropic

• SDK de AWS Bedrock - Integración con AWS Bedrock

• SDK de Google GenAI - Reemplazo directo de GenAI

• SDK de LiteLLM - Integración con LiteLLM

• SDK de LangChain - Integración con LangChain

Empresa

• Plugins personalizados - Amplíe la funcionalidad

• Agrupación en clústeres - Despliegue multi-nodo

• Gestión de secretos - Gestión segura de claves

• Despliegue en producción - Escalado y monitorización

¿Necesita ayuda?

Únase a nuestro Discord para soporte comunitario y discusiones.

Obtenga ayuda con:

• Asistencia para configuración rápida y resolución de problemas

• Mejores prácticas y consejos de configuración

• Discusiones comunitarias y soporte

• Ayuda en tiempo real con integraciones

Contribuciones

¡Aceptamos contribuciones de todo tipo! Consulte nuestra Guía de contribuciones para:

• Configurar el entorno de desarrollo

• Convenciones de código y mejores prácticas

• Cómo enviar solicitudes de extracción (pull requests)

• Compilar y probar localmente

Para requisitos de desarrollo e instrucciones de compilación, consulte nuestra Guía de configuración de desarrollo.

Licencia

Este proyecto está licenciado bajo la Licencia Apache 2.0; consulte el archivo LICENSE para obtener más detalles.

Construido con ❤️ por Maxim