WebLLMRelay — MCP de distribución de modelos grandes web

Conecta modelos grandes web a los agentes: a través de una interfaz MCP unificada, reutiliza el estado de inicio de sesión web y llama a las capacidades de chat y generación de imágenes de los modelos grandes de cada plataforma — sin necesidad de API key ni costes de API. Si la búsqueda web permite al agente «consultar información», aquí se permite al agente «preguntar a expertos» — distribuyendo las tareas al modelo grande web que mejor las maneja.

Inicio rápido

Requisitos del entorno: Python 3.10+

1. Instalar dependencias

   python -m pip install -r requirements.txt

2. Descargar el navegador integrado (debe descargarse en el directorio browsers/ del proyecto; la aplicación solo reconoce esta ubicación)

   set PLAYWRIGHT_BROWSERS_PATH=D:\path\to\WebLLMRelay\browsers
   python -m playwright install chromium

   ⚠️ Si no se establece PLAYWRIGHT_BROWSERS_PATH, el navegador se descargará en la caché del sistema y al iniciar se mostrará «Executable doesn't exist». En redes de China se puede añadir un espejo: set PLAYWRIGHT_DOWNLOAD_HOST=https://npmmirror.com/mirrors/playwright/

3. Iniciar el servicio: start_webllmrelay.bat (si ya está en ejecución, abrirá automáticamente la página; si no, iniciará el servicio y abrirá la página), o python -m webllmrelay.webui_server --port 8787

4. Iniciar sesión en la plataforma: en la WebUI, haga clic en «Inicio de sesión web» para la plataforma objetivo → inicie sesión en la ventana del navegador integrado → cierre la ventana; el estado de inicio de sesión se detecta y guarda automáticamente

5. Verificar la plataforma: haga clic en «Probar chat» para verificar las preguntas y respuestas de texto, y en «Probar generación de imágenes» para verificar la generación de imágenes (si tiene éxito, la plataforma se marca automáticamente como verificada)

6. Conectar el cliente MCP: el cliente se conecta a http://127.0.0.1:8787/mcp (HTTP), o rellene el comando para iniciarlo (stdio). Para la configuración específica, consulte «Conexión del cliente MCP» en la página WebUI; haga clic en «Copiar» para usarlo.

Related MCP server: open-use

Herramientas MCP

Tras la conexión, las tres herramientas se exponen automáticamente al agente. Normalmente no es necesario llamarlas manualmente — hable directamente con el asistente en lenguaje natural y este elegirá la herramienta automáticamente; para forzar el uso de una herramienta, añada > antes del mensaje; para deshabilitarla, añada !.

Usuario: «Consulta con Doubao: ¿cuáles son las nuevas características de Python 3.13?» Asistente: llama a ask_web_llm(platform="doubao", prompt="¿Cuáles son las nuevas características de Python 3.13?")

ask_web_llm — Preguntas y respuestas de texto / distribución de tareas

Devuelve {"answer", "conversation_id"}.

ask_web_llm_image — Generación de imágenes

Devuelve {"images": [{"url", "path"}], "conversation_id"}:

• url: dirección de la imagen proporcionada por el servicio local; se puede descargar / mostrar / abrir directamente;

• path: ruta absoluta de la imagen en el disco local; el agente puede leerla directamente de forma local.

Las imágenes se descargan automáticamente por el MCP dentro de la sesión del navegador a generated_images/ (el anti-hotlinking de las imágenes originales ya se gestiona internamente); cuando la caché supera las 100 imágenes, se limpian automáticamente las más antiguas.

list_web_llms — Listar plataformas

Sin parámetros, devuelve [{"platform", "name", "supports_image", "verified"}]; platform es el valor que se usa en la herramienta de preguntas.

Arquitectura

webllmrelay/
├── config.py        # ProviderSpec(每平台知识)+ 平台/登录态持久化
├── browser.py       # BrowserManager:会话式浏览器生命周期、死浏览器自动恢复
├── lock.py          # 持久化浏览器 profile 互斥锁
├── adapters.py      # PlatformAdapter 接口 + CssAdapter 默认实现 + 注册表
├── providers.py     # ask_web_llm / ask_web_llm_image / list_web_llms
├── mcp.py           # MCP server 定义与工具注册
├── activity_log.py  # 活动日志(登录 / 测试 / 调用)
├── login_worker.py  # 登录窗口子进程
├── probe.py         # 平台适配诊断 CLI(接入新平台用)
├── webui.py         # FastAPI:平台管理 / 测试 / 日志
├── webui_server.py  # WebUI 启动入口
└── webui_static/    # WebUI 前端页面

Límites de requisitos

• Llamada a un solo modelo: el agente decide por sí mismo a qué modelo preguntar; no se hace «comparación entre múltiples modelos».

• Formato de respuesta: lo que devuelve la página web es lo que se obtiene; no se realiza ningún formateo.

• Inicio de sesión: lo realiza manualmente el usuario (la WebUI «Inicio de sesión web» abre la ventana del navegador); el estado de inicio de sesión se detecta de forma real basándose en los elementos indicadores de inicio de sesión de cada plataforma, se detecta automáticamente al cerrar la ventana de inicio de sesión, y manualmente con el botón «Detectar» de la tarjeta.

• Navegador: la versión Release incluye Chromium integrado por defecto (empaquetado con la aplicación, sin dependencias del sistema); en la tarjeta de configuración de la WebUI se puede cambiar al Edge del sistema; los datos de inicio de sesión de ambos navegadores son independientes entre sí. Por defecto se ejecuta de forma visible; se puede activar «Ocultar el navegador al llamar al agente» para el modo silencioso.