WebLLMRelay — Web-LLM-Verteilungs-MCP für Seiten

Binden Sie Web-LLMs in Ihren Agenten ein: Über eine einheitliche MCP-Schnittstelle wird der Web-Login-Status wiederverwendet, um die Dialog- und Bildgenerierungsfunktionen der LLMs verschiedener Plattformen aufzurufen — ohne API-Key, ohne API-Kosten. Wenn Websuche den Agenten "Informationen nachschlagen" lässt, geht es hier darum, den Agenten "Experten zu fragen" — Aufgaben werden an das Web-LLM verteilt, das dafür geeignet ist.

Schnellstart

Umgebungsanforderungen: Python 3.10+

1. Abhängigkeiten installieren

   python -m pip install -r requirements.txt

2. Integrierten Browser herunterladen (muss in das Projektverzeichnis browsers/ heruntergeladen werden, die Anwendung erkennt nur diesen Speicherort)

   set PLAYWRIGHT_BROWSERS_PATH=D:\path\to\WebLLMRelay\browsers
   python -m playwright install chromium

   ⚠️ Wenn PLAYWRIGHT_BROWSERS_PATH nicht gesetzt ist, wird der Browser in den Systemcache heruntergeladen, und beim Start erscheint die Meldung „Executable doesn't exist". Bei inländischen Netzwerken kann ein Mirror hinzugefügt werden: set PLAYWRIGHT_DOWNLOAD_HOST=https://npmmirror.com/mirrors/playwright/

3. Dienst starten: start_webllmrelay.bat (wenn bereits ausgeführt, wird die Seite automatisch geöffnet; wenn nicht ausgeführt, wird der Dienst gestartet und die Seite geöffnet), oder python -m webllmrelay.webui_server --port 8787

4. Bei Plattformen anmelden: In der WebUI bei der Zielplattform auf „Web-Login" klicken → im integrierten Browserfenster anmelden → Fenster schließen, der Login-Status wird automatisch erkannt und gespeichert

5. Plattform verifizieren: Auf „Test-Dialog" klicken, um Text-Q&A zu verifizieren, auf „Test-Bildgenerierung" klicken, um die Bildgenerierung zu verifizieren (bei Erfolg wird die Plattform automatisch als verifiziert markiert)

6. MCP-Client anbinden: Der Client verbindet sich mit http://127.0.0.1:8787/mcp (HTTP) oder füllt command zum Starten aus (stdio). Die spezifische Konfiguration finden Sie auf der WebUI-Seite unter „MCP-Client-Anbindung", auf „Kopieren" klicken und direkt verwenden.

Related MCP server: open-use

MCP-Tools

Nach der Anbindung werden dem Agenten automatisch drei Tools bereitgestellt. Ein manueller Aufruf ist in der Regel nicht erforderlich — sprechen Sie einfach in natürlicher Sprache mit dem Assistenten, er wählt das Tool automatisch aus; um ein Tool zu erzwingen, stellen Sie > vor die Nachricht; um Tools zu deaktivieren, fügen Sie ! hinzu.

Benutzer: „Frag Doubao: Was sind die neuen Funktionen von Python 3.13?" Assistent: ruft ask_web_llm(platform="doubao", prompt="Was sind die neuen Funktionen von Python 3.13?") auf

ask_web_llm — Text-Q&A / Aufgabenverteilung

Gibt {"answer", "conversation_id"} zurück.

ask_web_llm_image — Bildgenerierung

Gibt {"images": [{"url", "path"}], "conversation_id"} zurück:

• url: Bildadresse, die vom lokalen Dienst bereitgestellt wird, kann direkt heruntergeladen / angezeigt / geöffnet werden;

• path: Absoluter Pfad des Bildes auf der lokalen Festplatte, der Agent kann es lokal direkt lesen.

Bilder werden vom MCP automatisch innerhalb der Browsersitzung in generated_images/ heruntergeladen (Hotlink-Schutz des Originalbildes wird intern behandelt), bei über 100 zwischengespeicherten Bildern werden automatisch die ältesten bereinigt.

list_web_llms — Plattformen auflisten

Keine Parameter, gibt [{"platform", "name", "supports_image", "verified"}] zurück, platform ist der Wert für das Fragetool.

Architektur

webllmrelay/
├── config.py        # ProviderSpec(每平台知识)+ 平台/登录态持久化
├── browser.py       # BrowserManager:会话式浏览器生命周期、死浏览器自动恢复
├── lock.py          # 持久化浏览器 profile 互斥锁
├── adapters.py      # PlatformAdapter 接口 + CssAdapter 默认实现 + 注册表
├── providers.py     # ask_web_llm / ask_web_llm_image / list_web_llms
├── mcp.py           # MCP server 定义与工具注册
├── activity_log.py  # 活动日志(登录 / 测试 / 调用)
├── login_worker.py  # 登录窗口子进程
├── probe.py         # 平台适配诊断 CLI(接入新平台用)
├── webui.py         # FastAPI:平台管理 / 测试 / 日志
├── webui_server.py  # WebUI 启动入口
└── webui_static/    # WebUI 前端页面

Anforderungsgrenzen

• Einzelmodell-Aufruf: Der Agent entscheidet selbst, welches Modell er fragt, kein „Multi-Modell-Vergleich".

• Antwortformat: Was die Webseite zurückgibt, wird unverändert übernommen, keine Formatierung.

• Login: Wird manuell vom Benutzer durchgeführt (WebUI „Web-Login" öffnet ein Browserfenster); der Login-Status basiert auf der echten Erkennung der Login-Indikatorelemente pro Plattform, wird nach dem Schließen des Login-Fensters automatisch erkannt, die Schaltfläche „Erkennen" auf der Karte erkennt manuell.

• Browser: Die Release-Version enthält standardmäßig Chromium (mit der Anwendung gebündelt, keine Systemabhängigkeiten), in der WebUI-Einstellungskarte kann auf systemeigenes Edge umgeschaltet werden, die Login-Daten der beiden Browser sind voneinander unabhängig. Standardmäßig sichtbar im Betrieb, „Browser bei Agentenaufruf ausblenden" kann für den stillen Modus aktiviert werden.