WebLLMRelay — 웹 대형 언어 모델 분배 MCP

에이전트에 웹 대형 언어 모델 연결: 통합 MCP 인터페이스를 통해 웹 로그인 상태를 재사용하여 각 플랫폼 대형 언어 모델의 대화 및 이미지 생성 기능을 호출합니다 — API 키가 필요 없고, API 비용이 발생하지 않습니다. 웹 검색이 에이전트가 "자료를 찾는" 것이라면, 여기서는 에이전트가 "전문가에게 묻는" 것입니다 — 작업을 잘하는 웹 대형 언어 모델에 분배합니다.

빠른 시작

환경 요구 사항: Python 3.10 이상

1. 의존성 설치

   python -m pip install -r requirements.txt

2. 내장 브라우저 다운로드 (반드시 프로젝트 browsers/ 디렉토리에 다운로드해야 합니다. 앱은 이 위치만 인식합니다)

   set PLAYWRIGHT_BROWSERS_PATH=D:\path\to\WebLLMRelay\browsers
   python -m playwright install chromium

   ⚠️ PLAYWRIGHT_BROWSERS_PATH를 설정하지 않으면 브라우저가 시스템 캐시에 다운로드되어 시작 시 "Executable doesn't exist" 오류가 발생합니다. 국내 네트워크에서는 미러를 추가할 수 있습니다: set PLAYWRIGHT_DOWNLOAD_HOST=https://npmmirror.com/mirrors/playwright/

3. 서비스 시작: start_webllmrelay.bat (이미 실행 중이면 페이지가 열리고, 실행 중이 아니면 서비스를 시작한 후 페이지가 열립니다), 또는 python -m webllmrelay.webui_server --port 8787

4. 플랫폼 로그인: WebUI에서 대상 플랫폼의 "웹 로그인" 클릭 → 내장 브라우저 창에서 로그인 → 창 닫기, 로그인 상태가 자동으로 감지되어 저장됩니다

5. 플랫폼 검증: "테스트 대화" 클릭하여 텍스트 질의응답 검증, "테스트 이미지 생성" 클릭하여 이미지 생성 검증 (성공 시 해당 플랫폼이 자동으로 검증 완료로 표시됩니다)

6. MCP 클라이언트 연결: 클라이언트가 http://127.0.0.1:8787/mcp(HTTP)에 연결하거나, command를 입력하여 시작합니다(stdio). 자세한 구성은 WebUI 페이지의 "MCP 클라이언트 연결"을 참조하고, "복사"를 클릭하면 바로 사용할 수 있습니다.

Related MCP server: mcp-browser-use

MCP 도구

연결 후 세 가지 도구가 에이전트에 자동으로 노출됩니다. 일반적으로 수동 호출이 필요 없습니다 — 어시스턴트에게 직접 말하면 자동으로 도구를 선택합니다. 도구를 강제로 사용하려면 메시지 앞에 >를, 도구를 비활성화하려면 !를 추가하세요.

사용자: "두바오로 확인해줘: Python 3.13의 새로운 기능은 무엇인가요?" 어시스턴트: ask_web_llm(platform="doubao", prompt="Python 3.13의 새로운 기능은 무엇인가요?") 호출

ask_web_llm — 텍스트 질의응답 / 작업 분배

{"answer", "conversation_id"} 반환.

ask_web_llm_image — 이미지 생성

{"images": [{"url", "path"}], "conversation_id"} 반환:

• url: 로컬 서비스에서 제공하는 이미지 주소로, 직접 다운로드 / 표시 / 열기 가능;

• path: 이미지의 로컬 디스크 절대 경로로, 에이전트가 로컬에서 직접 읽을 수 있습니다.

이미지는 MCP가 브라우저 세션 내에서 자동으로 generated_images/에 다운로드합니다(원본 이미지의 핫링크 방지는 내부적으로 처리됨). 캐시가 100장을 초과하면 가장 오래된 것을 자동으로 정리합니다.

list_web_llms — 플랫폼 목록

매개변수 없음, [{"platform", "name", "supports_image", "verified"}] 반환, platform이 질문 도구의 값입니다.

아키텍처

webllmrelay/
├── config.py        # ProviderSpec(每平台知识)+ 平台/登录态持久化
├── browser.py       # BrowserManager:会话式浏览器生命周期、死浏览器自动恢复
├── lock.py          # 持久化浏览器 profile 互斥锁
├── adapters.py      # PlatformAdapter 接口 + CssAdapter 默认实现 + 注册表
├── providers.py     # ask_web_llm / ask_web_llm_image / list_web_llms
├── mcp.py           # MCP server 定义与工具注册
├── activity_log.py  # 活动日志(登录 / 测试 / 调用)
├── login_worker.py  # 登录窗口子进程
├── probe.py         # 平台适配诊断 CLI(接入新平台用)
├── webui.py         # FastAPI:平台管理 / 测试 / 日志
├── webui_server.py  # WebUI 启动入口
└── webui_static/    # WebUI 前端页面

요구 사항 경계

• 단일 모델 호출: 에이전트가 어떤 모델에 질문할지 스스로 결정하며, "다중 모델 비교"는 하지 않습니다.

• 답변 형식: 웹에서 반환된 내용을 그대로 사용하며, 형식 처리를 하지 않습니다.

• 로그인: 사용자가 수동으로 완료합니다(WebUI "웹 로그인"으로 브라우저 창 열기). 로그인 상태는 플랫폼별 로그인 표시 요소를 기반으로 실제 감지되며, 로그인 창이 닫힌 후 자동 감지, 카드의 "감지" 버튼으로 수동 감지합니다.

• 브라우저: Release 버전은 기본적으로 Chromium을 내장합니다(앱에 포함되어 시스템 의존성 불필요). WebUI 설정 카드에서 시스템 Edge로 전환할 수 있으며, 두 브라우저의 로그인 데이터는 서로 독립적입니다. 기본적으로 표시되어 실행되며, "에이전트 호출 시 브라우저 숨기기"를 활성화하여 조용히 실행할 수 있습니다.