Skip to main content
Glama
trsdn

UIAutomationMcp

by trsdn

UIAutomationMcp

License: MIT .NET Platform

Kit de herramientas de UI Automation para Windows con tres puntos de entrada alineados:

  • CLI (uiamcp)

  • Servidor MCP (UIAutomationMcp.McpServer)

  • Extensión de VS Code (uia-mcp)

Instalación

Extensión de VS Code (recomendada): busque «UI Automation MCP» en Marketplace o instale el archivo UIAutomationMcp-<version>.vsix desde la última versión. Es autocontenida; incluye el servidor MCP, la CLI y ambas habilidades de agente.

Claude Desktop — descargue uia-mcp-<version>.mcpb de la última versión y haga doble clic en él.

Herramientas .NET de NuGet

dotnet tool install --global UIAutomationMcp.McpServer   # MCP server -> uiamcp-server
dotnet tool install --global UIAutomationMcp.CLI         # CLI        -> uiamcp

ZIP independiente — UIAutomationMcp-MCP-Server-<version>-windows.zip contiene el servidor MCP y la CLI autocontenidos; no se requiere runtime de .NET.

Se requiere Windows y una sesión de escritorio interactiva. UI Automation no puede ejecutarse en modo headless.

Related MCP server: windows2text

Linaje

Este repositorio forma parte del linaje más amplio de automatización MCP y conserva deliberadamente la atribución al trabajo anterior de Stefan Brönner.

También mantiene la referencia histórica a Excel MCP como proyecto hermano relacionado dentro de ese linaje, aunque este repositorio se centra en Windows UI Automation.

Qué hace

  • Inicia un cliente tipado de UI Automation a través de Interop.UIAutomationClient

  • Lee metadatos detallados de la raíz del escritorio y del elemento enfocado, incluidos los límites, los identificadores de tempo de ejecución y los patrones admitidos

  • Resuelve elementos a partir de identificadores de ventana nativos y coordenadas de pantalla

  • Busca en los árboles de UIA por nombre, nombre de clase, ID de automatización, ID de framework, tipo de control e ID de proceso

  • Enumera los hijos directos desde las vistas de árbol sin procesar, de control o de contenido

  • Enumera los descendientes desde las vistas de árbol sin procesar, de control o de contenido

  • Recorre el árbol de UIA con los recorridores de las vistas sin procesar, de control y de contenido

  • Admite solicitudes de creación de caché para inspección, búsqueda y navegación

  • Lee los estados de texto, selección y patrones de teclado

  • Espera eventos de foco, de automatización, de cambio de propiedad y de cambio de estructura

  • Realiza acciones comunes, como dar foco, invocar, asignar valores, alternar, expandir/contraer, seleccionar, cambiar el estado de la ventana, mover/redimensionar, desplazarse y actualizar valores de rango

  • Expone la misma superficie más amplia a través de la CLI y de MCP

  • Empaqueta la CLI y el servidor MCP dentro de la extensión de VS Code

Estructura del repositorio

  • src\UIAutomationMcp.ComInterop

  • src\UIAutomationMcp.Service

  • src\UIAutomationMcp.CLI

  • src\UIAutomationMcp.McpServer

  • src\UIAutomationMcp.Smoke

  • vscode-extension

  • mcpb — fuentes y script de compilación del paquete para Claude Desktop

  • skills — habilidades de agente para uia-cli y uia-mcp

Compilar y validar

dotnet build .\UIAutomationMcp.sln -c Release
.\src\UIAutomationMcp.Smoke\bin\Release\net9.0-windows\UIAutomationMcp.Smoke.exe
.\src\UIAutomationMcp.CLI\bin\Release\net9.0-windows\uiamcp.exe inspect --root --cache
.\src\UIAutomationMcp.CLI\bin\Release\net9.0-windows\uiamcp.exe find --focused --scope children --max-results 10 --cache
.\src\UIAutomationMcp.CLI\bin\Release\net9.0-windows\uiamcp.exe children --focused --view raw --max-results 10
.\src\UIAutomationMcp.CLI\bin\Release\net9.0-windows\uiamcp.exe descendants --focused --view raw --max-results 25
.\src\UIAutomationMcp.CLI\bin\Release\net9.0-windows\uiamcp.exe wait-event --event-kind focus --timeout-ms 500
.\src\UIAutomationMcp.CLI\bin\Release\net9.0-windows\uiamcp.exe action focus --focused

Documentación relacionada

Related MCP Connectors

Related MCP Servers

  • A
    license
    Not graded
    quality
    B
    maintenance
    Enables AI agents to select Windows desktop UI elements, windows, or screen regions via mouse hover, then obtain context through UI Automation, screenshots, and local OCR for MCP-compatible clients.
    2
    MIT
  • A
    license
    Not graded
    quality
    C
    maintenance
    Enables Windows UI Automation screen-to-text and computer-use via MCP, allowing agents to observe, decide, and act on Windows applications through accessibility data without OCR.
    MIT
  • A
    license
    Not graded
    quality
    C
    maintenance
    Enables MCP clients to observe and control the Windows desktop through the UI Automation accessibility tree — no vision model required — by exposing tools for reading windows and interactive elements, clicking, typing, scrolling, shortcuts, PowerShell, screenshots, virtual desktops, web scraping, file operations and persistent memory, including background-window control without stealing focus. An optional agent mode adds a single natural-language task tool that runs the full upstream agent loop when an LLM provider is configured.
    1
    MIT
  • A
    license
    Not graded
    quality
    B
    maintenance
    Enables an MCP host to observe and control Windows desktop applications deterministically: reading UIA control trees, OCR text and pixel diffs, clicking, typing, scrolling and window management, plus verbatim text reading/appending via ValuePattern/TextPattern. Visual judgment is delegated back to the host model's own multimodal context through annotated screenshots, numbered element cards, grid maps and crosshair zoom-ins, so no separate vision model is needed.
    AGPL 3.0