Servidor de escaneo web MCP

Un servidor de Protocolo de Contexto de Modelo (MCP) para el escaneo y análisis de contenido web. Este servidor proporciona herramientas para obtener, analizar y extraer información de páginas web.

Características

Obtención de páginas : convierte páginas web a Markdown para facilitar su análisis
Extracción de enlaces : extrae y analiza enlaces de páginas web
Rastreo de sitios : rastree sitios web de forma recursiva para descubrir contenido
Comprobación de enlaces : identificar enlaces rotos en páginas web
Coincidencia de patrones : encuentre URL que coincidan con patrones específicos
Generación de mapas de sitios : genere mapas de sitios XML para sitios web

Instalación

Instalación mediante herrería

Para instalar Webscan para Claude Desktop automáticamente a través de Smithery :

npx -y @smithery/cli install mcp-server-webscan --client claude

Instalación manual

# Clone the repository
git clone <repository-url>
cd mcp-server-webscan

# Install dependencies
npm install

# Build the project
npm run build

Uso

Iniciando el servidor

npm start

El servidor se ejecuta en el transporte stdio, lo que lo hace compatible con clientes MCP como Claude Desktop.

Herramientas disponibles

fetch-page
- Obtiene una página web y la convierte a Markdown.
- Parámetros:
  - url (obligatorio): URL de la página a buscar.
  - selector (opcional): selector CSS para orientar contenido específico.
extract-links
- Extrae todos los enlaces de una página web con su texto.
- Parámetros:
  - url (obligatorio): URL de la página a analizar.
  - baseUrl (opcional): URL base para filtrar enlaces.
  - limit (opcional, predeterminado: 100): número máximo de enlaces a devolver.
crawl-site
- Rastrea recursivamente un sitio web hasta una profundidad específica.
- Parámetros:
  - url (obligatorio): URL inicial para rastrear.
  - maxDepth (opcional, predeterminado: 2): profundidad máxima de rastreo (0-5).
check-links
- Comprueba si hay enlaces rotos en una página.
- Parámetros:
  - url (obligatorio): URL para comprobar los enlaces.
find-patterns
- Encuentra URL que coinciden con un patrón específico.
- Parámetros:
  - url (obligatorio): URL donde buscar.
  - pattern (obligatorio): patrón de expresión regular compatible con JavaScript con el que hacer coincidir las URL.
generate-site-map
- Genera un mapa del sitio XML simple mediante rastreo.
- Parámetros:
  - url (obligatorio): URL raíz para el rastreo del mapa del sitio.
  - maxDepth (opcional, predeterminado: 2): profundidad máxima de rastreo para descubrir URL (0-5).
  - limit (opcional, predeterminado: 1000): número máximo de URL para incluir en el mapa del sitio.

Ejemplo de uso con Claude Desktop

Configure el servidor en la configuración de Claude Desktop:

{
  "mcpServers": {
    "webscan": {
      "command": "node",
      "args": ["path/to/mcp-server-webscan/build/index.js"], // Corrected path
      "env": {
        "NODE_ENV": "development",
        "LOG_LEVEL": "info" // Example: Set log level via env var
      }
    }
  }
}

Utilice las herramientas en sus conversaciones:

Could you fetch the content from https://example.com and convert it to Markdown?

Desarrollo

Prerrequisitos

Node.js >= 18
npm

Estructura del proyecto (posterior a la refactorización)

mcp-server-webscan/
├── src/
│   ├── config/
│   │   └── ConfigurationManager.ts
│   ├── services/
│   │   ├── CheckLinksService.ts
│   │   ├── CrawlSiteService.ts
│   │   ├── ExtractLinksService.ts
│   │   ├── FetchPageService.ts
│   │   ├── FindPatternsService.ts
│   │   ├── GenerateSitemapService.ts
│   │   └── index.ts
│   ├── tools/
│   │   ├── checkLinksTool.ts
│   │   ├── checkLinksToolParams.ts
│   │   ├── crawlSiteTool.ts
│   │   ├── crawlSiteToolParams.ts
│   │   ├── extractLinksTool.ts
│   │   ├── extractLinksToolParams.ts
│   │   ├── fetchPageTool.ts
│   │   ├── fetchPageToolParams.ts
│   │   ├── findPatterns.ts
│   │   ├── findPatternsToolParams.ts
│   │   ├── generateSitemapTool.ts
│   │   ├── generateSitemapToolParams.ts
│   │   └── index.ts
│   ├── types/
│   │   ├── checkLinksTypes.ts
│   │   ├── crawlSiteTypes.ts
│   │   ├── extractLinksTypes.ts
│   │   ├── fetchPageTypes.ts
│   │   ├── findPatternsTypes.ts
│   │   ├── generateSitemapTypes.ts
│   │   └── index.ts
│   ├── utils/
│   │   ├── errors.ts
│   │   ├── index.ts
│   │   ├── logger.ts
│   │   ├── markdownConverter.ts
│   │   └── webUtils.ts
│   ├── initialize.ts
│   └── index.ts    # Main server entry point
├── build/          # Compiled JavaScript (Corrected)
├── node_modules/
├── .clinerules
├── .gitignore
├── Dockerfile
├── LICENSE
├── mcp-consistant-servers-guide.md
├── package.json
├── package-lock.json
├── README.md
├── RFC-2025-001-Refactor.md
├── smithery.yaml
└── tsconfig.json

Edificio

npm run build

Modo de desarrollo

npm run dev

Manejo de errores

El servidor implementa un manejo integral de errores:

Parámetros no válidos
Errores de red
Errores de análisis de contenido
Validación de URL

Todos los errores están formateados correctamente según la especificación MCP.

Contribuyendo

Bifurcar el repositorio
Crea tu rama de funciones ( git checkout -b feature/amazing-feature )
Confirme sus cambios ( git commit -m 'Add some amazing feature' )
Empujar a la rama ( git push origin feature/amazing-feature )
Abrir una solicitud de extracción

Licencia

Licencia MIT: consulte el archivo de LICENCIA para obtener más detalles

Install Server

HTTP connection URL

security – no known vulnerabilities

license - permissive license

quality - confirmed to work

How are these scores calculated?

remote-capable server

The server can be hosted and run remotely because it primarily relies on remote services or has no dependency on the local environment.

Tools

Permite el escaneo y análisis de contenido web mediante la obtención, el análisis y la extracción de información de páginas web utilizando herramientas como obtención de páginas, extracción de enlaces, rastreo de sitios y más.

Related Resources

Reddit Discussion about this server

Related MCP Servers

Fetch MCP Server
zcaceres
A
security
A
license
A
quality
Provides functionality to fetch web content in various formats, including HTML, JSON, plain text, and Markdown.
Last updated -
4
125,855
353
TypeScript
MIT License
MCP Access Server
shin-t-o
A
security
A
license
A
quality
Enables text extraction from web pages and PDFs, and execution of predefined commands, enhancing content processing and automation capabilities.
Last updated -
3
TypeScript
MIT License
Fetch MCP Server
tokenizin
-
security
F
license
-
quality
Provides functionality to fetch web content in various formats, including HTML, JSON, plain text, and Markdown.
Last updated -
125,855
1
Fetch MCP Server
phpmac
-
security
F
license
-
quality
Provides functionality to fetch and transform web content in various formats (HTML, JSON, plain text, and Markdown) through simple API calls.
Last updated -
125,855
TypeScript

View all related MCP servers

MCP Webscan Server