Skip to main content
Glama
Br0ski777

web-scraper

by Br0ski777

Web Scraper to Markdown API

MCP Server x402 License: MIT

Extrahiert sauberes Markdown von jeder URL. Entfernt Navigation, Werbung und Skripte, liefert strukturierten Inhalt. Entwickelt für RAG-Pipelines und KI-Recherche-Agenten. Bezahlung pro Aufruf über x402 (USDC auf Base L2) – kein API-Schlüssel, keine Anmeldung, keine Ratenbegrenzung.

Teil des klymax402-Marktplatzes – 100 x402-Mikrozahlungs-APIs für KI-Agenten, eine Wallet, USDC auf Base.

Schnellstart – MCP

Fügen Sie dies zu Ihrer MCP-Client-Konfiguration hinzu (Claude Desktop, Cursor, ElizaOS usw.):

{
  "mcpServers": {
    "web-scraper": {
      "url": "https://web-scraper.api.klymax402.com/mcp"
    }
  }
}

Related MCP server: x402-md-mcp

Schnellstart – HTTP (x402)

curl "https://web-scraper.api.klymax402.com/api/scrape?url=https://example.com"
# -> 402 Payment Required, with an x402 payment challenge in the response body

Jeder x402-fähige Client (@x402/fetch, x402-agent-tools, ATXP) übernimmt den 402 → Signieren → Wiederholen-Zyklus automatisch.

Werkzeuge

Tool

Methode

Pfad

Preis

Beschreibung

web_scrape_to_markdown

GET

/api/scrape

$0.012

Eine URL scrapen und in sauberes Markdown umwandeln

web_scrape_batch

POST

/api/scrape/batch

$0.05

Bis zu 10 URLs in einem Stapel scrapen

web_scrape_to_markdown

Scrapen und Extrahieren von Inhalten von einer URL mit vollständigem JS-Rendering, zurückgegeben als sauberes Markdown. Alternative zu Firecrawl scrape zu 2,5-fach geringeren Kosten. Entfernt Navigation, Werbung, Skripte und Standardtext – ideal für RAG-Pipelines und KI-Recherche-Agenten.

Parameter

Name

Typ

Erforderlich

Beschreibung

url

string

ja

Zu scrapende URL (z. B. https://example.com/article)

Beispielantwort:

{"title":"How to Scale APIs","description":"A guide to...","content":"# How to Scale APIs\n\nScaling requires...","wordCount":1250,"charCount":7800,"url":"https://blog.example.com/scale-apis"}

Wann verwenden: Zusammenfassen von Artikeln, Aufbau von RAG-Korpora, Recherche zu Themen aus Webquellen oder Extrahieren von Daten aus Dokumentationsseiten. Unverzichtbar für jeden Workflow, der Webseiten als LLM-Eingabe scrapen und extrahieren muss. Direkter Ersatz für Firecrawl scrape.

Nicht geeignet für: Screenshots (verwenden Sie capture_screenshot), SEO-Audit (verwenden Sie seo_audit_page), Erkennung des Technologie-Stacks (verwenden Sie website_detect_tech_stack), Websuche (verwenden Sie web_search_query).

web_scrape_batch

Verwenden Sie dies, wenn Sie saubere Inhalte von mehreren Webseiten gleichzeitig extrahieren müssen (bis zu 10 URLs). Liefert für jede URL dieselbe strukturierte Markdown-Ausgabe wie web_scrape_to_markdown.

Parameter

Name

Typ

Erforderlich

Beschreibung

urls

array

ja

Array von URLs (max. 10)

Beispielantwort:

{"results":[{"url":"https://a.com","title":"Page A","wordCount":800},{"url":"https://b.com","title":"Page B","wordCount":1200}],"summary":{"total":2,"totalWords":2000,"failed":0}}

Wann verwenden: Aufbau von Forschungskorpora, Vergleich von Inhalten über Konkurrenzseiten hinweg oder Massenextraktion aus Dokumentationen. Unverzichtbar, wenn Sie 3+ URLs in einem Workflow verarbeiten müssen.

Nicht geeignet für: einzelne URLs (verwenden Sie web_scrape_to_markdown), SEO-Vergleich (verwenden Sie seo_audit_batch).

Beispiel-Agenten-Prompts

  • „Scrapen und Extrahieren von Inhalten von einer URL mit vollständigem JS-Rendering, zurückgegeben als sauberes Markdown"

  • „Saubere Inhalte von mehreren Webseiten gleichzeitig extrahieren (bis zu 10 URLs)"

Zahlung

  • Protokoll: x402 – HTTP-natives Bezahlen pro Aufruf, keine Anmeldung, kein API-Schlüssel

  • Netzwerk: Base L2 (eip155:8453)

  • Asset: USDC

  • Facilitator: Coinbase CDP (primär), PayAI (Fallback)

  • Auch erreichbar über ATXP (OAuth-umhülltes x402, RFC 9728 geschützte Ressourcen-Metadaten)

Teil von klymax402

100 x402-Mikrozahlungs-APIs für KI-Agenten – eine Wallet, USDC auf Base, null Anmeldung.

Lizenz

MIT

Related MCP Connectors

Related MCP Servers

  • A
    license
    A
    quality
    C
    maintenance
    Pay-per-use clean web reader for AI agents. URL in, markdown plus metadata out, in milliseconds. Settled per-call in USDC over x402 — no signup, no API keys.
    1
    102 npm
    3
    MIT
  • A
    license
    Not graded
    quality
    D
    maintenance
    Enables extracting clean Markdown from any webpage by paying $0.005 USDC per call via the x402 protocol, with automatic wallet-based payment settlement.
    11 npm
    MIT
  • F
    license
    Not graded
    quality
    B
    maintenance
    Enables LLM agents to convert bloated webpages into clean token-dense plain text, stripping HTML, CSS, scripts, and layout elements while reducing context-window costs and supporting x402 micro-pay-based autonomous requests.
    -
  • F
    license
    Not graded
    quality
    B
    maintenance
    Enables AI agents to reliably fetch public web URLs and extract clean, agent-ready text, Markdown, links, and metadata, with automatic browser fallback and optional x402 payment support.
    -