Skip to main content
Glama
Br0ski777

web-scraper

by Br0ski777

Web Scraper to Markdown API

MCP Server x402 License: MIT

从任意 URL 提取干净的 markdown。去除导航/广告/脚本,返回结构化内容。专为 RAG 流水线和 AI 研究代理构建。通过 x402(Base L2 上的 USDC)按调用付费——无需 API 密钥,无需注册,无速率限制墙。

klymax402 市场的一部分——为 AI 代理提供 100 个 x402 微支付 API,一个钱包,Base 上的 USDC。

快速开始 -- MCP

添加到你的 MCP 客户端配置(Claude Desktop、Cursor、ElizaOS 等):

{
  "mcpServers": {
    "web-scraper": {
      "url": "https://web-scraper.api.klymax402.com/mcp"
    }
  }
}

Related MCP server: skim-mcp

快速开始 -- HTTP (x402)

curl "https://web-scraper.api.klymax402.com/api/scrape?url=https://example.com"
# -> 402 Payment Required, with an x402 payment challenge in the response body

任何支持 x402 的客户端(@x402/fetchx402-agent-tools、ATXP)都会自动处理 402 -> 签名 -> 重试循环。

工具

工具

方法

路径

价格

描述

web_scrape_to_markdown

GET

/api/scrape

$0.012

抓取 URL 并转换为干净的 markdown

web_scrape_batch

POST

/api/scrape/batch

$0.05

批量抓取最多 10 个 URL

web_scrape_to_markdown

抓取并提取 URL 中的内容,支持完整的 JS 渲染,返回干净的 markdown。作为 Firecrawl scrape 的替代方案,成本降低 2.5 倍。去除导航、广告、脚本和样板内容——非常适合 RAG 流水线和 AI 研究代理。

参数

名称

类型

必填

描述

url

string

要抓取的 URL(例如 https://example.com/article

示例响应:

{"title":"How to Scale APIs","description":"A guide to...","content":"# How to Scale APIs\n\nScaling requires...","wordCount":1250,"charCount":7800,"url":"https://blog.example.com/scale-apis"}

适用场景:总结文章、构建 RAG 语料库、从网络来源研究主题,或从文档页面提取数据。对于任何需要抓取网页内容并将其作为 LLM 输入的工作流来说都是必不可少的。可直接替代 Firecrawl scrape。

不适用场景:截图(使用 capture_screenshot)、SEO 审计(使用 seo_audit_page)、技术栈检测(使用 website_detect_tech_stack)、网络搜索(使用 web_search_query)。

web_scrape_batch

当你需要一次性从多个网页(最多 10 个 URL)提取干净内容时使用此工具。为每个 URL 返回与 web_scrape_to_markdown 相同的结构化 markdown 输出。

参数

名称

类型

必填

描述

urls

array

URL 数组(最多 10 个)

示例响应:

{"results":[{"url":"https://a.com","title":"Page A","wordCount":800},{"url":"https://b.com","title":"Page B","wordCount":1200}],"summary":{"total":2,"totalWords":2000,"failed":0}}

适用场景:构建研究语料库、比较竞争对手页面的内容,或批量提取文档。当你在一个工作流中需要处理 3 个以上 URL 时必不可少。

不适用场景:单个 URL(使用 web_scrape_to_markdown)、SEO 对比(使用 seo_audit_batch)。

示例代理提示词

  • "抓取并提取 URL 中的内容,支持完整的 JS 渲染,返回干净的 markdown"

  • "一次性从多个网页(最多 10 个 URL)提取干净内容"

支付

  • 协议:x402 -- 原生 HTTP 按调用付费,无需注册,无需 API 密钥

  • 网络:Base L2(eip155:8453

  • 资产:USDC

  • 促进者:Coinbase CDP(主要)、PayAI(备用)

  • 也可通过 ATXP 访问(OAuth 封装的 x402,RFC 9728 受保护资源元数据)

klymax402 的一部分

为 AI 代理提供 100 个 x402 微支付 API——一个钱包,Base 上的 USDC,零注册。

许可证

MIT

A
license - permissive license
Not graded
quality - not tested
D
maintenance

Maintenance

Maintainers
Response time
Release cycle
Releases (12mo)
Commit activity

Resources

Unclaimed servers have limited discoverability.

Looking for Admin?

If you are the server author, to access and configure the admin panel.

Related MCP Servers

  • A
    license
    A
    quality
    B
    maintenance
    Pay-per-use clean web reader for AI agents. URL in, markdown plus metadata out, in milliseconds. Settled per-call in USDC over x402 — no signup, no API keys.
    1
    85
    2
    MIT
  • A
    license
    Not graded
    quality
    C
    maintenance
    Enables extracting clean Markdown from any webpage by paying $0.005 USDC per call via the x402 protocol, with automatic wallet-based payment settlement.
    14
    MIT
  • A
    license
    A
    quality
    B
    maintenance
    Enables AI agents to read web pages reliably, returning clean markdown content, hyperlinks, and metadata without navigation or ad noise.
    3
    14
    MIT

View all related MCP servers

Related MCP Connectors

  • Web scraping for AI agents. Converts URLs to clean, LLM-ready Markdown with anti-bot bypass.

  • Web intelligence for AI agents: fetch, render, extract, research. x402 micropayments, no API keys.

  • Web reader for AI agents — output ~4x smaller than raw HTML. Card API key or x402. Free tier.

View all MCP Connectors

Latest Blog Posts

MCP directory API

We provide all the information about MCP servers via our MCP API.

curl -X GET 'https://glama.ai/api/mcp/v1/servers/Br0ski777/web-scraper-x402'

If you have feedback or need assistance with the MCP directory API, please join our Discord server