web-scraper
Web Scraper to Markdown API
从任意 URL 提取干净的 markdown。去除导航/广告/脚本,返回结构化内容。专为 RAG 流水线和 AI 研究代理构建。通过 x402(Base L2 上的 USDC)按调用付费——无需 API 密钥,无需注册,无速率限制墙。
klymax402 市场的一部分——为 AI 代理提供 100 个 x402 微支付 API,一个钱包,Base 上的 USDC。
快速开始 -- MCP
添加到你的 MCP 客户端配置(Claude Desktop、Cursor、ElizaOS 等):
{
"mcpServers": {
"web-scraper": {
"url": "https://web-scraper.api.klymax402.com/mcp"
}
}
}Related MCP server: skim-mcp
快速开始 -- HTTP (x402)
curl "https://web-scraper.api.klymax402.com/api/scrape?url=https://example.com"
# -> 402 Payment Required, with an x402 payment challenge in the response body任何支持 x402 的客户端(@x402/fetch、x402-agent-tools、ATXP)都会自动处理 402 -> 签名 -> 重试循环。
工具
工具 | 方法 | 路径 | 价格 | 描述 |
| GET |
| $0.012 | 抓取 URL 并转换为干净的 markdown |
| POST |
| $0.05 | 批量抓取最多 10 个 URL |
web_scrape_to_markdown
抓取并提取 URL 中的内容,支持完整的 JS 渲染,返回干净的 markdown。作为 Firecrawl scrape 的替代方案,成本降低 2.5 倍。去除导航、广告、脚本和样板内容——非常适合 RAG 流水线和 AI 研究代理。
参数
名称 | 类型 | 必填 | 描述 |
| string | 是 | 要抓取的 URL(例如 https://example.com/article) |
示例响应:
{"title":"How to Scale APIs","description":"A guide to...","content":"# How to Scale APIs\n\nScaling requires...","wordCount":1250,"charCount":7800,"url":"https://blog.example.com/scale-apis"}适用场景:总结文章、构建 RAG 语料库、从网络来源研究主题,或从文档页面提取数据。对于任何需要抓取网页内容并将其作为 LLM 输入的工作流来说都是必不可少的。可直接替代 Firecrawl scrape。
不适用场景:截图(使用 capture_screenshot)、SEO 审计(使用 seo_audit_page)、技术栈检测(使用 website_detect_tech_stack)、网络搜索(使用 web_search_query)。
web_scrape_batch
当你需要一次性从多个网页(最多 10 个 URL)提取干净内容时使用此工具。为每个 URL 返回与 web_scrape_to_markdown 相同的结构化 markdown 输出。
参数
名称 | 类型 | 必填 | 描述 |
| array | 是 | URL 数组(最多 10 个) |
示例响应:
{"results":[{"url":"https://a.com","title":"Page A","wordCount":800},{"url":"https://b.com","title":"Page B","wordCount":1200}],"summary":{"total":2,"totalWords":2000,"failed":0}}适用场景:构建研究语料库、比较竞争对手页面的内容,或批量提取文档。当你在一个工作流中需要处理 3 个以上 URL 时必不可少。
不适用场景:单个 URL(使用 web_scrape_to_markdown)、SEO 对比(使用 seo_audit_batch)。
示例代理提示词
"抓取并提取 URL 中的内容,支持完整的 JS 渲染,返回干净的 markdown"
"一次性从多个网页(最多 10 个 URL)提取干净内容"
支付
协议:x402 -- 原生 HTTP 按调用付费,无需注册,无需 API 密钥
网络:Base L2(
eip155:8453)资产:USDC
促进者:Coinbase CDP(主要)、PayAI(备用)
也可通过 ATXP 访问(OAuth 封装的 x402,RFC 9728 受保护资源元数据)
klymax402 的一部分
为 AI 代理提供 100 个 x402 微支付 API——一个钱包,Base 上的 USDC,零注册。
完整 API 参考:https://klymax402.com/llms-full.txt
许可证
MIT
This server cannot be installed
Maintenance
Resources
Unclaimed servers have limited discoverability.
Looking for Admin?
If you are the server author, to access and configure the admin panel.
Related MCP Servers
- FlicenseNot gradedqualityDmaintenanceExtracts the content from any URL and returns it in clean, optimized Markdown for LLMs. Supports standalone monetization via Dodo Payments (HTTP 402).131
- AlicenseAqualityBmaintenancePay-per-use clean web reader for AI agents. URL in, markdown plus metadata out, in milliseconds. Settled per-call in USDC over x402 — no signup, no API keys.1852MIT
- AlicenseNot gradedqualityCmaintenanceEnables extracting clean Markdown from any webpage by paying $0.005 USDC per call via the x402 protocol, with automatic wallet-based payment settlement.14MIT
- AlicenseAqualityBmaintenanceEnables AI agents to read web pages reliably, returning clean markdown content, hyperlinks, and metadata without navigation or ad noise.314MIT
Related MCP Connectors
Web scraping for AI agents. Converts URLs to clean, LLM-ready Markdown with anti-bot bypass.
Web intelligence for AI agents: fetch, render, extract, research. x402 micropayments, no API keys.
Web reader for AI agents — output ~4x smaller than raw HTML. Card API key or x402. Free tier.
Latest Blog Posts
- Who's Calling? MCP Hosts Are an Identity Blind Spot (And the Spec Knows It)By Om-Shree-0709 on .mcpAgent IdentityOAuth 2.1
- Your AI Chatbot Just Exposed Your CEO's Salary to an InternBy Om-Shree-0709 on .Agent IdentityMCP SecurityOAuth Delegation
- Why MCP Servers Need Execution Sandboxing (And Why Your Current Stack Isn't Enough)By Om-Shree-0709 on .Agentic AiPrompt InjectionWebAssembly
MCP directory API
We provide all the information about MCP servers via our MCP API.
curl -X GET 'https://glama.ai/api/mcp/v1/servers/Br0ski777/web-scraper-x402'
If you have feedback or need assistance with the MCP directory API, please join our Discord server