scrapling

Scrapling是一个用于提取网页数据和抓取网站的Python框架,可通过Python、命令行或AI代理获取页面、解析内容并导出结果。

查看公开 issue

挑一个能复现的小 issue,用 AI 编程助手把它修好。

分享到 X许可证: BSD-3-Clause

概述

Scrapling是一个Python网页抓取框架,既可处理单个页面,也可用于更大规模的网站抓取。它结合HTTP请求与可渲染JavaScript的浏览器,并支持与页面交互及捕获后台API调用。解析器支持CSS和XPath选择器,爬虫可并发运行、重试请求、轮换代理,并支持暂停和恢复。可通过Python库、命令行工具或MCP服务器使用,并将结果导出为JSON、CSV、XML等格式。

主要特点

  • 通过HTTP或可渲染JavaScript的浏览器获取页面,并捕获后台API调用。
  • 使用CSS、XPath、文本或正则表达式提取内容。
  • 构建支持并发、重试、代理轮换、暂停和恢复的爬虫。
  • 通过Python库、命令行工具或MCP服务器使用,并导出为JSON、JSONL、CSV或XML。

适用场景

适合需要从网页提取结构化数据或构建爬虫的开发者。当需要在同一工作流中获取页面、解析内容并导出数据时,可以选择它。

上游仓库
D4Vinci/Scrapling
GitHub 上的 fork
Guo-astro/scrapling
上游 Star 数
95k
分类
开发者工具与基础设施
编程语言
Python
许可证
BSD-3-Clause
Fork 时间
2026-10-03
同步状态
已同步上次同步 2026-11-08