Firecrawl 爬取网站

FirecrawlCrawlWebsiteTool

描述

Firecrawl 是一个用于爬取并将任意网站转换为干净 Markdown 或结构化数据的平台。

安装

• 前往 firecrawl.dev 获取 API key，并将其设置到环境变量中（FIRECRAWL_API_KEY）。
• 安装 Firecrawl SDK 和 crewai[tools] 包：

pip install firecrawl-py 'crewai[tools]'

示例

按如下方式使用 FirecrawlScrapeFromWebsiteTool，让你的智能体加载网站：

from crewai_tools import FirecrawlCrawlWebsiteTool

tool = FirecrawlCrawlWebsiteTool(url='firecrawl.dev')

参数

• api_key：可选。指定 Firecrawl API key。默认值为 FIRECRAWL_API_KEY 环境变量。
• url：开始爬取的基础 URL。
• page_options：可选。
  • onlyMainContent：可选。仅返回页面主体内容，排除 header、nav、footer 等。
  • includeHtml：可选。包含页面原始 HTML 内容。响应中会输出一个 html 键。
• crawler_options：可选。控制爬取行为的选项。
  • includes：可选。在爬取中包含的 URL 模式。
  • exclude：可选。在爬取中排除的 URL 模式。
  • generateImgAltText：可选。使用 LLM 为图片生成 alt 文本（需要付费计划）。
  • returnOnlyUrls：可选。如果为 true，则在爬取状态中只返回 URL 列表。注意：响应中的 data 会是 URL 列表，而不是文档列表。
  • maxDepth：可选。最大爬取深度。深度 1 表示基础 URL，深度 2 包含基础 URL 及其直接子页面，依此类推。
  • mode：可选。要使用的爬取模式。Fast 模式在没有 sitemap 的网站上爬取速度快 4 倍，但准确性可能较低，不应在高度依赖 JavaScript 渲染的网站上使用。
  • limit：可选。要爬取的最大页面数。
  • timeout：可选。爬取操作的超时时间（毫秒）。