跳转到内容

Firecrawl 搜索

Firecrawl 是一个用于爬取并将任意网站转换为干净 Markdown 或结构化数据的平台。

  • 前往 firecrawl.dev 获取 API key,并将其设置到环境变量中(FIRECRAWL_API_KEY)。
  • 安装 Firecrawl SDKcrewai[tools] 包:
Terminal window
pip install firecrawl-py 'crewai[tools]'

按如下方式使用 FirecrawlSearchTool,让你的智能体加载网站:

from crewai_tools import FirecrawlSearchTool
tool = FirecrawlSearchTool(query='what is firecrawl?')
  • api_key:可选。指定 Firecrawl API key。默认值为 FIRECRAWL_API_KEY 环境变量。
  • query:用于搜索的查询字符串。
  • page_options:可选。结果格式化选项。
    • onlyMainContent:可选。仅返回页面主体内容,排除 header、nav、footer 等。
    • includeHtml:可选。包含页面原始 HTML 内容。响应中会输出一个 html 键。
    • fetchPageContent:可选。获取页面的完整内容。
  • search_options:可选。控制爬取行为的选项。
    • limit:可选。要爬取的最大页面数。