英文原文: https://argusic.com/subject/deepcrawl

deepcrawl

100% 免费且完全开源的 Firecrawl 边缘替代品，为 agents 提供更好的链接提取，你可以自行部署到 cloudflare 或 vercel。

可运行来源：GitHub项目主页TypeScriptMITcommit 964de4b1fac9

TypeScript，MIT 许可证. 项目的自我描述：ai agent tools、ai sdk、better auth、cloudflare workers、crawling、deepcrawl、hono 和 html cleaner.

deepcrawl 可以运行。一个 Argusic agent 在一台没有 GPU 的干净机器上用 18 分钟完成了安装，遇到 6 个错误，整个会话都被记录了下来。

Dependencies installed, SDK tests pass (41/41), full monorepo build and typecheck pass, and the dashboard serves HTTP 200 on / and /docs in both dev and production modes; the V0 API worker served 200 on /, /docs and /openapi in local mode with D1 migrations applied.

agent 在干净的机器上最终得到的结果，用它自己的话说。 测量方式

每一次都由 Argusic 在全新机器上实测。每个数字都链接到对应的证据。 Argusic 评分 93.3，满分 100（该项目各次运行得分的平均值）。

概览

结论
可运行
Argusic 评分
93.3 / 100
验证运行的成本
0.56 USD（实测）
已记录的运行次数
1
最近测试
星标
696
fork 数
82
未关闭的 issue
2
关注者
5
大小
7 MB
创建于
最近推送

项目数据来自 GitHub，链接见本页顶部，更新于 。测试数据由 Argusic 提供 (CC BY 4.0)；每个数字都链接到一个运行页面，附完整的 log、录屏及其 sha256 哈希。

测量了什么

来自决定该结论的那次运行。 每一行都是记录下来的数值，而非估算。

测试 deepcrawl 时每个故障耗费的时间，取自已记录的运行
每一根柱子都是 agent 记录的一次失败，以及它耗费的时间。数据仅取自本次运行。

哪里出了问题，用 agent 自己的话说

agent 的原话，最严重的排在最前，从不改写成建议。

  • Wrangler dev requires CLOUDFLARE_API_TOKEN and reaches remote D1/KV/service bindings by default (wrangler.jsonc marks them remote)5 分钟
  • Auth package fails to load: better-auth-harmony requires validator/es/lib/isEmail.cjs which doesn't exist in validator 13.155 分钟
  • tsdown build needs Node>=20 (node:util.styleText), container has Node 183 分钟
  • rolldown missing native binding @rolldown/binding-linux-x64-gnu3 分钟
  • Dashboard build failed: [getBaseURL] URL is not defined2 分钟
  • Root env:generate fails: no tsx dependency
安装时间
18 分钟
从冷启动机器到完成
33 分钟
遇到并修复的错误
遇到 6 个，在无人协助的情况下修复了 4 个
结果是如何证明的
pnpm -C packages/sdks/js-ts test exited 0, 41 passed; pnpm build exited 0 (3 tasks); curl -s -o /dev/null -w %{http_code} http://localhost:3100/ returned 200 (dev and next start); curl http://localhost:8080/ returned 200 on wrangler local dev
使用的模型 token
2,460,309
测试的确切 commit
964de4b1fac9
容器镜像
sha256:cdd920bce783

没有测量什么

另一半内容，让你清楚看到这些证据能说明到什么程度。缺失的数据就标为缺失，从不填补。

GPU 显存峰值
本次运行在 CPU 机器上进行，没有可采样的 GPU
长时间运行的表现
每次尝试都使用文档中最小的设置和固定的时间预算，因此这里测量的是它能否运行，而不是它在负载下的表现

观看会话

完整的运行过程，从一台干净的机器开始，按实际速度播放。没有剪辑，也没有加速。

第 1 次尝试的录屏，运行于 ，即决定上述结论的那次尝试。 制作该视频所用的终端录屏是证据，连同 sha256 指纹一起保存；视频只是由它渲染而成。 在你点击播放之前，不会从视频托管方加载任何内容。

录屏的结尾

决定该结论的终端会话的最后几行，与录制时完全一致。

- Dashboard dev: `GET /` → 200, `GET /docs` → 200.
- Dashboard production (`next start` after `next build`): `GET /` → 200, `GET /docs` → 200.
- V0 API worker (`wrangler dev` with local D1/KV and local migrations applied): `GET /` → 200 (retu…
**Errors found and fixed**
- Node 18 too old for `tsdown` (needs `node:util.styleText`) → installed Node 22.14.0 into `/tmp` a…
- Missing `@rolldown/binding-linux-x64-gnu` native binding → added it as an explicit devDependency …
- Dashboard build failed (`getBaseURL: URL is not defined`) → supplied the documented env vars.
- Wrangler default config points D1/KV/service bindings at remote Cloudflare, which requires real C…
**Not fixable without real credentials/deps**
- Default `dev:workers` needs Cloudflare remote resources or an account token.
- `@deepcrawl/auth` module load fails at runtime because `better-auth-harmony` requires `validator/…
That means `launch_succeeded` is based on the verified dashboard + worker + SDK suite, and coverage…

回放完整会话，从干净的机器到此刻的每一条命令。

测试方式

一个 agent，一个容器，没有人工协助。它按照项目自身文档所写的方式安装项目，运行它，并修复出错的地方。下面的一切都按实际发生的过程记录：终端会话、log 和确切的 commit。 完整方法论.

优势与局限

均为实测事实，而非观点。内容是如何撰写的.

顺利的部分

  • 在干净的机器上达到了运行状态，会话有完整记录。
  • 用 18 分钟完成安装。
  • 无需 GPU 即可运行，因此启动它并不需要 GPU。
  • 采用 MIT 许可证，以其托管平台报告的信息为准。

不顺利或尚不清楚的部分

  • 搭建过程中遇到 6 个错误，其中 2 个没有解决。
  • 目前只测量过一次。单次尝试只能说明它可以运行，不能说明它能稳定运行。

适合用于

  • 在笔记本电脑或小型服务器上试用：它无需 GPU 即达到了运行状态。

同一领域中也测试过的项目

这里的每个项目都由 Argusic 在干净的机器上安装并运行过。未经测试的项目不会出现在这里。

  • Scrapling 已验证可运行 · Python · 3 个共同主题
  • siteone-crawler 已验证可运行 · Rust · 3 个共同主题
  • crawler 已验证可运行 · PHP · 3 个共同主题
  • teracrawl 已验证可运行 · TypeScript · 3 个共同主题
  • scrapy 已验证可运行 · Python · 2 个共同主题
  • crawlee-python 已验证可运行 · Python · 2 个共同主题

运行历史

测试者尝试结果评分成本 USD时间
Argusic Runner1/3可运行93.330.56

主题 (来自 GitHub)

ai-agent-toolsai-sdkbetter-authcloudflare-workerscrawlingdeepcrawlhonohtml-cleanerhtml-to-markdownlinks-extractionlinks-treenextjsnextjs16orpctypescriptweb-scraperweb-scraping

嵌入徽章

用于项目 README 的 Markdown。徽章链接回本页；使用条款见 条款页面.

[![Tested by Argusic](https://argusic.com/badge/deepcrawl.svg)](https://argusic.com/subject/deepcrawl)

常见问题

deepcrawl 能运行吗？
是的。deepcrawl 可以运行. Argusic 在一台干净的机器上安装并启动了它，用时 18 分钟，过程中遇到 6 个错误，并记录了整个会话。
Argusic 是如何测试 deepcrawl 的？
在一台全新的一次性机器上进行，每条命令都被记录，仓库固定在 commit 964de4b1fac9。共记录了 1 次尝试，完整方法见方法论页面。
测试 deepcrawl 花了多少钱？
得出该结论的那次运行花费 0.56 USD：这是真实的算力和模型成本，而不是按每百万 token 计的标价。该数字记录在那次运行的页面上。
deepcrawl 安装需要多长时间？
在决定该结论的那次运行中，从干净的机器到运行状态用了 18 分钟。这是一次实测的尝试，不是平均值。
deepcrawl 需要 GPU 吗？
启动它不需要。Argusic 在一台没有 GPU 的机器上让它达到了运行状态。
安装 deepcrawl 时会出现什么问题？
已记录的运行中出现了 6 个问题，其中 4 个在无人协助的情况下被修复。每个问题及其耗费的时间都列在本页上。
deepcrawl 的证据在哪里？
这次已记录的运行都在本页上，每次都链接到完整的 log 和终端录屏，并连同 sha256 指纹一起保存，因此无法被悄悄篡改。

Discussion