Bản gốc tiếng Anh: https://argusic.com/subject/deepcrawl
deepcrawl
Giải pháp thay thế Firecrawl chạy trên edge, 100% miễn phí và hoàn toàn mã nguồn mở, với khả năng trích xuất liên kết tốt hơn cho agents, mà bạn có thể tự triển khai lên cloudflare hoặc vercel.
Chạy đượcnguồn: GitHubtrang chủ dự ánTypeScriptMITcommit 964de4b1fac9
TypeScript, giấy phép MIT. Dự án tự gắn nhãn: ai agent tools, ai sdk, better auth, cloudflare workers, crawling, deepcrawl, hono và html cleaner.
deepcrawl chạy được. Trên một máy sạch không có GPU, một agent của Argusic đã cài đặt nó trong 18 phút, gặp 6 lỗi, và toàn bộ phiên làm việc được ghi lại.
Dependencies installed, SDK tests pass (41/41), full monorepo build and typecheck pass, and the dashboard serves HTTP 200 on / and /docs in both dev and production modes; the V0 API worker served 200 on /, /docs and /openapi in local mode with D1 migrations applied.
Kết quả agent đạt được trên máy sạch, bằng chính lời của nó. Cách đo
Argusic đo trên một máy mới mỗi lần. Mỗi con số đều link tới bằng chứng của nó. Điểm Argusic 93,3 trên 100 (trung bình điểm các lần chạy của dự án này).
Tóm tắt
Dữ liệu dự án lấy từ GitHub, có link ở đầu trang, cập nhật . Dữ liệu test của Argusic (CC BY 4.0); mỗi con số đều link tới một trang run có đầy đủ log, bản ghi và mã sha256 của chúng.
Những gì đã đo
Lấy từ lần chạy quyết định kết luận này. Mỗi dòng là một giá trị được ghi lại, không phải ước tính.
Những gì trục trặc, bằng chính lời của agent
Lời của chính agent, lỗi nặng nhất trước, không bao giờ viết lại thành lời khuyên.
- Wrangler dev requires CLOUDFLARE_API_TOKEN and reaches remote D1/KV/service bindings by default (wrangler.jsonc marks them remote)5 phút
- Auth package fails to load: better-auth-harmony requires validator/es/lib/isEmail.cjs which doesn't exist in validator 13.155 phút
- tsdown build needs Node>=20 (node:util.styleText), container has Node 183 phút
- rolldown missing native binding @rolldown/binding-linux-x64-gnu3 phút
- Dashboard build failed: [getBaseURL] URL is not defined2 phút
- Root env:generate fails: no tsx dependency
- Thời gian cài đặt
- 18 phút
- Từ máy sạch đến khi xong
- 33 phút
- Lỗi gặp và đã sửa
- gặp 6, tự sửa 4 mà không cần người giúp
- Cách chứng minh kết quả
- pnpm -C packages/sdks/js-ts test exited 0, 41 passed; pnpm build exited 0 (3 tasks); curl -s -o /dev/null -w %{http_code} http://localhost:3100/ returned 200 (dev and next start); curl http://localhost:8080/ returned 200 on wrangler local dev
- Số token model đã dùng
- 2.460.309
- Commit chính xác đã test
- 964de4b1fac9
- Container image
- sha256:cdd920bce783
Những gì chưa đo
Nửa còn lại, để bạn thấy rõ bằng chứng này đi xa tới đâu. Chỗ trống được ghi là chỗ trống và không bao giờ được lấp vào.
- Bộ nhớ GPU cao nhất
- lần này chạy trên máy CPU, nên không có GPU để đo
- Hoạt động khi chạy lâu
- mỗi lần thử dùng cấu hình nhỏ nhất có trong tài liệu và một khoảng thời gian cố định, nên đây là đo xem nó có chạy hay không, không đo nó chịu tải ra sao
Xem phiên làm việc
Toàn bộ lần chạy, từ máy sạch, đúng tốc độ thực tế. Không cắt và không tua nhanh đoạn nào.
Bản ghi của lần thử 1, chạy ngày , lần thử đã quyết định kết luận ở trên. Bản terminal recording dùng để làm video này là bằng chứng, được lưu với dấu vân tay sha256; video chỉ là bản dựng từ nó. Không có gì tải từ trang chứa video cho tới khi bạn bấm phát.
Đoạn cuối của bản ghi
Những dòng cuối của phiên terminal đã quyết định kết luận này, đúng như khi được ghi lại.
- Dashboard dev: `GET /` → 200, `GET /docs` → 200. - Dashboard production (`next start` after `next build`): `GET /` → 200, `GET /docs` → 200. - V0 API worker (`wrangler dev` with local D1/KV and local migrations applied): `GET /` → 200 (retu… **Errors found and fixed** - Node 18 too old for `tsdown` (needs `node:util.styleText`) → installed Node 22.14.0 into `/tmp` a… - Missing `@rolldown/binding-linux-x64-gnu` native binding → added it as an explicit devDependency … - Dashboard build failed (`getBaseURL: URL is not defined`) → supplied the documented env vars. - Wrangler default config points D1/KV/service bindings at remote Cloudflare, which requires real C… **Not fixable without real credentials/deps** - Default `dev:workers` needs Cloudflare remote resources or an account token. - `@deepcrawl/auth` module load fails at runtime because `better-auth-harmony` requires `validator/… That means `launch_succeeded` is based on the verified dashboard + worker + SDK suite, and coverage…
Xem lại toàn bộ phiên, mọi lệnh từ máy sạch tới thời điểm này.
Cách test
Một agent, một container, không có người giúp. Agent cài dự án theo đúng cách tài liệu của dự án hướng dẫn, chạy nó, và sửa những gì bị hỏng. Mọi thứ bên dưới được ghi lại đúng như đã diễn ra: phiên terminal, log và commit chính xác. Toàn bộ phương pháp.
Điểm mạnh và giới hạn
Dữ kiện đo được, không phải ý kiến. Cách viết nội dung.
Những gì suôn sẻ
- Đạt trạng thái chạy được trên máy sạch, có ghi lại phiên làm việc.
- Cài đặt trong 18 phút.
- Chạy được không cần GPU, nên không cần GPU để khởi động.
- Giấy phép MIT, theo thông tin từ nơi lưu trữ dự án.
Những gì không suôn sẻ, hoặc chưa biết
- Gặp 6 lỗi trong lúc cài đặt, trong đó 2 lỗi chưa được giải quyết.
- Mới đo một lần. Một lần thử cho thấy nó có thể chạy, chưa cho thấy nó chạy ổn định.
Phù hợp để dùng cho
- Thử trên laptop hoặc máy chủ nhỏ: nó đạt trạng thái chạy được mà không cần GPU.
Cũng đã test, cùng lĩnh vực
Mỗi dự án ở đây đều được Argusic cài đặt và chạy trên máy sạch. Không có dự án nào chưa test xuất hiện ở đây.
Lịch sử chạy
Chủ đề (từ GitHub)
ai-agent-toolsai-sdkbetter-authcloudflare-workerscrawlingdeepcrawlhonohtml-cleanerhtml-to-markdownlinks-extractionlinks-treenextjsnextjs16orpctypescriptweb-scraperweb-scraping
Nhúng badge
Markdown cho README của dự án. Badge link về trang này; điều khoản ở trang điều khoản.
[](https://argusic.com/subject/deepcrawl)Câu hỏi
- deepcrawl có chạy được không?
- Có. deepcrawl chạy được. Argusic đã cài đặt và khởi chạy nó trên một máy sạch trong 18 phút, gặp 6 lỗi trên đường đi, và ghi lại phiên làm việc.
- Argusic đã test deepcrawl như thế nào?
- Trên một máy mới, dùng một lần, mọi lệnh đều được ghi lại và repo được ghim ở commit 964de4b1fac9. Có một lần thử được ghi lại, và toàn bộ phương pháp nằm ở trang phương pháp.
- Test deepcrawl tốn bao nhiêu?
- Lần chạy đưa ra kết luận này tốn 0,56 USD: chi phí máy và model thật, không phải giá niêm yết theo triệu token. Con số được ghi trên trang của lần chạy đó.
- Cài đặt deepcrawl mất bao lâu?
- 18 phút trong lần chạy quyết định kết luận này, từ máy sạch đến trạng thái chạy được. Đó là một lần thử đo được, không phải số trung bình.
- deepcrawl có cần GPU không?
- Không cần để khởi động. Argusic đã đạt trạng thái chạy được trên một máy không có GPU.
- Cài đặt deepcrawl thì gặp lỗi gì?
- 6 lỗi xảy ra trong lần chạy được ghi lại, và 4 lỗi đã được sửa mà không cần người giúp. Từng lỗi, cùng thời gian nó tốn, được liệt kê trên trang này.
- Bằng chứng cho deepcrawl ở đâu?
- Lần chạy được ghi lại nằm trên trang này, mỗi lần link tới log đầy đủ và terminal recording, được lưu kèm dấu vân tay sha256 để không thể bị sửa lén.