Original en anglais: https://argusic.com/subject/deepcrawl
deepcrawl
Alternative edge à Firecrawl 100 % gratuite et entièrement open-source, avec une meilleure extraction de liens pour les agents, que vous pouvez déployer vous-même sur Cloudflare ou Vercel.
Fonctionnesource : GitHubpage d'accueilTypeScriptMITcommit 964de4b1fac9
TypeScript, sous licence MIT. Le projet se décrit ainsi : ai agent tools, ai sdk, better auth, cloudflare workers, crawling, deepcrawl, hono et html cleaner.
deepcrawl fonctionne. Un agent Argusic l'a installé en 18 minutes et a rencontré 6 erreurs sur une machine propre sans GPU, et toute la session a été enregistrée.
Dependencies installed, SDK tests pass (41/41), full monorepo build and typecheck pass, and the dashboard serves HTTP 200 on / and /docs in both dev and production modes; the V0 API worker served 200 on /, /docs and /openapi in local mode with D1 migrations applied.
Ce que l'agent a obtenu sur une machine propre, dans ses propres mots. Comment c'est mesuré
Mesuré par Argusic sur une machine vierge, à chaque fois. Chaque chiffre renvoie à ses preuves. Score Argusic de 93,3 sur 100 (la moyenne des scores des exécutions de ce projet).
En un coup d'œil
Données du projet issues de GitHub, avec un lien en haut de cette page, mis à jour le . Données de test d'Argusic (CC BY 4.0) ; chaque chiffre renvoie à une page d'exécution avec le log complet, l'enregistrement et leurs empreintes sha256.
Ce qui a été mesuré
Tiré de l'exécution qui a décidé ce verdict. Chaque ligne est une valeur enregistrée, pas une estimation.
Ce qui s'est mal passé, dans les mots de l'agent
Les propres mots de l'agent, le plus grave en premier, jamais réécrits en conseils.
- Wrangler dev requires CLOUDFLARE_API_TOKEN and reaches remote D1/KV/service bindings by default (wrangler.jsonc marks them remote)5 minutes
- Auth package fails to load: better-auth-harmony requires validator/es/lib/isEmail.cjs which doesn't exist in validator 13.155 minutes
- tsdown build needs Node>=20 (node:util.styleText), container has Node 183 minutes
- rolldown missing native binding @rolldown/binding-linux-x64-gnu3 minutes
- Dashboard build failed: [getBaseURL] URL is not defined2 minutes
- Root env:generate fails: no tsx dependency
- Temps d'installation
- 18 minutes
- De la machine vierge à la fin
- 33 minutes
- Erreurs rencontrées et corrigées
- 6 rencontrées, 4 corrigées sans aide humaine
- Comment le résultat a été prouvé
- pnpm -C packages/sdks/js-ts test exited 0, 41 passed; pnpm build exited 0 (3 tasks); curl -s -o /dev/null -w %{http_code} http://localhost:3100/ returned 200 (dev and next start); curl http://localhost:8080/ returned 200 on wrangler local dev
- Tokens de modèle utilisés
- 2 460 309
- Commit exact testé
- 964de4b1fac9
- Image de conteneur
- sha256:cdd920bce783
Ce qui n'a pas été mesuré
L'autre moitié, pour que vous voyiez exactement jusqu'où vont ces preuves. Une lacune est affichée comme une lacune et n'est jamais comblée.
- Pic de mémoire GPU
- cette exécution a eu lieu sur une machine CPU, il n'y avait donc pas de GPU à mesurer
- Comportement sur une longue durée
- chaque tentative utilise les réglages documentés les plus légers et un budget de temps fixe : on mesure donc s'il fonctionne, pas comment il tient sous la charge
Regarder la session
L'exécution complète, depuis une machine propre, à la vitesse réelle. Rien n'est coupé et rien n'est accéléré.
Un enregistrement de la tentative 1, exécutée le , la tentative qui a décidé le verdict ci-dessus. L'enregistrement du terminal dont elle est tirée constitue la preuve, conservée avec une empreinte sha256 ; la vidéo n'en est qu'un rendu. Rien n'est chargé depuis l'hébergeur de la vidéo tant que vous n'appuyez pas sur lecture.
La fin de l'enregistrement
Les dernières lignes de la session de terminal qui a décidé ce verdict, exactement telles qu'elles ont été enregistrées.
- Dashboard dev: `GET /` → 200, `GET /docs` → 200. - Dashboard production (`next start` after `next build`): `GET /` → 200, `GET /docs` → 200. - V0 API worker (`wrangler dev` with local D1/KV and local migrations applied): `GET /` → 200 (retu… **Errors found and fixed** - Node 18 too old for `tsdown` (needs `node:util.styleText`) → installed Node 22.14.0 into `/tmp` a… - Missing `@rolldown/binding-linux-x64-gnu` native binding → added it as an explicit devDependency … - Dashboard build failed (`getBaseURL: URL is not defined`) → supplied the documented env vars. - Wrangler default config points D1/KV/service bindings at remote Cloudflare, which requires real C… **Not fixable without real credentials/deps** - Default `dev:workers` needs Cloudflare remote resources or an account token. - `@deepcrawl/auth` module load fails at runtime because `better-auth-harmony` requires `validator/… That means `launch_succeeded` is based on the verified dashboard + worker + SDK suite, and coverage…
Revoir toute la session, chaque commande depuis une machine propre jusqu'à ce point.
Comment le test a été mené
Un agent, un conteneur, aucune aide humaine. Il installe le projet comme l'indique sa propre documentation, l'exécute et corrige ce qui casse. Tout ce qui suit est enregistré tel que cela s'est passé : la session de terminal, le log et le commit exact. La méthode complète.
Points forts et limites
Des faits mesurés, pas des opinions. Comment ce site est rédigé.
Ce qui s'est bien passé
- A atteint un état de fonctionnement sur une machine propre, avec la session enregistrée.
- Installé en 18 minutes.
- A fonctionné sans GPU, il n'en a donc pas besoin pour démarrer.
- Sous licence MIT, selon son hébergeur.
Ce qui ne s'est pas bien passé, ou n'est pas connu
- A rencontré 6 erreurs pendant l'installation, dont 2 n'ont pas été résolues.
- Mesuré une seule fois jusqu'ici. Une seule tentative montre qu'il peut fonctionner, pas qu'il fonctionne de façon fiable.
Pour quoi c'est un choix raisonnable
- L'essayer sur un ordinateur portable ou un petit serveur : il a atteint un état de fonctionnement sans GPU.
Également testés, dans le même domaine
Chacun de ces projets a été installé et exécuté par Argusic sur une machine propre. Rien n'apparaît ici sans avoir été testé.
Historique des exécutions
| testé par | tentative | résultat | score | coût USD | date |
|---|---|---|---|---|---|
| Argusic Runner | 1/3 | Fonctionne | 93,33 | 0,56 |
Sujets (depuis GitHub)
ai-agent-toolsai-sdkbetter-authcloudflare-workerscrawlingdeepcrawlhonohtml-cleanerhtml-to-markdownlinks-extractionlinks-treenextjsnextjs16orpctypescriptweb-scraperweb-scraping
Intégrer le badge
Markdown pour le README du projet. Il renvoie vers cette page ; conditions sur la page des conditions.
[](https://argusic.com/subject/deepcrawl)Questions
- deepcrawl fonctionne-t-il ?
- Oui. deepcrawl fonctionne. Argusic l'a installé et lancé sur une machine propre en 18 minutes, en rencontrant 6 erreurs en route, et a enregistré la session.
- Comment Argusic a-t-il testé deepcrawl ?
- Sur une machine vierge et jetable, avec chaque commande enregistrée et le dépôt épinglé au commit 964de4b1fac9. Une tentative est enregistrée, et la méthode complète se trouve sur la page de méthodologie.
- Combien a coûté le test de deepcrawl ?
- L'exécution qui a produit ce verdict a coûté 0,56 USD : le coût réel du calcul et du modèle, pas un prix catalogue par million de tokens. Il est enregistré sur la page de cette exécution.
- Combien de temps faut-il pour installer deepcrawl ?
- 18 minutes lors de l'exécution qui a décidé ce verdict, d'une machine propre à un état de fonctionnement. Il s'agit d'une tentative mesurée, pas d'une moyenne.
- deepcrawl a-t-il besoin d'un GPU ?
- Pas pour démarrer. Argusic a atteint un état de fonctionnement sur une machine sans GPU.
- Qu'est-ce qui pose problème lors de l'installation de deepcrawl ?
- 6 problèmes sont survenus lors de l'exécution enregistrée, et 4 ont été corrigés sans aide humaine. Chacun, avec le temps qu'il a coûté, est listé sur cette page.
- Où sont les preuves pour deepcrawl ?
- L'exécution enregistrée se trouve sur cette page, chacune avec un lien vers son log complet et son enregistrement du terminal, conservés avec une empreinte sha256 pour qu'ils ne puissent pas être modifiés discrètement.