Original en inglés: https://argusic.com/subject/deepcrawl
deepcrawl
Alternativa 100% gratuita y completamente de código abierto a edge Firecrawl con mejor extracción de enlaces para agents, que puedes desplegar en cloudflare o vercel por ti mismo.
Funcionafuente: GitHubsitio webTypeScriptMITcommit 964de4b1fac9
TypeScript, licencia MIT. El proyecto se describe a sí mismo como: ai agent tools, ai sdk, better auth, cloudflare workers, crawling, deepcrawl, hono y html cleaner.
deepcrawl funciona. Un agent de Argusic lo instaló en 18 minutos y encontró 6 errores en una máquina limpia sin GPU, y toda la sesión quedó grabada.
Dependencies installed, SDK tests pass (41/41), full monorepo build and typecheck pass, and the dashboard serves HTTP 200 on / and /docs in both dev and production modes; the V0 API worker served 200 on /, /docs and /openapi in local mode with D1 migrations applied.
Lo que el agent consiguió en una máquina limpia, en sus propias palabras. Cómo se mide
Medido por Argusic en una máquina limpia cada vez. Cada cifra enlaza a su evidencia. Puntuación Argusic de 93,3 sobre 100 (la media de las puntuaciones de las ejecuciones de este proyecto).
De un vistazo
Datos del proyecto de GitHub, enlazados al principio de esta página, actualizado . Datos de prueba de Argusic (CC BY 4.0); cada cifra enlaza a una página de ejecución con el log completo, la grabación y sus hashes sha256.
Qué se midió
De la ejecución que decidió este veredicto. Cada línea es un valor registrado, no una estimación.
Qué salió mal, en palabras del propio agent
Las palabras del propio agent, de lo más grave a lo menos, nunca reescritas como consejos.
- Wrangler dev requires CLOUDFLARE_API_TOKEN and reaches remote D1/KV/service bindings by default (wrangler.jsonc marks them remote)5 minutos
- Auth package fails to load: better-auth-harmony requires validator/es/lib/isEmail.cjs which doesn't exist in validator 13.155 minutos
- tsdown build needs Node>=20 (node:util.styleText), container has Node 183 minutos
- rolldown missing native binding @rolldown/binding-linux-x64-gnu3 minutos
- Dashboard build failed: [getBaseURL] URL is not defined2 minutos
- Root env:generate fails: no tsx dependency
- Tiempo de instalación
- 18 minutos
- De máquina en frío a terminar
- 33 minutos
- Errores encontrados y corregidos
- 6 encontrados, 4 corregidos sin ayuda humana
- Cómo se demostró el resultado
- pnpm -C packages/sdks/js-ts test exited 0, 41 passed; pnpm build exited 0 (3 tasks); curl -s -o /dev/null -w %{http_code} http://localhost:3100/ returned 200 (dev and next start); curl http://localhost:8080/ returned 200 on wrangler local dev
- Tokens de modelo usados
- 2.460.309
- Commit exacto probado
- 964de4b1fac9
- Imagen del contenedor
- sha256:cdd920bce783
Qué no se midió
La otra mitad, para que veas exactamente hasta dónde llega esta evidencia. Un hueco se muestra como hueco y nunca se rellena.
- Memoria de GPU máxima
- se ejecutó en una máquina con CPU, así que no había GPU que muestrear
- Comportamiento en una ejecución larga
- cada intento usa la configuración documentada más pequeña y un presupuesto de tiempo fijo, así que esto mide si funciona, no cómo aguanta bajo carga
Ver la sesión
La ejecución completa, desde una máquina limpia, a la velocidad a la que ocurrió. No se ha cortado ni acelerado nada.
Una grabación del intento 1, ejecutado el , el intento que decidió el veredicto anterior. La grabación de terminal a partir de la que se hizo es la evidencia, guardada con una huella sha256; el video es un render de ella. No se carga nada del servicio de video hasta que pulses reproducir.
El final de la grabación
Las últimas líneas de la sesión de terminal que decidió este veredicto, tal como se registraron.
- Dashboard dev: `GET /` → 200, `GET /docs` → 200. - Dashboard production (`next start` after `next build`): `GET /` → 200, `GET /docs` → 200. - V0 API worker (`wrangler dev` with local D1/KV and local migrations applied): `GET /` → 200 (retu… **Errors found and fixed** - Node 18 too old for `tsdown` (needs `node:util.styleText`) → installed Node 22.14.0 into `/tmp` a… - Missing `@rolldown/binding-linux-x64-gnu` native binding → added it as an explicit devDependency … - Dashboard build failed (`getBaseURL: URL is not defined`) → supplied the documented env vars. - Wrangler default config points D1/KV/service bindings at remote Cloudflare, which requires real C… **Not fixable without real credentials/deps** - Default `dev:workers` needs Cloudflare remote resources or an account token. - `@deepcrawl/auth` module load fails at runtime because `better-auth-harmony` requires `validator/… That means `launch_succeeded` is based on the verified dashboard + worker + SDK suite, and coverage…
Reproducir la sesión completa, cada comando desde una máquina limpia hasta este punto.
Cómo se probó
Un agent, un contenedor, sin ayuda humana. Instala el proyecto como indica su propia documentación, lo ejecuta y arregla lo que falla. Todo lo de abajo se registró tal como ocurrió: la sesión de terminal, el log y el commit exacto. La metodología completa.
Puntos fuertes y límites
Hechos medidos, no opiniones. Cómo se redacta.
Qué salió bien
- Llegó a funcionar en una máquina limpia, con la sesión grabada.
- Se instaló en 18 minutos.
- Funcionó sin GPU, así que no necesita una para arrancar.
- Licencia MIT, según su plataforma de origen.
Qué no salió bien, o no se sabe
- Encontró 6 errores durante la instalación, 2 de ellos sin resolver.
- Medido una sola vez hasta ahora. Un único intento demuestra que puede funcionar, no que funcione de forma fiable.
Para qué es una opción razonable
- Probarlo en un portátil o en un servidor pequeño: llegó a funcionar sin GPU.
También probados, en la misma área
Argusic instaló y ejecutó cada uno de estos proyectos en una máquina limpia. Aquí no aparece nada que no se haya probado.
Historial de ejecuciones
Temas (de GitHub)
ai-agent-toolsai-sdkbetter-authcloudflare-workerscrawlingdeepcrawlhonohtml-cleanerhtml-to-markdownlinks-extractionlinks-treenextjsnextjs16orpctypescriptweb-scraperweb-scraping
Insertar el badge
Markdown para el README del proyecto. Enlaza de vuelta aquí; condiciones en la página de términos.
[](https://argusic.com/subject/deepcrawl)Preguntas
- ¿Funciona deepcrawl?
- Sí. deepcrawl funciona. Argusic lo instaló y lo inició en una máquina limpia en 18 minutos, con 6 errores por el camino, y grabó la sesión.
- ¿Cómo probó Argusic deepcrawl?
- En una máquina limpia y desechable, con cada comando grabado y el repositorio fijado en el commit 964de4b1fac9. Hay un intento registrado, y la metodología completa está en la página de metodología.
- ¿Cuánto costó probar deepcrawl?
- La ejecución que produjo este veredicto costó 0,56 USD: costo real de cómputo y de modelo, no un precio de lista por millón de tokens. Consta en la página de esa ejecución.
- ¿Cuánto tarda deepcrawl en instalarse?
- 18 minutos en la ejecución que decidió este veredicto, desde una máquina limpia hasta que funcionó. Es un intento medido, no una media.
- ¿Necesita deepcrawl una GPU?
- No para arrancar. Argusic consiguió que funcionara en una máquina sin GPU.
- ¿Qué falla al instalar deepcrawl?
- En la ejecución registrada fallaron 6 cosas, y 4 se corrigieron sin ayuda humana. Cada una, con el tiempo que costó, aparece en esta página.
- ¿Dónde está la evidencia de deepcrawl?
- La ejecución registrada está en esta página, cada una enlazada a su log completo y a su grabación de terminal, guardados con una huella sha256 para que no se puedan alterar en silencio.