Original en inglés: https://argusic.com/subject/crawler
crawler
Norconex Crawlers (o arañas) son rastreadores flexibles de la web y del sistema de archivos para recopilar, analizar y manipular datos de la web o del sistema de archivos a varios repositorios de datos, como motores de búsqueda.
Funcionafuente: GitHubsitio webJavaApache-2.0commit f71ef79931ba
Java, licencia Apache-2.0. El proyecto se describe a sí mismo como: crawler, crawler fs, crawler web, crawlers, filesystem crawler, flexible, java y search engine.
crawler funciona. Un agent de Argusic lo instaló en 3 minutos y no encontró ningún error en una máquina limpia sin GPU, y toda la sesión quedó grabada.
The Norconex Crawler 4.0.0-SNAPSHOT mono-repo builds completely with Maven and Java 21. All 247 unit tests pass and 22 of 30 integration tests pass (8 skipped due to no Docker). The web crawler, file system crawler, importer, and all committers compile and test without errors.
Lo que el agent consiguió en una máquina limpia, en sus propias palabras. Cómo se mide
Medido por Argusic en una máquina limpia cada vez. Cada cifra enlaza a su evidencia. Puntuación Argusic de 100 sobre 100 (la media de las puntuaciones de las ejecuciones de este proyecto).
De un vistazo
Datos del proyecto de GitHub, enlazados al principio de esta página, actualizado . Datos de prueba de Argusic (CC BY 4.0); cada cifra enlaza a una página de ejecución con el log completo, la grabación y sus hashes sha256.
Qué se midió
De la ejecución que decidió este veredicto. Cada línea es un valor registrado, no una estimación.
- Tiempo de instalación
- 3 minutos
- De máquina en frío a terminar
- 26 minutos
- Errores encontrados y corregidos
- 0 encontrados, 0 corregidos sin ayuda humana
- Cómo se demostró el resultado
- 'mvn verify -DskipTests=false' with build-time plugins skipped. Tests run: 247 unit tests (0 failures, 0 errors, 0 skipped) across all modules, plus 30 integration tests (22 passed, 8 skipped). BUILD SUCCESS. Total verify time ~8.5 minutes.
- Tokens de modelo usados
- 81.936
- Commit exacto probado
- f71ef79931ba
- Imagen del contenedor
- sha256:cdd920bce783
Qué no se midió
La otra mitad, para que veas exactamente hasta dónde llega esta evidencia. Un hueco se muestra como hueco y nunca se rellena.
- Memoria de GPU máxima
- se ejecutó en una máquina con CPU, así que no había GPU que muestrear
- Comportamiento en una ejecución larga
- cada intento usa la configuración documentada más pequeña y un presupuesto de tiempo fijo, así que esto mide si funciona, no cómo aguanta bajo carga
El final de la grabación
Las últimas líneas de la sesión de terminal que decidió este veredicto, tal como se registraron.
[INFO] Reactor Summary for Norconex Crawler Parent 4.0.0-SNAPSHOT: [INFO] BUILD SUCCESS Let me get the full test summary across all modules. exec /bin/sh -lc 'export JAVA_HOME=/tmp/jdk-21.0.13+9 && export PATH=$JAVA_HOME/bin:/tmp/apache-maven-3.… I already have the full results. Let me check for any other modules' test counts I might have misse… exec /bin/sh -lc 'export JAVA_HOME=/tmp/jdk-21.0.13+9 && export PATH=$JAVA_HOME/bin:/tmp/apache-maven-3.… The build was already run successfully twice. I have all the data I need. Let me compile the final … tokens used 81,936 The build was already run successfully twice. I have all the data I need. Let me compile the final …
Reproducir la sesión completa, cada comando desde una máquina limpia hasta este punto.
Cómo se probó
Un agent, un contenedor, sin ayuda humana. Instala el proyecto como indica su propia documentación, lo ejecuta y arregla lo que falla. Todo lo de abajo se registró tal como ocurrió: la sesión de terminal, el log y el commit exacto. La metodología completa.
Puntos fuertes y límites
Hechos medidos, no opiniones. Cómo se redacta.
Qué salió bien
- Llegó a funcionar en una máquina limpia, con la sesión grabada.
- Se instaló en 3 minutos, más rápido que la mediana de los 24 proyectos comparables que ha medido Argusic.
- Nada se rompió por el camino: cero errores entre el clon y el funcionamiento.
- Funcionó sin GPU, así que no necesita una para arrancar.
- Licencia Apache-2.0, según su plataforma de origen.
Qué no salió bien, o no se sabe
- Medido una sola vez hasta ahora. Un único intento demuestra que puede funcionar, no que funcione de forma fiable.
De los 25 proyectos de crawler que Argusic ha instalado y cronometrado, crawler fue el 6.º más rápido en llegar a funcionar, y 19 de 25 llegaron a funcionar.
Para qué es una opción razonable
- Probarlo en un portátil o en un servidor pequeño: llegó a funcionar sin GPU.
- Una evaluación rápida: estaba funcionando 3 minutos después del clon.
- Seguir su propio README: el camino documentado funcionó sin nada que arreglar.
También probados, en la misma área
Argusic instaló y ejecutó cada uno de estos proyectos en una máquina limpia. Aquí no aparece nada que no se haya probado.
Historial de ejecuciones
Temas (de GitHub)
crawlercrawler-fscrawler-webcrawlersfilesystem-crawlerflexiblejavasearch-enginespiderweb-crawler
Insertar el badge
Markdown para el README del proyecto. Enlaza de vuelta aquí; condiciones en la página de términos.
[](https://argusic.com/subject/crawler)Preguntas
- ¿Funciona crawler?
- Sí. crawler funciona. Argusic lo instaló y lo inició en una máquina limpia en 3 minutos, con 0 errores por el camino, y grabó la sesión.
- ¿Cómo probó Argusic crawler?
- En una máquina limpia y desechable, con cada comando grabado y el repositorio fijado en el commit f71ef79931ba. Hay un intento registrado, y la metodología completa está en la página de metodología.
- ¿Cuánto costó probar crawler?
- La ejecución que produjo este veredicto costó 0,10 USD: costo real de cómputo y de modelo, no un precio de lista por millón de tokens. Consta en la página de esa ejecución.
- ¿Cuánto tarda crawler en instalarse?
- 3 minutos en la ejecución que decidió este veredicto, desde una máquina limpia hasta que funcionó. Es un intento medido, no una media.
- ¿Necesita crawler una GPU?
- No para arrancar. Argusic consiguió que funcionara en una máquina sin GPU.
- ¿Qué falla al instalar crawler?
- Nada, en la ejecución registrada: cero errores entre el clon y el funcionamiento.
- ¿Cómo se compara crawler con las alternativas?
- De los 25 proyectos de crawler que Argusic ha instalado y cronometrado, crawler fue el 6.º más rápido en llegar a funcionar, y 19 de 25 llegaron a funcionar.
- ¿Dónde está la evidencia de crawler?
- La ejecución registrada está en esta página, cada una enlazada a su log completo y a su grabación de terminal, guardados con una huella sha256 para que no se puedan alterar en silencio.