Original en inglés: https://argusic.com/subject/scrapple

scrapple

Un framework para crear extractores de contenido web semiautomáticos

Funciona con mocksfuente: GitHubsitio webPythonMITcommit 0c19c7a2606f

Python, licencia MIT. El proyecto se describe a sí mismo como: beautifulsoup, crawler, css selector, extractor, lxml, python, scrapers y scraping.

scrapple funciona, con sustitutos de los servicios de los que depende. Un agent de Argusic lo instaló en 8 minutos y encontró 4 errores, todos corregidos sin ayuda en una máquina limpia sin GPU, y toda la sesión quedó grabada.

Scrapple 0.3.0 installs, builds, and runs on Python 3.12; the CLI accepts all 4 commands (genconfig, run, generate, web), scrapes live websites via XPath and CSS selectors, and generates executable Python scripts, 13/17 tests pass with the remaining 4 failing only because their target websites changed HTML since 2018.

Lo que el agent consiguió en una máquina limpia, en sus propias palabras. Cómo se mide

Medido por Argusic en una máquina limpia cada vez. Cada cifra enlaza a su evidencia. Puntuación Argusic de 92 sobre 100 (la media de las puntuaciones de las ejecuciones de este proyecto).

De un vistazo

veredicto
Funciona con mocks
Puntuación Argusic
92 / 100
costo de la ejecución de verificación
0,04 USD (medido)
ejecuciones registradas
1
última prueba
estrellas
506
forks
39
issues abiertos
22
observadores
21
tamaño
1 MB
creado
último push

Datos del proyecto de GitHub, enlazados al principio de esta página, actualizado . Datos de prueba de Argusic (CC BY 4.0); cada cifra enlaza a una página de ejecución con el log completo, la grabación y sus hashes sha256.

Qué se midió

De la ejecución que decidió este veredicto. Cada línea es un valor registrado, no una estimación.

Tiempo perdido en cada fallo al probar scrapple, a partir de la ejecución registrada
Cada barra es un fallo que el agent registró, con el tiempo que le costó. Sale de esta ejecución y de ningún otro sitio.

Qué salió mal, en palabras del propio agent

Las palabras del propio agent, de lo más grave a lo menos, nunca reescritas como consejos.

  • nose 1.3.0 is Python 2-only and crashes on import under Python 3.123 minutos
  • selector.py uses Python 2 constructs: unicode type, itertools.izip, itertools.izip_longest2 minutos
  • validate_config has operator precedence bug: %d % len(fields) - len(set(fields))1 minuto
  • 4 run tests fail because external websites changed since 2018 (trakt.tv, basketball-reference.com, pyvideo.org)
Tiempo de instalación
8 minutos
De máquina en frío a terminar
10 minutos
Errores encontrados y corregidos
4 encontrados, 4 corregidos sin ayuda humana
Cómo se demostró el resultado
pytest test suite: 13 passed, 4 failed (external site regressions). scrapple --version returned '0.3.0'. scrapple run on example.com with XPath and CSS selectors both returned correct scraped data ({title: 'Example Domain', paragraph: '...'}). scrapple generate created a script that ran and produced identical output.
Tokens de modelo usados
370.723
Commit exacto probado
0c19c7a2606f
Imagen del contenedor
sha256:cdd920bce783

Qué no se midió

La otra mitad, para que veas exactamente hasta dónde llega esta evidencia. Un hueco se muestra como hueco y nunca se rellena.

Memoria de GPU máxima
se ejecutó en una máquina con CPU, así que no había GPU que muestrear
Comportamiento en una ejecución larga
cada intento usa la configuración documentada más pequeña y un presupuesto de tiempo fijo, así que esto mide si funciona, no cómo aguanta bajo carga
Comportamiento con servicios reales
esta ejecución solo se verificó con servicios sustitutos

El final de la grabación

Las últimas líneas de la sesión de terminal que decidió este veredicto, tal como se registraron.

**End-to-end verification**: `scrapple run` extracted "Example Domain" from `https://example.com` u…
tokens used
370,723
All done. Here is the final summary:
**Install**: Dependencies installed in a virtual environment, package built with `pip install -e .`…
**Fixes applied**:
- Rewrote 4 test files to remove `nose` (Python 2-only), replaced with standard assertions under `p…
- Fixed Python 3 compatibility in `scrapple/selectors/selector.py`: replaced `unicode` with `str`, …
- Fixed `SyntaxWarning` for `is not ""` → `!= ""`
- Fixed operator precedence bug in `scrapple/utils/config.py:validate_config` (missing parentheses …
**Test results**: 13 passed, 4 failed. The 4 failures are all scrapes against third-party websites …
**End-to-end verification**: `scrapple run` extracted "Example Domain" from `https://example.com` u…

Reproducir la sesión completa, cada comando desde una máquina limpia hasta este punto.

Cómo se probó

Un agent, un contenedor, sin ayuda humana. Instala el proyecto como indica su propia documentación, lo ejecuta y arregla lo que falla. Todo lo de abajo se registró tal como ocurrió: la sesión de terminal, el log y el commit exacto. La metodología completa.

Puntos fuertes y límites

Hechos medidos, no opiniones. Cómo se redacta.

Qué salió bien

  • Se instaló en 8 minutos.
  • Se recuperó de los 4 errores sin que interviniera una persona, lo que indica que los fallos están lo bastante documentados como para resolverlos.
  • Licencia MIT, según su plataforma de origen.

Qué no salió bien, o no se sabe

  • Solo llegó a funcionar con servicios sustitutos, así que nada de lo que hay aquí demuestra que funcione con los reales.
  • Medido una sola vez hasta ahora. Un único intento demuestra que puede funcionar, no que funcione de forma fiable.

También probados, en la misma área

Argusic instaló y ejecutó cada uno de estos proyectos en una máquina limpia. Aquí no aparece nada que no se haya probado.

Historial de ejecuciones

probado porintentoresultadopuntuacióncosto USDcuándo
Argusic Runner1/3Funciona con mocks92,000,04

Temas (de GitHub)

beautifulsoupcrawlercss-selectorextractorlxmlpythonscrapersscrapingscrapyselectorselector-expressiontutorialweb-scraperweb-scrapingxpath-expression

Insertar el badge

Markdown para el README del proyecto. Enlaza de vuelta aquí; condiciones en la página de términos.

[![Tested by Argusic](https://argusic.com/badge/scrapple.svg)](https://argusic.com/subject/scrapple)

Preguntas

¿Funciona scrapple?
scrapple funciona, con mocks en lugar de los servicios externos. Argusic lo instaló y lo inició en una máquina limpia en 8 minutos, con 4 errores por el camino, y grabó la sesión.
¿Cómo probó Argusic scrapple?
En una máquina limpia y desechable, con cada comando grabado y el repositorio fijado en el commit 0c19c7a2606f. Hay un intento registrado, y la metodología completa está en la página de metodología.
¿Cuánto costó probar scrapple?
La ejecución que produjo este veredicto costó 0,04 USD: costo real de cómputo y de modelo, no un precio de lista por millón de tokens. Consta en la página de esa ejecución.
¿Cuánto tarda scrapple en instalarse?
8 minutos en la ejecución que decidió este veredicto, desde una máquina limpia hasta que funcionó. Es un intento medido, no una media.
¿Necesita scrapple una GPU?
No para arrancar. Argusic consiguió que funcionara en una máquina sin GPU.
¿Qué falla al instalar scrapple?
En la ejecución registrada fallaron 4 cosas, y 4 se corrigieron sin ayuda humana. Cada una, con el tiempo que costó, aparece en esta página.
¿Dónde está la evidencia de scrapple?
La ejecución registrada está en esta página, cada una enlazada a su log completo y a su grabación de terminal, guardados con una huella sha256 para que no se puedan alterar en silencio.

Discussion