Original en inglés: https://argusic.com/subject/newspaper4k

newspaper4k

Newspaper4k, un fork del querido Newspaper3k. Extracción de artículos, títulos y metadatos de sitios web de noticias.

Funcionafuente: GitHubsitio webPythonMITcommit b53a81fc01ff

Python, licencia MIT. El proyecto se describe a sí mismo como: articles, articles data, crawler, datasets preparation, news, newspaper3k, python y requests.

newspaper4k funciona. Un agent de Argusic lo instaló en 3 minutos y encontró 4 errores, todos corregidos sin ayuda en una máquina limpia sin GPU, y toda la sesión quedó grabada.

newspaper4k 0.9.6 is pip-installed and editable in /work/repo/venv; CLI runs (help + real article extraction into JSON), 234 tests pass with 2 deselected stale summarization fixtures and 5 external-site failures; package state is clean working tree.

Lo que el agent consiguió en una máquina limpia, en sus propias palabras. Cómo se mide

Medido por Argusic en una máquina limpia cada vez. Cada cifra enlaza a su evidencia. Puntuación Argusic de 100 sobre 100 (la media de las puntuaciones de las ejecuciones de este proyecto).

De un vistazo

veredicto
Funciona
Puntuación Argusic
100 / 100
costo de la ejecución de verificación
0,60 USD (medido)
ejecuciones registradas
1
última prueba
estrellas
1170
forks
118
issues abiertos
135
observadores
11
tamaño
26 MB
creado
último push

Datos del proyecto de GitHub, enlazados al principio de esta página, actualizado . Datos de prueba de Argusic (CC BY 4.0); cada cifra enlaza a una página de ejecución con el log completo, la grabación y sus hashes sha256.

Qué se midió

De la ejecución que decidió este veredicto. Cada línea es un valor registrado, no una estimación.

Tiempo perdido en cada fallo al probar newspaper4k, a partir de la ejecución registrada
Cada barra es un fallo que el agent registró, con el tiempo que le costó. Sale de esta ejecución y de ningún otro sitio.

Qué salió mal, en palabras del propio agent

Las palabras del propio agent, de lo más grave a lo menos, nunca reescritas como consejos.

  • tests/unit/test_nlp.py::test_summarize and test_known_websites (summary fields) failed: split_sentences/summarize under nltk 3.10.3 produce different summary than fixtures45 minutos
  • tests/integration network tests failed: test_follow_read_more_button (web.archive.org 429 rate-limit block), test_detect_binary (media.chinadaily.com.cn DNS NXDOMAIN in this container), test_multithread_sources (euronews site returns malformed category links -> empty article list; IndexError), test_gnews+fr/de (Google News transiently returns 0 or non-.fr/.de results)20 minutos
  • tests/integration/test_languages.py::test_language_articles failed on chinese_article: fixture is a gb2312 page whose expected txt uses curly quotes; live page has no matching charset header15 minutos
  • pytest collection failed: optional extras not installed (gnews, nltk, pythainlp, indic-nlp-library, jieba, tinysegmenter, protego) - import-time ImportError in tests and language tokenizers12 minutos
Tiempo de instalación
3 minutos
De máquina en frío a terminar
38 minutos
Errores encontrados y corregidos
4 encontrados, 4 corregidos sin ayuda humana
Cómo se demostró el resultado
venv/bin/python -m pytest tests/unit/test_network.py tests/unit/test_requests.py tests/e2e -q -> 7 passed; tests/unit/test_languages.py -q -> 9 passed; CLI 'python -m newspaper --url https://news.sohu.com/20050601/n225789219.shtml --language zh --skip-fetch-images' exited 0 and wrote JSON with 2827-char body; live sohu/cnn fetches returned HTTP 200
Tokens de modelo usados
2.710.625
Commit exacto probado
b53a81fc01ff
Imagen del contenedor
sha256:cdd920bce783

Qué no se midió

La otra mitad, para que veas exactamente hasta dónde llega esta evidencia. Un hueco se muestra como hueco y nunca se rellena.

Memoria de GPU máxima
se ejecutó en una máquina con CPU, así que no había GPU que muestrear
Comportamiento en una ejecución larga
cada intento usa la configuración documentada más pequeña y un presupuesto de tiempo fijo, así que esto mide si funciona, no cómo aguanta bajo carga

El final de la grabación

Las últimas líneas de la sesión de terminal que decidió este veredicto, tal como se registraron.

    {\"msg\": \"tests/integration network tests failed: test_follow_read_more_button (web.archive.o…
  ],
  \"test_depth\": \"tier1_real\",
  \"notes\": \"pip install -e . succeeded; CLI help and real crawling verified. Full suite (all tes…
  \"verified_how\": \"venv/bin/python -m pytest tests/unit/test_network.py tests/unit/test_requests…
  \"final_state\": \"newspaper4k 0.9.6 is pip-installed and editable in /work/repo/venv; CLI runs (…
}
print(\"ARGUSIC_RESULT:\" + json.dumps(r, ensure_ascii=True))
EOF" in /work/repo
 succeeded in 0ms:
tokens used
2,710,625

Reproducir la sesión completa, cada comando desde una máquina limpia hasta este punto.

Cómo se probó

Un agent, un contenedor, sin ayuda humana. Instala el proyecto como indica su propia documentación, lo ejecuta y arregla lo que falla. Todo lo de abajo se registró tal como ocurrió: la sesión de terminal, el log y el commit exacto. La metodología completa.

Puntos fuertes y límites

Hechos medidos, no opiniones. Cómo se redacta.

Qué salió bien

  • Llegó a funcionar en una máquina limpia, con la sesión grabada.
  • Se instaló en 3 minutos.
  • Se recuperó de los 4 errores sin que interviniera una persona, lo que indica que los fallos están lo bastante documentados como para resolverlos.
  • Funcionó sin GPU, así que no necesita una para arrancar.
  • Licencia MIT, según su plataforma de origen.

Qué no salió bien, o no se sabe

  • Medido una sola vez hasta ahora. Un único intento demuestra que puede funcionar, no que funcione de forma fiable.

Para qué es una opción razonable

  • Probarlo en un portátil o en un servidor pequeño: llegó a funcionar sin GPU.
  • Una evaluación rápida: estaba funcionando 3 minutos después del clon.

También probados, en la misma área

Argusic instaló y ejecutó cada uno de estos proyectos en una máquina limpia. Aquí no aparece nada que no se haya probado.

Historial de ejecuciones

probado porintentoresultadopuntuacióncosto USDcuándo
Argusic Runner1/3Funciona100,000,60

Temas (de GitHub)

articlesarticles-datacrawlerdatasets-preparationnewsnewspaper3kpythonrequestsscraperscraping

Insertar el badge

Markdown para el README del proyecto. Enlaza de vuelta aquí; condiciones en la página de términos.

[![Tested by Argusic](https://argusic.com/badge/newspaper4k.svg)](https://argusic.com/subject/newspaper4k)

Preguntas

¿Funciona newspaper4k?
Sí. newspaper4k funciona. Argusic lo instaló y lo inició en una máquina limpia en 3 minutos, con 4 errores por el camino, y grabó la sesión.
¿Cómo probó Argusic newspaper4k?
En una máquina limpia y desechable, con cada comando grabado y el repositorio fijado en el commit b53a81fc01ff. Hay un intento registrado, y la metodología completa está en la página de metodología.
¿Cuánto costó probar newspaper4k?
La ejecución que produjo este veredicto costó 0,60 USD: costo real de cómputo y de modelo, no un precio de lista por millón de tokens. Consta en la página de esa ejecución.
¿Cuánto tarda newspaper4k en instalarse?
3 minutos en la ejecución que decidió este veredicto, desde una máquina limpia hasta que funcionó. Es un intento medido, no una media.
¿Necesita newspaper4k una GPU?
No para arrancar. Argusic consiguió que funcionara en una máquina sin GPU.
¿Qué falla al instalar newspaper4k?
En la ejecución registrada fallaron 4 cosas, y 4 se corrigieron sin ayuda humana. Cada una, con el tiempo que costó, aparece en esta página.
¿Dónde está la evidencia de newspaper4k?
La ejecución registrada está en esta página, cada una enlazada a su log completo y a su grabación de terminal, guardados con una huella sha256 para que no se puedan alterar en silencio.

Discussion