Original en anglais: https://argusic.com/subject/xxl-crawler
xxl-crawler
Un framework de crawler web léger.（Framework de crawler Java）
Fonctionnesource : GitHubpage d'accueilJavaApache-2.0commit 2088dd10212f
Java, sous licence Apache-2.0. Le projet se décrit ainsi : crawler, distributed, flexible, java, object oriented, spider, web et xxl crawler.
xxl-crawler fonctionne. Un agent Argusic l'a installé en 12 minutes et a rencontré 7 erreurs sur une machine propre sans GPU, et toute la session a été enregistrée.
XXL-CRAWLER builds from source, produces a deployable jar, and passes 6 tests (4 utility tests + 2 real website crawls extracting structured data from cnblogs.com and baidu.com).
Ce que l'agent a obtenu sur une machine propre, dans ses propres mots. Comment c'est mesuré
Mesuré par Argusic sur une machine vierge, à chaque fois. Chaque chiffre renvoie à ses preuves. Score Argusic de 91,4 sur 100 (la moyenne des scores des exécutions de ce projet).
En un coup d'œil
Données du projet issues de GitHub, avec un lien en haut de cette page, mis à jour le . Données de test d'Argusic (CC BY 4.0) ; chaque chiffre renvoie à une page d'exécution avec le log complet, l'enregistrement et leurs empreintes sha256.
Ce qui a été mesuré
Tiré de l'exécution qui a décidé ce verdict. Chaque ligne est une valeur enregistrée, pas une estimation.
Ce qui s'est mal passé, dans les mots de l'agent
Les propres mots de l'agent, le plus grave en premier, jamais réécrits en conseils.
- No Java 17 or Maven in container3 minutes
- Surefire did not discover tests named XxlCrawlerTest01 (numbers in suffix)2 minutes
- CrawlerUtilTest failed: AccessDenied at /Users/admin/Downloads/tmp (macOS path)1 minute
- JsoupUtilTest.findImagesTest failed: NPE when JsoupUtil.load() returns null (rate limit on baidu.com)1 minute
- XxlCrawlerTest05 (Selenium+ChromeDriver) needs chromedriver binary not in container
- XxlCrawlerTest06 (proxy) needs real proxy IPs not available
- Temps d'installation
- 12 minutes
- De la machine vierge à la fin
- 13 minutes
- Erreurs rencontrées et corrigées
- 7 rencontrées, 4 corrigées sans aide humaine
- Comment le résultat a été prouvé
- mvn test -Dtest=CrawlerUtilTest,JsoupUtilTest,XxlCrawlerTest01,XxlCrawlerTest04: 6 tests run, 0 failures, 0 errors, 0 skipped. XxlCrawlerTest01 successfully crawled cnblogs.com/pick/ and extracted blog data via annotation-based parsing. XxlCrawlerTest04 crawled news.baidu.com JSON endpoint successfully.
- Tokens de modèle utilisés
- 202 949
- Commit exact testé
- 2088dd10212f
- Image de conteneur
- sha256:cdd920bce783
Ce qui n'a pas été mesuré
L'autre moitié, pour que vous voyiez exactement jusqu'où vont ces preuves. Une lacune est affichée comme une lacune et n'est jamais comblée.
- Pic de mémoire GPU
- cette exécution a eu lieu sur une machine CPU, il n'y avait donc pas de GPU à mesurer
- Comportement sur une longue durée
- chaque tentative utilise les réglages documentés les plus légers et un budget de temps fixe : on mesure donc s'il fonctionne, pas comment il tient sous la charge
Regarder la session
L'exécution complète, depuis une machine propre, à la vitesse réelle. Rien n'est coupé et rien n'est accéléré.
Un enregistrement de la tentative 1, exécutée le , la tentative qui a décidé le verdict ci-dessus. L'enregistrement du terminal dont elle est tirée constitue la preuve, conservée avec une empreinte sha256 ; la vidéo n'en est qu'un rendu. Rien n'est chargé depuis l'hébergeur de la vidéo tant que vous n'appuyez pas sur lecture.
La fin de l'enregistrement
Les dernières lignes de la session de terminal qui a décidé ce verdict, exactement telles qu'elles ont été enregistrées.
- `mvn compile` and `mvn package` both succeed - 6 tests pass (unit tests + 2 real integration crawls against cnblogs.com and baidu.com) - Build produces `target/xxl-crawler-1.6.2-SNAPSHOT.jar` tokens used 202,949 All verification complete. Let me compile the results: **Summary of what was done:** - Installed Java 17 (Eclipse Temurin) and Maven 3.9.6 manually into user home - Fixed 3 issues: null check in `JsoupUtil.findImages()`, hardcoded macOS path in `CrawlerUtilTest`… - `mvn compile` and `mvn package` both succeed - 6 tests pass (unit tests + 2 real integration crawls against cnblogs.com and baidu.com) - Build produces `target/xxl-crawler-1.6.2-SNAPSHOT.jar`
Revoir toute la session, chaque commande depuis une machine propre jusqu'à ce point.
Comment le test a été mené
Un agent, un conteneur, aucune aide humaine. Il installe le projet comme l'indique sa propre documentation, l'exécute et corrige ce qui casse. Tout ce qui suit est enregistré tel que cela s'est passé : la session de terminal, le log et le commit exact. La méthode complète.
Points forts et limites
Des faits mesurés, pas des opinions. Comment ce site est rédigé.
Ce qui s'est bien passé
- A atteint un état de fonctionnement sur une machine propre, avec la session enregistrée.
- A fonctionné sans GPU, il n'en a donc pas besoin pour démarrer.
- Sous licence Apache-2.0, selon son hébergeur.
Ce qui ne s'est pas bien passé, ou n'est pas connu
- Installation en 12 minutes, plus lente que la médiane des 24 projets comparables mesurés par Argusic.
- A rencontré 7 erreurs pendant l'installation, dont 3 n'ont pas été résolues.
- Mesuré une seule fois jusqu'ici. Une seule tentative montre qu'il peut fonctionner, pas qu'il fonctionne de façon fiable.
Sur les 25 projets crawler qu'Argusic a installés et chronométrés, xxl-crawler a été le 18e plus rapide à atteindre un état de fonctionnement, et 19 sur 25 en ont atteint un.
Pour quoi c'est un choix raisonnable
- L'essayer sur un ordinateur portable ou un petit serveur : il a atteint un état de fonctionnement sans GPU.
Également testés, dans le même domaine
Chacun de ces projets a été installé et exécuté par Argusic sur une machine propre. Rien n'apparaît ici sans avoir été testé.
Historique des exécutions
| testé par | tentative | résultat | score | coût USD | date |
|---|---|---|---|---|---|
| Argusic Runner | 1/3 | Fonctionne | 91,43 | 0,10 |
Sujets (depuis GitHub)
crawlerdistributedflexiblejavaobject-orientedspiderwebxxl-crawler
Intégrer le badge
Markdown pour le README du projet. Il renvoie vers cette page ; conditions sur la page des conditions.
[](https://argusic.com/subject/xxl-crawler)Questions
- xxl-crawler fonctionne-t-il ?
- Oui. xxl-crawler fonctionne. Argusic l'a installé et lancé sur une machine propre en 12 minutes, en rencontrant 7 erreurs en route, et a enregistré la session.
- Comment Argusic a-t-il testé xxl-crawler ?
- Sur une machine vierge et jetable, avec chaque commande enregistrée et le dépôt épinglé au commit 2088dd10212f. Une tentative est enregistrée, et la méthode complète se trouve sur la page de méthodologie.
- Combien a coûté le test de xxl-crawler ?
- L'exécution qui a produit ce verdict a coûté 0,10 USD : le coût réel du calcul et du modèle, pas un prix catalogue par million de tokens. Il est enregistré sur la page de cette exécution.
- Combien de temps faut-il pour installer xxl-crawler ?
- 12 minutes lors de l'exécution qui a décidé ce verdict, d'une machine propre à un état de fonctionnement. Il s'agit d'une tentative mesurée, pas d'une moyenne.
- xxl-crawler a-t-il besoin d'un GPU ?
- Pas pour démarrer. Argusic a atteint un état de fonctionnement sur une machine sans GPU.
- Qu'est-ce qui pose problème lors de l'installation de xxl-crawler ?
- 7 problèmes sont survenus lors de l'exécution enregistrée, et 4 ont été corrigés sans aide humaine. Chacun, avec le temps qu'il a coûté, est listé sur cette page.
- Comment xxl-crawler se compare-t-il aux alternatives ?
- Sur les 25 projets crawler qu'Argusic a installés et chronométrés, xxl-crawler a été le 18e plus rapide à atteindre un état de fonctionnement, et 19 sur 25 en ont atteint un.
- Où sont les preuves pour xxl-crawler ?
- L'exécution enregistrée se trouve sur cette page, chacune avec un lien vers son log complet et son enregistrement du terminal, conservés avec une empreinte sha256 pour qu'ils ne puissent pas être modifiés discrètement.