Original en anglais: https://argusic.com/subject/clawbench
ClawBench
Benchmark open source pour les agents IA dans le navigateur sur des tâches quotidiennes.
Fonctionne avec des mockssource : GitHubpage d'accueilPythonApache-2.0commit 187cd252bc60
Python, sous licence Apache-2.0. Le projet se décrit ainsi : agent evaluation, agentic ai, ai agent benchmark, ai agents, benchmark, browser agent, browser automation et browser use.
ClawBench fonctionne, avec des substituts pour les services dont il dépend. Un agent Argusic l'a installé en 7 minutes et a rencontré 1 erreur sur une machine propre sans GPU, et toute la session a été enregistrée.
Python package clawbench-eval v0.10.0 installs and builds; all CLIs (clawbench, clawbench-run, clawbench-batch, clawbench-rescore, clawbench-analyze, clawbench-reproduce, clawbench-harbor-adapt, clawbench-edgebench-adapt, clawbench-edgebench-judge, clawbench-prorl-submit, clawbench-prorl-mock) are importable and respond to --help; batch dry-run produces correct 20-job matrix for v1-lite;
Ce que l'agent a obtenu sur une machine propre, dans ses propres mots. Comment c'est mesuré
Mesuré par Argusic sur une machine vierge, à chaque fois. Chaque chiffre renvoie à ses preuves. Score Argusic de 72 sur 100 (la moyenne des scores des exécutions de ce projet).
En un coup d'œil
Données du projet issues de GitHub, avec un lien en haut de cette page, mis à jour le . Données de test d'Argusic (CC BY 4.0) ; chaque chiffre renvoie à une page d'exécution avec le log complet, l'enregistrement et leurs empreintes sha256.
Ce qui a été mesuré
Tiré de l'exécution qui a décidé ce verdict. Chaque ligne est une valeur enregistrée, pas une estimation.
Ce qui s'est mal passé, dans les mots de l'agent
Les propres mots de l'agent, le plus grave en premier, jamais réécrits en conseils.
- One test (test_batch_stays_importable_without_a_container_engine) shows non-deterministic ordering sensitivity — fails when run in isolation after other host_timeout tests but passes in full suite run. Not a code defect, test isolation edge case.1 minute
- Temps d'installation
- 7 minutes
- De la machine vierge à la fin
- 3 minutes
- Erreurs rencontrées et corrigées
- 1 rencontrée, 0 corrigée sans aide humaine
- Comment le résultat a été prouvé
- uv run pytest -q --tb=short => 320 passed, 2 skipped
- Tokens de modèle utilisés
- 47 608
- Commit exact testé
- 187cd252bc60
- Image de conteneur
- sha256:cdd920bce783
Ce qui n'a pas été mesuré
L'autre moitié, pour que vous voyiez exactement jusqu'où vont ces preuves. Une lacune est affichée comme une lacune et n'est jamais comblée.
- Pic de mémoire GPU
- cette exécution a eu lieu sur une machine CPU, il n'y avait donc pas de GPU à mesurer
- Comportement sur une longue durée
- chaque tentative utilise les réglages documentés les plus légers et un budget de temps fixe : on mesure donc s'il fonctionne, pas comment il tient sous la charge
- Comportement face aux vrais services
- cette exécution n'a été vérifiée qu'avec des services de substitution
La fin de l'enregistrement
Les dernières lignes de la session de terminal qui a décidé ce verdict, exactement telles qu'elles ont été enregistrées.
tokens used 47,608 Here's my final assessment: **Setup:** Installed `uv`, ran `uv sync` to set up the venv and install all deps, copied `models/mo… **Verification:** - Full test suite: **320 passed, 2 skipped** (skips are expected — `harbor` and `evalport-sdk` are … - All 301 task.json files (v1: 152, v2: 129, v1-lite: 20) are valid JSON - `clawbench-batch --dry-run` correctly computes the 20-job matrix for v1-lite - All 11 CLI entrypoints import and show help - The TUI and all runner modules import without errors - Model config loads both example models from `models.yaml` **Note on container dependency:** Docker/Podman are not installed in the container, so real contain…
Revoir toute la session, chaque commande depuis une machine propre jusqu'à ce point.
Comment le test a été mené
Un agent, un conteneur, aucune aide humaine. Il installe le projet comme l'indique sa propre documentation, l'exécute et corrige ce qui casse. Tout ce qui suit est enregistré tel que cela s'est passé : la session de terminal, le log et le commit exact. La méthode complète.
Points forts et limites
Des faits mesurés, pas des opinions. Comment ce site est rédigé.
Ce qui s'est bien passé
- Installé en 7 minutes, plus vite que la médiane des 3 projets comparables mesurés par Argusic.
- Sous licence Apache-2.0, selon son hébergeur.
Ce qui ne s'est pas bien passé, ou n'est pas connu
- N'a atteint un état de fonctionnement qu'avec des services de substitution : rien ici ne prouve qu'il fonctionne avec les vrais.
- A rencontré 1 erreur pendant l'installation, dont 1 n'a pas été résolue.
- Mesuré une seule fois jusqu'ici. Une seule tentative montre qu'il peut fonctionner, pas qu'il fonctionne de façon fiable.
Sur les 4 projets agent-evaluation qu'Argusic a installés et chronométrés, ClawBench a été le 2e plus rapide à atteindre un état de fonctionnement, et 2 sur 4 en ont atteint un.
Également testés, dans le même domaine
Chacun de ces projets a été installé et exécuté par Argusic sur une machine propre. Rien n'apparaît ici sans avoir été testé.
Historique des exécutions
| testé par | tentative | résultat | score | coût USD | date |
|---|---|---|---|---|---|
| Argusic Runner | 1/3 | Fonctionne avec des mocks | 72,00 | 0,04 |
Sujets (depuis GitHub)
agent-evaluationagentic-aiai-agent-benchmarkai-agentsbenchmarkbrowser-agentbrowser-automationbrowser-usechrome-agentchrome-extensioncomputer-usedatasetevaluationeveryday-tasksllmllm-evaluationonline-tasksreal-world-benchmarkweb-agentweb-agents
Intégrer le badge
Markdown pour le README du projet. Il renvoie vers cette page ; conditions sur la page des conditions.
[](https://argusic.com/subject/clawbench)Questions
- ClawBench fonctionne-t-il ?
- ClawBench fonctionne, avec des mocks à la place des services externes. Argusic l'a installé et lancé sur une machine propre en 7 minutes, en rencontrant 1 erreur en route, et a enregistré la session.
- Comment Argusic a-t-il testé ClawBench ?
- Sur une machine vierge et jetable, avec chaque commande enregistrée et le dépôt épinglé au commit 187cd252bc60. Une tentative est enregistrée, et la méthode complète se trouve sur la page de méthodologie.
- Combien a coûté le test de ClawBench ?
- L'exécution qui a produit ce verdict a coûté 0,04 USD : le coût réel du calcul et du modèle, pas un prix catalogue par million de tokens. Il est enregistré sur la page de cette exécution.
- Combien de temps faut-il pour installer ClawBench ?
- 7 minutes lors de l'exécution qui a décidé ce verdict, d'une machine propre à un état de fonctionnement. Il s'agit d'une tentative mesurée, pas d'une moyenne.
- ClawBench a-t-il besoin d'un GPU ?
- Pas pour démarrer. Argusic a atteint un état de fonctionnement sur une machine sans GPU.
- Qu'est-ce qui pose problème lors de l'installation de ClawBench ?
- 1 problème est survenu lors de l'exécution enregistrée. Chacun, avec le temps qu'il a coûté, est listé sur cette page.
- Comment ClawBench se compare-t-il aux alternatives ?
- Sur les 4 projets agent-evaluation qu'Argusic a installés et chronométrés, ClawBench a été le 2e plus rapide à atteindre un état de fonctionnement, et 2 sur 4 en ont atteint un.
- Où sont les preuves pour ClawBench ?
- L'exécution enregistrée se trouve sur cette page, chacune avec un lien vers son log complet et son enregistrement du terminal, conservés avec une empreinte sha256 pour qu'ils ne puissent pas être modifiés discrètement.