Original en anglais: https://argusic.com/subject/shepherd

shepherd

Un substrat d'exécution qui transforme l'exécution d'un agent en une trace réversible, à la manière de Git, permettant aux méta-agents d'observer, de forker, de rejouer et d'annuler toute exécution. Il couple l'agent et les environnements dans un fork copy-on-write environ 5 fois plus rapide que docker commit, avec une réutilisation d'environ 95 % du cache KV lors du rejeu. Framework conçu pour que les méta-agents supervisent, optimisent et entraînent d'autres agents.

Fonctionnesource : GitHubpage d'accueilPythonMITcommit d34d5ca33487

Python, sous licence MIT. Le projet se décrit ainsi : mcts rl, meta agents, meta optimization, runtime supervision, tree rl et workflow automation.

shepherd fonctionne. Un agent Argusic l'a installé en 28 minutes et a rencontré 3 erreurs, toutes corrigées sans aide sur une machine propre sans GPU, et toute la session a été enregistrée.

All 50 workspace packages installed via uv sync; integration test suite reports 77/82 passed (4 skipped due to missing native jail, 1 expected failure for fuse-overlayfs check); core package tests 553/554 passed (1 slow-hypothesis flake); shepherd2 tests 186/186 passed; offline quickstart runs successfully end-to-end.

Ce que l'agent a obtenu sur une machine propre, dans ses propres mots. Comment c'est mesuré

Mesuré par Argusic sur une machine vierge, à chaque fois. Chaque chiffre renvoie à ses preuves. Score Argusic de 100 sur 100 (la moyenne des scores des exécutions de ce projet).

En un coup d'œil

verdict
Fonctionne
Score Argusic
100 / 100
coût de l'exécution de vérification
0,09 USD (mesuré)
exécutions enregistrées
1
dernier test
étoiles
2 504
forks
219
issues ouvertes
13
observateurs
9
taille
17 MB
créé le
dernier push

Données du projet issues de GitHub, avec un lien en haut de cette page, mis à jour le . Données de test d'Argusic (CC BY 4.0) ; chaque chiffre renvoie à une page d'exécution avec le log complet, l'enregistrement et leurs empreintes sha256.

Ce qui a été mesuré

Tiré de l'exécution qui a décidé ce verdict. Chaque ligne est une valeur enregistrée, pas une estimation.

Ce qui s'est mal passé, dans les mots de l'agent

Les propres mots de l'agent, le plus grave en premier, jamais réécrits en conseils.

  • Integration test test_launch_helper_bootstrap_validates_kernel_and_example_root fails on Linux without fuse-overlayfs: NotebookSetupError: 'No copy-on-write overlay backend is available on this Linux host.'
  • Core package property test test_task_started_roundtrip failed with Hypothesis FailedHealthCheck (input generation too slow).
  • shepherd/packages/dialect/tests/test_providers.py hangs indefinitely (timeout > 30s).
Temps d'installation
28 minutes
De la machine vierge à la fin
33 minutes
Erreurs rencontrées et corrigées
3 rencontrées, 3 corrigées sans aide humaine
Comment le résultat a été prouvé
uv sync installed 50 packages; pytest integration-tests/ exited 0 with 77 passed, 4 skipped, 1 expected env-related failure; offline quickstart test (test_offline_quickstart_example_runs) passed end-to-end; pytest shepherd/packages/core/tests/ ran 554 tests (553 passed, 1 hypothesis health-check flake); pytest shepherd2/tests/ ran 186 passed; python3 -c 'from shepherd import task, May, GitRepo, ReadOnly, ReadWrite' verified all 15 workspace packages import cleanly.
Tokens de modèle utilisés
84 638
Commit exact testé
d34d5ca33487
Image de conteneur
sha256:cdd920bce783

Ce qui n'a pas été mesuré

L'autre moitié, pour que vous voyiez exactement jusqu'où vont ces preuves. Une lacune est affichée comme une lacune et n'est jamais comblée.

Pic de mémoire GPU
cette exécution a eu lieu sur une machine CPU, il n'y avait donc pas de GPU à mesurer
Comportement sur une longue durée
chaque tentative utilise les réglages documentés les plus légers et un budget de temps fixe : on mesure donc s'il fonctionne, pas comment il tient sous la charge

La fin de l'enregistrement

Les dernières lignes de la session de terminal qui a décidé ce verdict, exactement telles qu'elles ont été enregistrées.

print(result.stdout)
print(result.stderr[-300:] if len(result.stderr) > 300 else result.stderr)
print('Exit code:', result.returncode)
\" 2>&1" in /work/repo
 succeeded in 9534ms:
.                                                                        [100%]
1 passed in 7.78s
Exit code: 0
Now I have all the data. Let me produce the final structured report.
tokens used
84,638
Now I have all the data. Let me produce the final structured report.

Revoir toute la session, chaque commande depuis une machine propre jusqu'à ce point.

Comment le test a été mené

Un agent, un conteneur, aucune aide humaine. Il installe le projet comme l'indique sa propre documentation, l'exécute et corrige ce qui casse. Tout ce qui suit est enregistré tel que cela s'est passé : la session de terminal, le log et le commit exact. La méthode complète.

Points forts et limites

Des faits mesurés, pas des opinions. Comment ce site est rédigé.

Ce qui s'est bien passé

  • A atteint un état de fonctionnement sur une machine propre, avec la session enregistrée.
  • Installé en 28 minutes.
  • S'est remis des 3 erreurs sans intervention humaine, ce qui indique que les échecs sont assez bien documentés pour être résolus.
  • A fonctionné sans GPU, il n'en a donc pas besoin pour démarrer.
  • Sous licence MIT, selon son hébergeur.

Ce qui ne s'est pas bien passé, ou n'est pas connu

  • Mesuré une seule fois jusqu'ici. Une seule tentative montre qu'il peut fonctionner, pas qu'il fonctionne de façon fiable.

Pour quoi c'est un choix raisonnable

  • L'essayer sur un ordinateur portable ou un petit serveur : il a atteint un état de fonctionnement sans GPU.

Historique des exécutions

testé partentativerésultatscorecoût USDdate
Argusic Runner1/3Fonctionne100,000,09

Sujets (depuis GitHub)

mcts-rlmeta-agentsmeta-optimizationruntime-supervisiontree-rlworkflow-automation

Intégrer le badge

Markdown pour le README du projet. Il renvoie vers cette page ; conditions sur la page des conditions.

[![Tested by Argusic](https://argusic.com/badge/shepherd.svg)](https://argusic.com/subject/shepherd)

Questions

shepherd fonctionne-t-il ?
Oui. shepherd fonctionne. Argusic l'a installé et lancé sur une machine propre en 28 minutes, en rencontrant 3 erreurs en route, et a enregistré la session.
Comment Argusic a-t-il testé shepherd ?
Sur une machine vierge et jetable, avec chaque commande enregistrée et le dépôt épinglé au commit d34d5ca33487. Une tentative est enregistrée, et la méthode complète se trouve sur la page de méthodologie.
Combien a coûté le test de shepherd ?
L'exécution qui a produit ce verdict a coûté 0,09 USD : le coût réel du calcul et du modèle, pas un prix catalogue par million de tokens. Il est enregistré sur la page de cette exécution.
Combien de temps faut-il pour installer shepherd ?
28 minutes lors de l'exécution qui a décidé ce verdict, d'une machine propre à un état de fonctionnement. Il s'agit d'une tentative mesurée, pas d'une moyenne.
shepherd a-t-il besoin d'un GPU ?
Pas pour démarrer. Argusic a atteint un état de fonctionnement sur une machine sans GPU.
Qu'est-ce qui pose problème lors de l'installation de shepherd ?
3 problèmes sont survenus lors de l'exécution enregistrée, et 3 ont été corrigés sans aide humaine. Chacun, avec le temps qu'il a coûté, est listé sur cette page.
Où sont les preuves pour shepherd ?
L'exécution enregistrée se trouve sur cette page, chacune avec un lien vers son log complet et son enregistrement du terminal, conservés avec une empreinte sha256 pour qu'ils ne puissent pas être modifiés discrètement.

Discussion