Original en anglais: https://argusic.com/subject/openresearch

OpenResearch

Transformez vos coding agents en agents de recherche

Fonctionnesource : GitHubpage d'accueilRustMITcommit f336b121525d

Rust, sous licence MIT.

OpenResearch fonctionne. Un agent Argusic l'a installé en 15 minutes et a rencontré 1 erreur, corrigée sans aide sur une machine propre sans GPU, et toute la session a été enregistrée.

The orx CLI v0.2.13 builds, passes all 969 tests, prints the correct version and build channel, starts the dashboard on 127.0.0.1:4791 (HTTP 200), and lists local projects with no errors.

Ce que l'agent a obtenu sur une machine propre, dans ses propres mots. Comment c'est mesuré

Mesuré par Argusic sur une machine vierge, à chaque fois. Chaque chiffre renvoie à ses preuves. Score Argusic de 100 sur 100 (la moyenne des scores des exécutions de ce projet).

En un coup d'œil

verdict
Fonctionne
Score Argusic
100 / 100
coût de l'exécution de vérification
0,06 USD (mesuré)
exécutions enregistrées
1
dernier test
étoiles
7 841
forks
524
issues ouvertes
102
observateurs
23
taille
292 MB
créé le
dernier push

Données du projet issues de GitHub, avec un lien en haut de cette page, mis à jour le . Données de test d'Argusic (CC BY 4.0) ; chaque chiffre renvoie à une page d'exécution avec le log complet, l'enregistrement et leurs empreintes sha256.

Ce qui a été mesuré

Tiré de l'exécution qui a décidé ce verdict. Chaque ligne est une valeur enregistrée, pas une estimation.

Temps perdu à cause de chaque échec lors du test d'OpenResearch, tiré de l'exécution enregistrée
Chaque barre est un échec enregistré par l'agent, avec le temps qu'il a coûté. Tiré de cette exécution, et de nulle part ailleurs.

Ce qui s'est mal passé, dans les mots de l'agent

Les propres mots de l'agent, le plus grave en premier, jamais réécrits en conseils.

  • ssh-keygen not found in container (missing openssh-client package)4 minutes
Temps d'installation
15 minutes
De la machine vierge à la fin
14 minutes
Erreurs rencontrées et corrigées
1 rencontrée, 1 corrigée sans aide humaine
Comment le résultat a été prouvé
cargo test --locked passed 955 unit tests + 9 compute_cli tests + 5 logs_cli tests = 969 total; dashboard at http://127.0.0.1:4791 answered HTTP 200; orx version printed 'orx 0.2.13' and --build-channel printed 'development'
Tokens de modèle utilisés
154 118
Commit exact testé
f336b121525d
Image de conteneur
sha256:cdd920bce783

Ce qui n'a pas été mesuré

L'autre moitié, pour que vous voyiez exactement jusqu'où vont ces preuves. Une lacune est affichée comme une lacune et n'est jamais comblée.

Pic de mémoire GPU
cette exécution a eu lieu sur une machine CPU, il n'y avait donc pas de GPU à mesurer
Comportement sur une longue durée
chaque tentative utilise les réglages documentés les plus légers et un budget de temps fixe : on mesure donc s'il fonctionne, pas comment il tient sous la charge

Regarder la session

L'exécution complète, depuis une machine propre, à la vitesse réelle. Rien n'est coupé et rien n'est accéléré.

Un enregistrement de la tentative 1, exécutée le , la tentative qui a décidé le verdict ci-dessus. L'enregistrement du terminal dont elle est tirée constitue la preuve, conservée avec une empreinte sha256 ; la vidéo n'en est qu'un rendu. Rien n'est chargé depuis l'hébergeur de la vidéo tant que vous n'appuyez pas sur lecture.

La fin de l'enregistrement

Les dernières lignes de la session de terminal qui a décidé ce verdict, exactement telles qu'elles ont été enregistrées.

/bin/sh -lc 'cd /work/repo && . "$HOME/.cargo/env" && ./target/debug/orx projects --no-telemetry 2>…
 succeeded in 0ms:
No local projects found. Run `orx up` in a repository to add one.
exec
/bin/sh -lc 'echo "Total tests passed: 955 unit + 9 compute_cli + 5 logs_cli = 969"; date -u +%s' i…
 succeeded in 0ms:
Total tests passed: 955 unit + 9 compute_cli + 5 logs_cli = 969
1790753369
All 969 tests pass, the binary builds and runs, and the dashboard serves HTTP 200. Here's the summa…
tokens used
154,118
All 969 tests pass, the binary builds and runs, and the dashboard serves HTTP 200. Here's the summa…

Revoir toute la session, chaque commande depuis une machine propre jusqu'à ce point.

Comment le test a été mené

Un agent, un conteneur, aucune aide humaine. Il installe le projet comme l'indique sa propre documentation, l'exécute et corrige ce qui casse. Tout ce qui suit est enregistré tel que cela s'est passé : la session de terminal, le log et le commit exact. La méthode complète.

Points forts et limites

Des faits mesurés, pas des opinions. Comment ce site est rédigé.

Ce qui s'est bien passé

  • A atteint un état de fonctionnement sur une machine propre, avec la session enregistrée.
  • S'est remis de 1 erreur sans intervention humaine, ce qui indique que les échecs sont assez bien documentés pour être résolus.
  • A fonctionné sans GPU, il n'en a donc pas besoin pour démarrer.
  • Sous licence MIT, selon son hébergeur.

Ce qui ne s'est pas bien passé, ou n'est pas connu

  • Installation en 15 minutes, plus lente que la médiane des 16 projets comparables mesurés par Argusic.
  • Mesuré une seule fois jusqu'ici. Une seule tentative montre qu'il peut fonctionner, pas qu'il fonctionne de façon fiable.

Sur les 17 projets Rust qu'Argusic a installés et chronométrés, OpenResearch a été le 10e plus rapide à atteindre un état de fonctionnement, et 15 sur 17 en ont atteint un.

Pour quoi c'est un choix raisonnable

  • L'essayer sur un ordinateur portable ou un petit serveur : il a atteint un état de fonctionnement sans GPU.

Historique des exécutions

testé partentativerésultatscorecoût USDdate
Argusic Runner1/3Fonctionne100,000,06

Intégrer le badge

Markdown pour le README du projet. Il renvoie vers cette page ; conditions sur la page des conditions.

[![Tested by Argusic](https://argusic.com/badge/OpenResearch.svg)](https://argusic.com/subject/openresearch)

Questions

OpenResearch fonctionne-t-il ?
Oui. OpenResearch fonctionne. Argusic l'a installé et lancé sur une machine propre en 15 minutes, en rencontrant 1 erreur en route, et a enregistré la session.
Comment Argusic a-t-il testé OpenResearch ?
Sur une machine vierge et jetable, avec chaque commande enregistrée et le dépôt épinglé au commit f336b121525d. Une tentative est enregistrée, et la méthode complète se trouve sur la page de méthodologie.
Combien a coûté le test d'OpenResearch ?
L'exécution qui a produit ce verdict a coûté 0,06 USD : le coût réel du calcul et du modèle, pas un prix catalogue par million de tokens. Il est enregistré sur la page de cette exécution.
Combien de temps faut-il pour installer OpenResearch ?
15 minutes lors de l'exécution qui a décidé ce verdict, d'une machine propre à un état de fonctionnement. Il s'agit d'une tentative mesurée, pas d'une moyenne.
OpenResearch a-t-il besoin d'un GPU ?
Pas pour démarrer. Argusic a atteint un état de fonctionnement sur une machine sans GPU.
Qu'est-ce qui pose problème lors de l'installation d'OpenResearch ?
1 problème est survenu lors de l'exécution enregistrée, et 1 a été corrigé sans aide humaine. Chacun, avec le temps qu'il a coûté, est listé sur cette page.
Comment OpenResearch se compare-t-il aux alternatives ?
Sur les 17 projets Rust qu'Argusic a installés et chronométrés, OpenResearch a été le 10e plus rapide à atteindre un état de fonctionnement, et 15 sur 17 en ont atteint un.
Où sont les preuves pour OpenResearch ?
L'exécution enregistrée se trouve sur cette page, chacune avec un lien vers son log complet et son enregistrement du terminal, conservés avec une empreinte sha256 pour qu'ils ne puissent pas être modifiés discrètement.

Discussion