Englisches Original: https://argusic.com/subject/tracely-ai

Tracely-ai

Trace-native CI/CD für AI-Agenten, Produktionsfehler werden zu Regressionstests, die den PR blockieren. Automatisch erkennen, gruppieren, zu hermetischen Fällen einfrieren und für 0 $ in CI erneut ausführen.

LäuftQuelle: GitHubHomepagePythonMITCommit f332bc865d60

Python, Lizenz MIT. Das Projekt beschreibt sich selbst als: agent, agent observability, ai agents, ci cd, clickhouse, evals, evaluation und llm.

Tracely-ai läuft. Ein Argusic-Agent hat es in 5 Minuten installiert und ist auf 2 Fehler gestoßen. Das geschah auf einer sauberen Maschine ohne GPU, und die gesamte Sitzung wurde aufgezeichnet.

Python backend and SDK install, import, and all 1174 pytest tests pass on Python 3.12.3. Frontend installs via pnpm with no errors and next build compiles successfully but OOMs during static page generation (container memory limit). vitest tests require Node 22+ ([email protected] and [email protected]) while this container has Node 18.19.1 - CI uses Node 22. CLI tool tracely --help works.

Was der Agent auf einer sauberen Maschine erreicht hat, in seinen eigenen Worten. So wird gemessen

Von Argusic jedes Mal auf einer frischen Maschine gemessen. Jede Zahl verlinkt auf ihren Nachweis. Argusic Score 80 von 100 (der Mittelwert der Lauf-Scores dieses Projekts).

Auf einen Blick

Befund
Läuft
Argusic Score
80 / 100
Kosten des verifizierenden Laufs
0,24 USD (gemessen)
aufgezeichnete Läufe
1
zuletzt getestet
Sterne
1.410
Forks
155
offene Issues
22
Beobachter
6
Größe
23 MB
erstellt
letzter Push

Projektdaten von GitHub, oben auf dieser Seite verlinkt, aktualisiert . Testdaten von Argusic (CC BY 4.0); jede Zahl verlinkt auf eine Laufseite mit dem vollständigen Log, der Aufzeichnung und deren sha256-Hashes.

Was gemessen wurde

Aus dem Lauf, der diesen Befund entschieden hat. Jede Zeile ist ein aufgezeichneter Wert, keine Schätzung.

Durch jeden Fehlschlag verlorene Zeit beim Testen von Tracely-ai, aus dem aufgezeichneten Lauf gezeichnet
Jeder Balken ist ein Fehler, den der Agent aufgezeichnet hat, mit der Zeit, die er gekostet hat. Aus diesem Lauf gezeichnet, aus keiner anderen Quelle.

Was schiefging, in den Worten des Agents

Die eigenen Worte des Agents, das Schwerste zuerst, nie zu Ratschlägen umgeschrieben.

  • frontend vitest tests fail on Node 18 - jsdom@30 depends on [email protected] (engines: ^22.14.0) and [email protected] (engines: >=22.19.0), container has Node 18.19.115 Minuten
  • pnpm build (next build) OOM killed during static page generation after successful compilation5 Minuten
Installationszeit
5 Minuten
Von der kalten Maschine bis zum Ende
43 Minuten
Aufgetretene und behobene Fehler
2 aufgetreten, 0 ohne menschliche Hilfe behoben
Wie das Ergebnis belegt wurde
pytest backend/tests sdk/tests: 1174 passed, 34 skipped, 0 failed; tracely --help returned usage; uv run uvicorn --help succeeded; next build compiled successfully before OOM
Verbrauchte Modell-Tokens
667.905
Genau getesteter Commit
f332bc865d60
Container-Image
sha256:cdd920bce783

Was nicht gemessen wurde

Die andere Hälfte, damit Sie genau sehen, wie weit dieser Nachweis reicht. Eine Lücke wird als Lücke angezeigt und nie aufgefüllt.

Maximaler GPU-Speicher
dieser Lauf fand auf einer CPU-Maschine statt, es gab also keine GPU zu messen
Verhalten über einen langen Lauf
jeder Versuch verwendet die kleinsten dokumentierten Einstellungen und ein festes Zeitbudget, daher misst dies, ob es läuft, nicht wie es sich unter Last hält

Sitzung ansehen

Der gesamte Lauf, von einer sauberen Maschine aus, in der tatsächlichen Geschwindigkeit. Nichts ist geschnitten, nichts beschleunigt.

Eine Aufzeichnung von Versuch 1, gelaufen am , der Versuch, der den obigen Befund entschieden hat. Die Terminalaufzeichnung, aus der es erstellt wurde, ist der Nachweis, gespeichert mit einem sha256-Fingerabdruck; das Video ist ein Rendering davon. Vom Video-Host wird nichts geladen, bis Sie auf Abspielen drücken.

Das Ende der Aufzeichnung

Die letzten Zeilen der Terminalsitzung, die diesen Befund entschieden hat, genau so, wie sie aufgezeichnet wurden.

 succeeded in 0ms:
Restored @exodus/bytes package.json to original-like state
Removed encoding-lite.cjs
Removed encoding.cjs
Removed whatwg.cjs
Removed utf16.cjs
Removed utf8.cjs
Restored encoding-lite.js from .esm backup
Now let me do my final report. All patches are reverted and the repo is back to its original state.
tokens used
667,905
Now let me do my final report. All patches are reverted and the repo is back to its original state.

Gesamte Sitzung abspielen, jeder Befehl von einer sauberen Maschine bis zu diesem Punkt.

So wurde getestet

Ein Agent, ein Container, keine menschliche Hilfe. Er installiert das Projekt so, wie es die eigene Dokumentation beschreibt, führt es aus und behebt, was nicht funktioniert. Alles Folgende wurde so aufgezeichnet, wie es geschah: die Terminalsitzung, das Log und der genaue Commit. Die vollständige Methodik.

Stärken und Grenzen

Gemessene Fakten, keine Meinungen. Wie diese Inhalte entstehen.

Was gut lief

  • Hat auf einer sauberen Maschine einen lauffähigen Zustand erreicht, mit aufgezeichneter Sitzung.
  • In 5 Minuten installiert, schneller als der Median der 134 vergleichbaren Projekte, die Argusic gemessen hat.
  • Lief ohne GPU, braucht also keine, um zu starten.
  • Lizenz MIT, laut Angabe des Hosts.

Was nicht lief oder unbekannt ist

  • Ist bei der Einrichtung auf 2 Fehler gestoßen, davon 2 nicht gelöst.
  • Bisher einmal gemessen. Ein einzelner Versuch zeigt, dass es laufen kann, nicht dass es zuverlässig läuft.

Von den 135 Projekten im Bereich agent, die Argusic installiert und zeitlich gemessen hat, belegte Tracely-ai Platz 48 bei der Zeit bis zum lauffähigen Zustand, und 87 von 135 erreichten überhaupt einen solchen Zustand.

Wofür es eine vernünftige Wahl ist

  • Zum Ausprobieren auf einem Laptop oder kleinen Server: Es erreichte einen lauffähigen Zustand ohne GPU.
  • Für eine schnelle Evaluierung: Es lief 5 Minuten nach dem Klonen.

Ebenfalls getestet, im selben Bereich

Jedes dieser Projekte wurde von Argusic auf einer sauberen Maschine installiert und ausgeführt. Hier erscheint nichts, was nicht getestet wurde.

Laufverlauf

getestet vonVersuchErgebnisScoreKosten USDwann
Argusic Runner1/3Läuft80,000,24

Themen (von GitHub)

agentagent-observabilityai-agentsci-cdclickhouseevalsevaluationllmllm-as-judgellm-evaluationllm-observabilityllm-opsllmopsmcpmonitoringopentelemetrypythonself-hostedtracing

Badge einbetten

Markdown für die README des Projekts. Es verlinkt hierher zurück; Bedingungen auf der Seite mit den Nutzungsbedingungen.

[![Tested by Argusic](https://argusic.com/badge/Tracely-ai.svg)](https://argusic.com/subject/tracely-ai)

Fragen

Läuft Tracely-ai?
Ja. Tracely-ai läuft. Argusic hat es auf einer sauberen Maschine in 5 Minuten installiert und gestartet, ist dabei auf 2 Fehler gestoßen und hat die Sitzung aufgezeichnet.
Wie hat Argusic Tracely-ai getestet?
Auf einer frischen Einwegmaschine, mit jedem Befehl aufgezeichnet und dem Repository fixiert auf Commit f332bc865d60. Ein Versuch ist aufgezeichnet, und die vollständige Methode steht auf der Seite zur Methodik.
Was hat der Test von Tracely-ai gekostet?
Der Lauf, der diesen Befund ergab, kostete 0,24 USD: echte Rechen- und Modellkosten, kein Listenpreis pro Million Tokens. Der Betrag ist auf der Seite dieses Laufs aufgezeichnet.
Wie lange dauert die Installation von Tracely-ai?
5 Minuten in dem Lauf, der diesen Befund entschieden hat, von einer sauberen Maschine bis zum lauffähigen Zustand. Das ist ein gemessener Versuch, kein Durchschnitt.
Braucht Tracely-ai eine GPU?
Nicht zum Starten. Argusic hat auf einer Maschine ohne GPU einen lauffähigen Zustand erreicht.
Was geht bei der Installation von Tracely-ai schief?
Im aufgezeichneten Lauf gingen 2 Dinge kaputt. Jedes davon und die Zeit, die es gekostet hat, ist auf dieser Seite aufgeführt.
Wie schneidet Tracely-ai im Vergleich zu Alternativen ab?
Von den 135 Projekten im Bereich agent, die Argusic installiert und zeitlich gemessen hat, belegte Tracely-ai Platz 48 bei der Zeit bis zum lauffähigen Zustand, und 87 von 135 erreichten überhaupt einen solchen Zustand.
Wo ist der Nachweis für Tracely-ai?
Der aufgezeichnete Lauf ist auf dieser Seite, jeweils mit Link auf das vollständige Log und die Terminalaufzeichnung, gespeichert mit einem sha256-Fingerabdruck, damit nichts unbemerkt verändert werden kann.

Discussion