Englisches Original: https://argusic.com/subject/reframe
reframe
Ein leistungsfähiges Python-Framework zum Schreiben und Ausführen von portablen Regressionstests und Benchmarks für HPC-Systeme.
LäuftQuelle: GitHubHomepagePythonBSD-3-ClauseCommit a72c713c7cac
Python, Lizenz BSD-3-Clause. Das Projekt beschreibt sich selbst als: benchmarking, continuous integration, framework, hpc, performance testing, python3, regression testing und validation testing.
reframe läuft. Ein Argusic-Agent hat es in 12 Minuten installiert und ist auf 3 Fehler gestoßen und hat jeden davon ohne Hilfe behoben. Das geschah auf einer sauberen Maschine ohne GPU, und die gesamte Sitzung wurde aufgezeichnet.
ReFrame installed into a venv and passes its full unit suite (1448 passed, 280 skipped), unittests exit 0, and ran real tests end-to-end: 4/4 dummy echo cases PASSED and 2/2 gcc-compiled STREAM cases PASSED with sanity and performance output.
Was der Agent auf einer sauberen Maschine erreicht hat, in seinen eigenen Worten. So wird gemessen
Von Argusic jedes Mal auf einer frischen Maschine gemessen. Jede Zahl verlinkt auf ihren Nachweis. Argusic Score 100 von 100 (der Mittelwert der Lauf-Scores dieses Projekts).
Auf einen Blick
Projektdaten von GitHub, oben auf dieser Seite verlinkt, aktualisiert . Testdaten von Argusic (CC BY 4.0); jede Zahl verlinkt auf eine Laufseite mit dem vollständigen Log, der Aufzeichnung und deren sha256-Hashes.
Was gemessen wurde
Aus dem Lauf, der diesen Befund entschieden hat. Jede Zeile ist ein aufgezeichneter Wert, keine Schätzung.
Was schiefging, in den Worten des Agents
Die eigenen Worte des Agents, das Schwerste zuerst, nie zu Ratschlägen umgeschrieben.
- pip 24.0 ignores [dependency-groups] so '.[dev]' install skipped dev tools2 Minuten
- pytest rejected --timeout=600 (no pytest-timeout plugin)1 Minute
- shell reported 'Bad substitution' from my ${PIPESTATUS} snippet
- Installationszeit
- 12 Minuten
- Von der kalten Maschine bis zum Ende
- 5 Minuten
- Aufgetretene und behobene Fehler
- 3 aufgetreten, 3 ohne menschliche Hilfe behoben
- Wie das Ergebnis belegt wurde
- .venv/bin/reframe --version -> 4.11.0-dev4+a72c713c; .venv/bin/python ./test_reframe.py -v -> 1448 passed, 280 skipped in 177.63s, exit 0; reframe --system generic --checkpath=examples/tutorial/dummy --run -v -> 4/4 PASSED; reframe -C rfm_userconfig.py --system generic --checkpath=examples/tutorial/stream/stream_cpuinfo.py --run -v -> 2/2 PASSED with copy_bw/triad_bw values
- Verbrauchte Modell-Tokens
- 103.207
- Genau getesteter Commit
- a72c713c7cac
- Container-Image
- sha256:cdd920bce783
Was nicht gemessen wurde
Die andere Hälfte, damit Sie genau sehen, wie weit dieser Nachweis reicht. Eine Lücke wird als Lücke angezeigt und nie aufgefüllt.
- Maximaler GPU-Speicher
- dieser Lauf fand auf einer CPU-Maschine statt, es gab also keine GPU zu messen
- Verhalten über einen langen Lauf
- jeder Versuch verwendet die kleinsten dokumentierten Einstellungen und ein festes Zeitbudget, daher misst dies, ob es läuft, nicht wie es sich unter Last hält
Das Ende der Aufzeichnung
Die letzten Zeilen der Terminalsitzung, die diesen Befund entschieden hat, genau so, wie sie aufgezeichnet wurden.
**What I did**
- Read `README.md` and `pyproject.toml`; this is ReFrame HPC (Python regression-test framework), no…
- Install: created a venv and ran `pip install -e '.[dev]'` → wheel built, all deps installed. `pip…
- Launch/version: `.venv/bin/reframe --version` → `4.11.0-dev4+a72c713c`, exit 0.
- Tests: `./test_reframe.py -v` → **1448 passed, 280 skipped, exit 0** in 2:57.
- Real end-to-end: `reframe --system generic --checkpath=examples/tutorial/dummy --run -v` → 4 test…
- Compile path: with a user config adding a `gnu` environs, `reframe -C /tmp/rfm_userconfig.py ... …
**Errors encountered**
1. `pytest.main(): error: unrecognized arguments: --timeout=600` — my flag; fixed by using the suit…
2. `pip install -e '.[dev]'` did not install dev tools (pip 24.0 ignores `dependency-groups`) — fix…
3. `/bin/sh: 1: Bad substitution` — my shell snippet's `${PIPESTATUS}` (dash); fixed by checking th…
Cleanup: removed `.venv`, `stage/`, `output/`; repo has no tracked modifications.Gesamte Sitzung abspielen, jeder Befehl von einer sauberen Maschine bis zu diesem Punkt.
So wurde getestet
Ein Agent, ein Container, keine menschliche Hilfe. Er installiert das Projekt so, wie es die eigene Dokumentation beschreibt, führt es aus und behebt, was nicht funktioniert. Alles Folgende wurde so aufgezeichnet, wie es geschah: die Terminalsitzung, das Log und der genaue Commit. Die vollständige Methodik.
Stärken und Grenzen
Gemessene Fakten, keine Meinungen. Wie diese Inhalte entstehen.
Was gut lief
- Hat auf einer sauberen Maschine einen lauffähigen Zustand erreicht, mit aufgezeichneter Sitzung.
- In 12 Minuten installiert.
- Hat sich von allen 3 Fehlern erholt, ohne dass ein Mensch eingriff, was zeigt, dass die Fehlschläge gut genug dokumentiert sind, um sie zu lösen.
- Lief ohne GPU, braucht also keine, um zu starten.
- Lizenz BSD-3-Clause, laut Angabe des Hosts.
Was nicht lief oder unbekannt ist
- Bisher einmal gemessen. Ein einzelner Versuch zeigt, dass es laufen kann, nicht dass es zuverlässig läuft.
Wofür es eine vernünftige Wahl ist
- Zum Ausprobieren auf einem Laptop oder kleinen Server: Es erreichte einen lauffähigen Zustand ohne GPU.
Laufverlauf
Themen (von GitHub)
benchmarkingcontinuous-integrationframeworkhpcperformance-testingpython3regression-testingvalidation-testing
Badge einbetten
Markdown für die README des Projekts. Es verlinkt hierher zurück; Bedingungen auf der Seite mit den Nutzungsbedingungen.
[](https://argusic.com/subject/reframe)Fragen
- Läuft reframe?
- Ja. reframe läuft. Argusic hat es auf einer sauberen Maschine in 12 Minuten installiert und gestartet, ist dabei auf 3 Fehler gestoßen und hat die Sitzung aufgezeichnet.
- Wie hat Argusic reframe getestet?
- Auf einer frischen Einwegmaschine, mit jedem Befehl aufgezeichnet und dem Repository fixiert auf Commit a72c713c7cac. Ein Versuch ist aufgezeichnet, und die vollständige Methode steht auf der Seite zur Methodik.
- Was hat der Test von reframe gekostet?
- Der Lauf, der diesen Befund ergab, kostete 0,03 USD: echte Rechen- und Modellkosten, kein Listenpreis pro Million Tokens. Der Betrag ist auf der Seite dieses Laufs aufgezeichnet.
- Wie lange dauert die Installation von reframe?
- 12 Minuten in dem Lauf, der diesen Befund entschieden hat, von einer sauberen Maschine bis zum lauffähigen Zustand. Das ist ein gemessener Versuch, kein Durchschnitt.
- Braucht reframe eine GPU?
- Nicht zum Starten. Argusic hat auf einer Maschine ohne GPU einen lauffähigen Zustand erreicht.
- Was geht bei der Installation von reframe schief?
- Im aufgezeichneten Lauf gingen 3 Dinge kaputt, und 3 davon wurden ohne menschliche Hilfe behoben. Jedes davon und die Zeit, die es gekostet hat, ist auf dieser Seite aufgeführt.
- Wo ist der Nachweis für reframe?
- Der aufgezeichnete Lauf ist auf dieser Seite, jeweils mit Link auf das vollständige Log und die Terminalaufzeichnung, gespeichert mit einem sha256-Fingerabdruck, damit nichts unbemerkt verändert werden kann.