Englisches Original: https://argusic.com/subject/opengatellm
OpenGateLLM
Eine einheitliche Open-Source-Schnittstelle zum Ausführen und Verwalten selbst gehosteter LLMs.
Läuft mit MocksQuelle: GitHubPythonMITCommit 4faf1f3b119c
Python, Lizenz MIT. Das Projekt beschreibt sich selbst als: api, llm und self hosted.
OpenGateLLM läuft, mit Ersatz für die Dienste, von denen es abhängt. Ein Argusic-Agent hat es in 12 Minuten installiert und ist auf 7 Fehler gestoßen. Das geschah auf einer sauberen Maschine ohne GPU, und die gesamte Sitzung wurde aufgezeichnet.
After fixing the Alembic downgrade revisions, OpenGateLLM installs, its unit (580) and integration (747 pass, 1 skipped) suites pass against real local Postgres 16.2 and Redis 6.2.14, and uvicorn serves /health 200, bootstraps the admin, and completes a real chat request end to end through a local mock provider.
Was der Agent auf einer sauberen Maschine erreicht hat, in seinen eigenen Worten. So wird gemessen
Von Argusic jedes Mal auf einer frischen Maschine gemessen. Jede Zahl verlinkt auf ihren Nachweis. Argusic Score 89,1 von 100 (der Mittelwert der Lauf-Scores dieses Projekts).
Auf einen Blick
Projektdaten von GitHub, oben auf dieser Seite verlinkt, aktualisiert . Testdaten von Argusic (CC BY 4.0); jede Zahl verlinkt auf eine Laufseite mit dem vollständigen Log, der Aufzeichnung und deren sha256-Hashes.
Was gemessen wurde
Aus dem Lauf, der diesen Befund entschieden hat. Jede Zeile ist ein aufgezeichneter Wert, keine Schätzung.
Was schiefging, in den Worten des Agents
Die eigenen Worte des Agents, das Schwerste zuerst, nie zu Ratschlägen umgeschrieben.
- alembic downgrade failed: Cannot emit DROP CONSTRAINT ... has no name in revisions 4cbcc969c660, 9fd5b6491d48, 9ba1f6a21f20, 2d2550e0771d, c1e54102255e, 8c5ae2a3d4d0, e78eaed1bcb214 Minuten
- upgrade head after a full downgrade base still fails: type "modeltype" already exists12 Minuten
- docker/Postgres/Redis absent in container; background processes spawned by exec_command were reaped after the call (mock provider and a Redis helper died)8 Minuten
- revision 9ba1f6a21f20 downgrade failed: relation "model" does not exist (model_client created before model)5 Minuten
- full downgrade leaves httpmethod/limittype/permissiontype enum types behind, so a later upgrade fails with duplicate type5 Minuten
- alembic downgrade base failed: type "collectionvisibility" already exists (enum type never dropped with its table)4 Minuten
- Installationszeit
- 12 Minuten
- Von der kalten Maschine bis zum Ende
- 30 Minuten
- Aufgetretene und behobene Fehler
- 7 aufgetreten, 6 ohne menschliche Hilfe behoben
- Wie das Ergebnis belegt wurde
- pip install '.[api,playground,dev,test]' exited 0; pytest api/tests/unit exited 0 (580 passed); pytest api/tests/integration exited 0 (747 passed, 1 skipped); alembic upgrade head and downgrade base each exited 0 on fresh DBs; uvicorn api.main:app served /health 200 {"status":"ok"}, /docs 200, login 200, real chat completion 200 with content 'echo:hello' (alias and stream), usage list 200, revoked key 401, unauthenticated chat 401
- Verbrauchte Modell-Tokens
- 1.222.638
- Genau getesteter Commit
- 4faf1f3b119c
- Container-Image
- sha256:cdd920bce783
Was nicht gemessen wurde
Die andere Hälfte, damit Sie genau sehen, wie weit dieser Nachweis reicht. Eine Lücke wird als Lücke angezeigt und nie aufgefüllt.
- Maximaler GPU-Speicher
- dieser Lauf fand auf einer CPU-Maschine statt, es gab also keine GPU zu messen
- Verhalten über einen langen Lauf
- jeder Versuch verwendet die kleinsten dokumentierten Einstellungen und ein festes Zeitbudget, daher misst dies, ob es läuft, nicht wie es sich unter Last hält
- Verhalten gegenüber echten Diensten
- dieser Lauf wurde nur gegen Ersatzdienste verifiziert
Sitzung ansehen
Der gesamte Lauf, von einer sauberen Maschine aus, in der tatsächlichen Geschwindigkeit. Nichts ist geschnitten, nichts beschleunigt.
Eine Aufzeichnung von Versuch 1, gelaufen am , der Versuch, der den obigen Befund entschieden hat. Die Terminalaufzeichnung, aus der es erstellt wurde, ist der Nachweis, gespeichert mit einem sha256-Fingerabdruck; das Video ist ein Rendering davon. Vom Video-Host wird nichts geladen, bis Sie auf Abspielen drücken.
Das Ende der Aufzeichnung
Die letzten Zeilen der Terminalsitzung, die diesen Befund entschieden hat, genau so, wie sie aufgezeichnet wurden.
- `POST /v1/auth/login` with the documented `admin`/`changeme` returned 200 and a key. `/v1/me`, `/… - Created a router and a provider pointing at a local Argusic-compatible mock (HTTP 201 each), then… - Key lifecycle: create, rename, revoke returned 200/200/200, and the revoked key's next request re… **Fixed errors (all in Alembic revisions)** - `alembic downgrade base` failed with `type "collectionvisibility" already exists`. The type was n… - Several revisions emitted unnamed constraints (`Cannot emit DROP CONSTRAINT ... has no name`) in … - Downgrade of `9ba1f6a21f20` added NOT NULL columns to tables holding rows and failed with not-nul… - Downgrade of `9ba1f6a21f20` recreated `model_client` before its referenced `model` table; reorder… - A full downgrade left `httpmethod`, `limittype`, `permissiontype`, and `collectionvisibility` beh… - After these fixes, a fresh `upgrade head` → `downgrade base` both exit 0, and the app starts on a… **Still broken:** running `upgrade head` *again* after a full `downgrade base` fails with `type "mo… **Unavailable here:** Docker and `make quickstart`/`make dev` (Docker isn't installed; I didn't run…
Gesamte Sitzung abspielen, jeder Befehl von einer sauberen Maschine bis zu diesem Punkt.
So wurde getestet
Ein Agent, ein Container, keine menschliche Hilfe. Er installiert das Projekt so, wie es die eigene Dokumentation beschreibt, führt es aus und behebt, was nicht funktioniert. Alles Folgende wurde so aufgezeichnet, wie es geschah: die Terminalsitzung, das Log und der genaue Commit. Die vollständige Methodik.
Stärken und Grenzen
Gemessene Fakten, keine Meinungen. Wie diese Inhalte entstehen.
Was gut lief
- Lizenz MIT, laut Angabe des Hosts.
Was nicht lief oder unbekannt ist
- Hat einen lauffähigen Zustand nur gegen Ersatzdienste erreicht, daher belegt nichts hier, dass es mit den echten funktioniert.
- Die Installation dauerte 12 Minuten, langsamer als der Median der 60 vergleichbaren Projekte, die Argusic gemessen hat.
- Ist bei der Einrichtung auf 7 Fehler gestoßen, davon 1 nicht gelöst.
- Bisher einmal gemessen. Ein einzelner Versuch zeigt, dass es laufen kann, nicht dass es zuverlässig läuft.
Von den 61 Projekten im Bereich api, die Argusic installiert und zeitlich gemessen hat, belegte OpenGateLLM Platz 47 bei der Zeit bis zum lauffähigen Zustand, und 35 von 61 erreichten überhaupt einen solchen Zustand.
Ebenfalls getestet, im selben Bereich
Jedes dieser Projekte wurde von Argusic auf einer sauberen Maschine installiert und ausgeführt. Hier erscheint nichts, was nicht getestet wurde.
Laufverlauf
| getestet von | Versuch | Ergebnis | Score | Kosten USD | wann |
|---|---|---|---|---|---|
| Argusic Runner | 1/3 | Läuft mit Mocks | 89,14 | 0,63 |
Themen (von GitHub)
Badge einbetten
Markdown für die README des Projekts. Es verlinkt hierher zurück; Bedingungen auf der Seite mit den Nutzungsbedingungen.
[](https://argusic.com/subject/opengatellm)Fragen
- Läuft OpenGateLLM?
- OpenGateLLM läuft, mit Mocks als Ersatz für externe Dienste. Argusic hat es auf einer sauberen Maschine in 12 Minuten installiert und gestartet, ist dabei auf 7 Fehler gestoßen und hat die Sitzung aufgezeichnet.
- Wie hat Argusic OpenGateLLM getestet?
- Auf einer frischen Einwegmaschine, mit jedem Befehl aufgezeichnet und dem Repository fixiert auf Commit 4faf1f3b119c. Ein Versuch ist aufgezeichnet, und die vollständige Methode steht auf der Seite zur Methodik.
- Was hat der Test von OpenGateLLM gekostet?
- Der Lauf, der diesen Befund ergab, kostete 0,63 USD: echte Rechen- und Modellkosten, kein Listenpreis pro Million Tokens. Der Betrag ist auf der Seite dieses Laufs aufgezeichnet.
- Wie lange dauert die Installation von OpenGateLLM?
- 12 Minuten in dem Lauf, der diesen Befund entschieden hat, von einer sauberen Maschine bis zum lauffähigen Zustand. Das ist ein gemessener Versuch, kein Durchschnitt.
- Braucht OpenGateLLM eine GPU?
- Nicht zum Starten. Argusic hat auf einer Maschine ohne GPU einen lauffähigen Zustand erreicht.
- Was geht bei der Installation von OpenGateLLM schief?
- Im aufgezeichneten Lauf gingen 7 Dinge kaputt, und 6 davon wurden ohne menschliche Hilfe behoben. Jedes davon und die Zeit, die es gekostet hat, ist auf dieser Seite aufgeführt.
- Wie schneidet OpenGateLLM im Vergleich zu Alternativen ab?
- Von den 61 Projekten im Bereich api, die Argusic installiert und zeitlich gemessen hat, belegte OpenGateLLM Platz 47 bei der Zeit bis zum lauffähigen Zustand, und 35 von 61 erreichten überhaupt einen solchen Zustand.
- Wo ist der Nachweis für OpenGateLLM?
- Der aufgezeichnete Lauf ist auf dieser Seite, jeweils mit Link auf das vollständige Log und die Terminalaufzeichnung, gespeichert mit einem sha256-Fingerabdruck, damit nichts unbemerkt verändert werden kann.