Original en anglais: https://argusic.com/subject/opengatellm
OpenGateLLM
Une interface unifiée open-source pour exécuter et gérer vos LLMs auto-hébergés.
Fonctionne avec des mockssource : GitHubPythonMITcommit 4faf1f3b119c
Python, sous licence MIT. Le projet se décrit ainsi : api, llm et self hosted.
OpenGateLLM fonctionne, avec des substituts pour les services dont il dépend. Un agent Argusic l'a installé en 12 minutes et a rencontré 7 erreurs sur une machine propre sans GPU, et toute la session a été enregistrée.
After fixing the Alembic downgrade revisions, OpenGateLLM installs, its unit (580) and integration (747 pass, 1 skipped) suites pass against real local Postgres 16.2 and Redis 6.2.14, and uvicorn serves /health 200, bootstraps the admin, and completes a real chat request end to end through a local mock provider.
Ce que l'agent a obtenu sur une machine propre, dans ses propres mots. Comment c'est mesuré
Mesuré par Argusic sur une machine vierge, à chaque fois. Chaque chiffre renvoie à ses preuves. Score Argusic de 89,1 sur 100 (la moyenne des scores des exécutions de ce projet).
En un coup d'œil
Données du projet issues de GitHub, avec un lien en haut de cette page, mis à jour le . Données de test d'Argusic (CC BY 4.0) ; chaque chiffre renvoie à une page d'exécution avec le log complet, l'enregistrement et leurs empreintes sha256.
Ce qui a été mesuré
Tiré de l'exécution qui a décidé ce verdict. Chaque ligne est une valeur enregistrée, pas une estimation.
Ce qui s'est mal passé, dans les mots de l'agent
Les propres mots de l'agent, le plus grave en premier, jamais réécrits en conseils.
- alembic downgrade failed: Cannot emit DROP CONSTRAINT ... has no name in revisions 4cbcc969c660, 9fd5b6491d48, 9ba1f6a21f20, 2d2550e0771d, c1e54102255e, 8c5ae2a3d4d0, e78eaed1bcb214 minutes
- upgrade head after a full downgrade base still fails: type "modeltype" already exists12 minutes
- docker/Postgres/Redis absent in container; background processes spawned by exec_command were reaped after the call (mock provider and a Redis helper died)8 minutes
- revision 9ba1f6a21f20 downgrade failed: relation "model" does not exist (model_client created before model)5 minutes
- full downgrade leaves httpmethod/limittype/permissiontype enum types behind, so a later upgrade fails with duplicate type5 minutes
- alembic downgrade base failed: type "collectionvisibility" already exists (enum type never dropped with its table)4 minutes
- Temps d'installation
- 12 minutes
- De la machine vierge à la fin
- 30 minutes
- Erreurs rencontrées et corrigées
- 7 rencontrées, 6 corrigées sans aide humaine
- Comment le résultat a été prouvé
- pip install '.[api,playground,dev,test]' exited 0; pytest api/tests/unit exited 0 (580 passed); pytest api/tests/integration exited 0 (747 passed, 1 skipped); alembic upgrade head and downgrade base each exited 0 on fresh DBs; uvicorn api.main:app served /health 200 {"status":"ok"}, /docs 200, login 200, real chat completion 200 with content 'echo:hello' (alias and stream), usage list 200, revoked key 401, unauthenticated chat 401
- Tokens de modèle utilisés
- 1 222 638
- Commit exact testé
- 4faf1f3b119c
- Image de conteneur
- sha256:cdd920bce783
Ce qui n'a pas été mesuré
L'autre moitié, pour que vous voyiez exactement jusqu'où vont ces preuves. Une lacune est affichée comme une lacune et n'est jamais comblée.
- Pic de mémoire GPU
- cette exécution a eu lieu sur une machine CPU, il n'y avait donc pas de GPU à mesurer
- Comportement sur une longue durée
- chaque tentative utilise les réglages documentés les plus légers et un budget de temps fixe : on mesure donc s'il fonctionne, pas comment il tient sous la charge
- Comportement face aux vrais services
- cette exécution n'a été vérifiée qu'avec des services de substitution
Regarder la session
L'exécution complète, depuis une machine propre, à la vitesse réelle. Rien n'est coupé et rien n'est accéléré.
Un enregistrement de la tentative 1, exécutée le , la tentative qui a décidé le verdict ci-dessus. L'enregistrement du terminal dont elle est tirée constitue la preuve, conservée avec une empreinte sha256 ; la vidéo n'en est qu'un rendu. Rien n'est chargé depuis l'hébergeur de la vidéo tant que vous n'appuyez pas sur lecture.
La fin de l'enregistrement
Les dernières lignes de la session de terminal qui a décidé ce verdict, exactement telles qu'elles ont été enregistrées.
- `POST /v1/auth/login` with the documented `admin`/`changeme` returned 200 and a key. `/v1/me`, `/… - Created a router and a provider pointing at a local Argusic-compatible mock (HTTP 201 each), then… - Key lifecycle: create, rename, revoke returned 200/200/200, and the revoked key's next request re… **Fixed errors (all in Alembic revisions)** - `alembic downgrade base` failed with `type "collectionvisibility" already exists`. The type was n… - Several revisions emitted unnamed constraints (`Cannot emit DROP CONSTRAINT ... has no name`) in … - Downgrade of `9ba1f6a21f20` added NOT NULL columns to tables holding rows and failed with not-nul… - Downgrade of `9ba1f6a21f20` recreated `model_client` before its referenced `model` table; reorder… - A full downgrade left `httpmethod`, `limittype`, `permissiontype`, and `collectionvisibility` beh… - After these fixes, a fresh `upgrade head` → `downgrade base` both exit 0, and the app starts on a… **Still broken:** running `upgrade head` *again* after a full `downgrade base` fails with `type "mo… **Unavailable here:** Docker and `make quickstart`/`make dev` (Docker isn't installed; I didn't run…
Revoir toute la session, chaque commande depuis une machine propre jusqu'à ce point.
Comment le test a été mené
Un agent, un conteneur, aucune aide humaine. Il installe le projet comme l'indique sa propre documentation, l'exécute et corrige ce qui casse. Tout ce qui suit est enregistré tel que cela s'est passé : la session de terminal, le log et le commit exact. La méthode complète.
Points forts et limites
Des faits mesurés, pas des opinions. Comment ce site est rédigé.
Ce qui s'est bien passé
- Sous licence MIT, selon son hébergeur.
Ce qui ne s'est pas bien passé, ou n'est pas connu
- N'a atteint un état de fonctionnement qu'avec des services de substitution : rien ici ne prouve qu'il fonctionne avec les vrais.
- Installation en 12 minutes, plus lente que la médiane des 60 projets comparables mesurés par Argusic.
- A rencontré 7 erreurs pendant l'installation, dont 1 n'a pas été résolue.
- Mesuré une seule fois jusqu'ici. Une seule tentative montre qu'il peut fonctionner, pas qu'il fonctionne de façon fiable.
Sur les 61 projets api qu'Argusic a installés et chronométrés, OpenGateLLM a été le 47e plus rapide à atteindre un état de fonctionnement, et 35 sur 61 en ont atteint un.
Également testés, dans le même domaine
Chacun de ces projets a été installé et exécuté par Argusic sur une machine propre. Rien n'apparaît ici sans avoir été testé.
Historique des exécutions
| testé par | tentative | résultat | score | coût USD | date |
|---|---|---|---|---|---|
| Argusic Runner | 1/3 | Fonctionne avec des mocks | 89,14 | 0,63 |
Sujets (depuis GitHub)
Intégrer le badge
Markdown pour le README du projet. Il renvoie vers cette page ; conditions sur la page des conditions.
[](https://argusic.com/subject/opengatellm)Questions
- OpenGateLLM fonctionne-t-il ?
- OpenGateLLM fonctionne, avec des mocks à la place des services externes. Argusic l'a installé et lancé sur une machine propre en 12 minutes, en rencontrant 7 erreurs en route, et a enregistré la session.
- Comment Argusic a-t-il testé OpenGateLLM ?
- Sur une machine vierge et jetable, avec chaque commande enregistrée et le dépôt épinglé au commit 4faf1f3b119c. Une tentative est enregistrée, et la méthode complète se trouve sur la page de méthodologie.
- Combien a coûté le test d'OpenGateLLM ?
- L'exécution qui a produit ce verdict a coûté 0,63 USD : le coût réel du calcul et du modèle, pas un prix catalogue par million de tokens. Il est enregistré sur la page de cette exécution.
- Combien de temps faut-il pour installer OpenGateLLM ?
- 12 minutes lors de l'exécution qui a décidé ce verdict, d'une machine propre à un état de fonctionnement. Il s'agit d'une tentative mesurée, pas d'une moyenne.
- OpenGateLLM a-t-il besoin d'un GPU ?
- Pas pour démarrer. Argusic a atteint un état de fonctionnement sur une machine sans GPU.
- Qu'est-ce qui pose problème lors de l'installation d'OpenGateLLM ?
- 7 problèmes sont survenus lors de l'exécution enregistrée, et 6 ont été corrigés sans aide humaine. Chacun, avec le temps qu'il a coûté, est listé sur cette page.
- Comment OpenGateLLM se compare-t-il aux alternatives ?
- Sur les 61 projets api qu'Argusic a installés et chronométrés, OpenGateLLM a été le 47e plus rapide à atteindre un état de fonctionnement, et 35 sur 61 en ont atteint un.
- Où sont les preuves pour OpenGateLLM ?
- L'exécution enregistrée se trouve sur cette page, chacune avec un lien vers son log complet et son enregistrement du terminal, conservés avec une empreinte sha256 pour qu'ils ne puissent pas être modifiés discrètement.