Original en inglés: https://argusic.com/subject/opengatellm
OpenGateLLM
Una interfaz unificada y de código abierto para ejecutar y gestionar LLMs self-hosted.
Funciona con mocksfuente: GitHubPythonMITcommit 4faf1f3b119c
Python, licencia MIT. El proyecto se describe a sí mismo como: api, llm y self hosted.
OpenGateLLM funciona, con sustitutos de los servicios de los que depende. Un agent de Argusic lo instaló en 12 minutos y encontró 7 errores en una máquina limpia sin GPU, y toda la sesión quedó grabada.
After fixing the Alembic downgrade revisions, OpenGateLLM installs, its unit (580) and integration (747 pass, 1 skipped) suites pass against real local Postgres 16.2 and Redis 6.2.14, and uvicorn serves /health 200, bootstraps the admin, and completes a real chat request end to end through a local mock provider.
Lo que el agent consiguió en una máquina limpia, en sus propias palabras. Cómo se mide
Medido por Argusic en una máquina limpia cada vez. Cada cifra enlaza a su evidencia. Puntuación Argusic de 89,1 sobre 100 (la media de las puntuaciones de las ejecuciones de este proyecto).
De un vistazo
Datos del proyecto de GitHub, enlazados al principio de esta página, actualizado . Datos de prueba de Argusic (CC BY 4.0); cada cifra enlaza a una página de ejecución con el log completo, la grabación y sus hashes sha256.
Qué se midió
De la ejecución que decidió este veredicto. Cada línea es un valor registrado, no una estimación.
Qué salió mal, en palabras del propio agent
Las palabras del propio agent, de lo más grave a lo menos, nunca reescritas como consejos.
- alembic downgrade failed: Cannot emit DROP CONSTRAINT ... has no name in revisions 4cbcc969c660, 9fd5b6491d48, 9ba1f6a21f20, 2d2550e0771d, c1e54102255e, 8c5ae2a3d4d0, e78eaed1bcb214 minutos
- upgrade head after a full downgrade base still fails: type "modeltype" already exists12 minutos
- docker/Postgres/Redis absent in container; background processes spawned by exec_command were reaped after the call (mock provider and a Redis helper died)8 minutos
- revision 9ba1f6a21f20 downgrade failed: relation "model" does not exist (model_client created before model)5 minutos
- full downgrade leaves httpmethod/limittype/permissiontype enum types behind, so a later upgrade fails with duplicate type5 minutos
- alembic downgrade base failed: type "collectionvisibility" already exists (enum type never dropped with its table)4 minutos
- Tiempo de instalación
- 12 minutos
- De máquina en frío a terminar
- 30 minutos
- Errores encontrados y corregidos
- 7 encontrados, 6 corregidos sin ayuda humana
- Cómo se demostró el resultado
- pip install '.[api,playground,dev,test]' exited 0; pytest api/tests/unit exited 0 (580 passed); pytest api/tests/integration exited 0 (747 passed, 1 skipped); alembic upgrade head and downgrade base each exited 0 on fresh DBs; uvicorn api.main:app served /health 200 {"status":"ok"}, /docs 200, login 200, real chat completion 200 with content 'echo:hello' (alias and stream), usage list 200, revoked key 401, unauthenticated chat 401
- Tokens de modelo usados
- 1.222.638
- Commit exacto probado
- 4faf1f3b119c
- Imagen del contenedor
- sha256:cdd920bce783
Qué no se midió
La otra mitad, para que veas exactamente hasta dónde llega esta evidencia. Un hueco se muestra como hueco y nunca se rellena.
- Memoria de GPU máxima
- se ejecutó en una máquina con CPU, así que no había GPU que muestrear
- Comportamiento en una ejecución larga
- cada intento usa la configuración documentada más pequeña y un presupuesto de tiempo fijo, así que esto mide si funciona, no cómo aguanta bajo carga
- Comportamiento con servicios reales
- esta ejecución solo se verificó con servicios sustitutos
Ver la sesión
La ejecución completa, desde una máquina limpia, a la velocidad a la que ocurrió. No se ha cortado ni acelerado nada.
Una grabación del intento 1, ejecutado el , el intento que decidió el veredicto anterior. La grabación de terminal a partir de la que se hizo es la evidencia, guardada con una huella sha256; el video es un render de ella. No se carga nada del servicio de video hasta que pulses reproducir.
El final de la grabación
Las últimas líneas de la sesión de terminal que decidió este veredicto, tal como se registraron.
- `POST /v1/auth/login` with the documented `admin`/`changeme` returned 200 and a key. `/v1/me`, `/… - Created a router and a provider pointing at a local Argusic-compatible mock (HTTP 201 each), then… - Key lifecycle: create, rename, revoke returned 200/200/200, and the revoked key's next request re… **Fixed errors (all in Alembic revisions)** - `alembic downgrade base` failed with `type "collectionvisibility" already exists`. The type was n… - Several revisions emitted unnamed constraints (`Cannot emit DROP CONSTRAINT ... has no name`) in … - Downgrade of `9ba1f6a21f20` added NOT NULL columns to tables holding rows and failed with not-nul… - Downgrade of `9ba1f6a21f20` recreated `model_client` before its referenced `model` table; reorder… - A full downgrade left `httpmethod`, `limittype`, `permissiontype`, and `collectionvisibility` beh… - After these fixes, a fresh `upgrade head` → `downgrade base` both exit 0, and the app starts on a… **Still broken:** running `upgrade head` *again* after a full `downgrade base` fails with `type "mo… **Unavailable here:** Docker and `make quickstart`/`make dev` (Docker isn't installed; I didn't run…
Reproducir la sesión completa, cada comando desde una máquina limpia hasta este punto.
Cómo se probó
Un agent, un contenedor, sin ayuda humana. Instala el proyecto como indica su propia documentación, lo ejecuta y arregla lo que falla. Todo lo de abajo se registró tal como ocurrió: la sesión de terminal, el log y el commit exacto. La metodología completa.
Puntos fuertes y límites
Hechos medidos, no opiniones. Cómo se redacta.
Qué salió bien
- Licencia MIT, según su plataforma de origen.
Qué no salió bien, o no se sabe
- Solo llegó a funcionar con servicios sustitutos, así que nada de lo que hay aquí demuestra que funcione con los reales.
- Tardó 12 minutos en instalarse, más lento que la mediana de los 60 proyectos comparables que ha medido Argusic.
- Encontró 7 errores durante la instalación, 1 de ellos sin resolver.
- Medido una sola vez hasta ahora. Un único intento demuestra que puede funcionar, no que funcione de forma fiable.
De los 61 proyectos de api que Argusic ha instalado y cronometrado, OpenGateLLM fue el 47.º más rápido en llegar a funcionar, y 35 de 61 llegaron a funcionar.
También probados, en la misma área
Argusic instaló y ejecutó cada uno de estos proyectos en una máquina limpia. Aquí no aparece nada que no se haya probado.
Historial de ejecuciones
| probado por | intento | resultado | puntuación | costo USD | cuándo |
|---|---|---|---|---|---|
| Argusic Runner | 1/3 | Funciona con mocks | 89,14 | 0,63 |
Temas (de GitHub)
Insertar el badge
Markdown para el README del proyecto. Enlaza de vuelta aquí; condiciones en la página de términos.
[](https://argusic.com/subject/opengatellm)Preguntas
- ¿Funciona OpenGateLLM?
- OpenGateLLM funciona, con mocks en lugar de los servicios externos. Argusic lo instaló y lo inició en una máquina limpia en 12 minutos, con 7 errores por el camino, y grabó la sesión.
- ¿Cómo probó Argusic OpenGateLLM?
- En una máquina limpia y desechable, con cada comando grabado y el repositorio fijado en el commit 4faf1f3b119c. Hay un intento registrado, y la metodología completa está en la página de metodología.
- ¿Cuánto costó probar OpenGateLLM?
- La ejecución que produjo este veredicto costó 0,63 USD: costo real de cómputo y de modelo, no un precio de lista por millón de tokens. Consta en la página de esa ejecución.
- ¿Cuánto tarda OpenGateLLM en instalarse?
- 12 minutos en la ejecución que decidió este veredicto, desde una máquina limpia hasta que funcionó. Es un intento medido, no una media.
- ¿Necesita OpenGateLLM una GPU?
- No para arrancar. Argusic consiguió que funcionara en una máquina sin GPU.
- ¿Qué falla al instalar OpenGateLLM?
- En la ejecución registrada fallaron 7 cosas, y 6 se corrigieron sin ayuda humana. Cada una, con el tiempo que costó, aparece en esta página.
- ¿Cómo se compara OpenGateLLM con las alternativas?
- De los 61 proyectos de api que Argusic ha instalado y cronometrado, OpenGateLLM fue el 47.º más rápido en llegar a funcionar, y 35 de 61 llegaron a funcionar.
- ¿Dónde está la evidencia de OpenGateLLM?
- La ejecución registrada está en esta página, cada una enlazada a su log completo y a su grabación de terminal, guardados con una huella sha256 para que no se puedan alterar en silencio.