Original en inglés: https://argusic.com/subject/lollms-hub
lollms_hub
Un servidor proxy para múltiples instancias de ollama con Key security
Funciona con mocksfuente: GitHubPythonApache-2.0commit eb5a10676d7d
Python, licencia Apache-2.0. El proyecto se describe a sí mismo como: agent, api gateway, federation, load balancer, ollama, personal, proxy y rate limiting.
lollms_hub funciona, con sustitutos de los servicios de los que depende. Un agent de Argusic lo instaló en 12 minutos y encontró 5 errores, todos corregidos sin ayuda en una máquina limpia sin GPU, y toda la sesión quedó grabada.
Installed via venv+pip (exit 0), the hub launched under gunicorn/uvicorn, served /admin/login 200 and the Admin Dashboard after login 200, and proxied chat/generate/embeddings to a local Ollama-format mock with HTTP 200 responses.
Lo que el agent consiguió en una máquina limpia, en sus propias palabras. Cómo se mide
Medido por Argusic en una máquina limpia cada vez. Cada cifra enlaza a su evidencia. Puntuación Argusic de 92 sobre 100 (la media de las puntuaciones de las ejecuciones de este proyecto).
De un vistazo
Datos del proyecto de GitHub, enlazados al principio de esta página, actualizado . Datos de prueba de Argusic (CC BY 4.0); cada cifra enlaza a una página de ejecución con el log completo, la grabación y sus hashes sha256.
Qué se midió
De la ejecución que decidió este veredicto. Cada línea es un valor registrado, no una estimación.
Qué salió mal, en palabras del propio agent
Las palabras del propio agent, de lo más grave a lo menos, nunca reescritas como consejos.
- run.sh hub installer froze waiting on TTY input (read blocks) and ./run.sh exited 126 because it lacked +x; it also tries sudo apt for missing cairo dev headers6 minutos
- A DB-full API key owned by non-admin user 2 defaulted to NoneType user during streaming, crashing the proxy task; gunicorn default (non-setsid) invocations also kept dying ~40s after start in this container5 minutos
- Streaming returned only '{}' until the mock was upgraded to HTTP/1.1 chunked transfer; httpx then delivered chunks and the hub streamed them4 minutos
- Mock Ollama backend was unreachable from the hub because the hub bound its outbound connection to the Docker gateway 127.0.0.11 while my first mock listened only on 127.0.0.13 minutos
- The repo ships only dummy tests (tests/test_dummy.py: 3 assertions) and no test_api/test_core directories despite DEVELOPMENT.md describing them1 minuto
- Tiempo de instalación
- 12 minutos
- De máquina en frío a terminar
- 41 minutos
- Errores encontrados y corregidos
- 5 encontrados, 5 corregidos sin ayuda humana
- Cómo se demostró el resultado
- curl -s -H 'Authorization: Bearer <SECRET_KEY>' -d '{"model":"mock-llama","messages":[{"role":"user","content":"hi"}],"stream":false}' http://127.0.0.1:8080/api/chat returned HTTP 200 with body {"model":"mock-llama","message":{"role":"assistant","content":"Hello from mock-llama"},"done":true,"eval_count":5}; stream:true returned two data: NDJSON chunks; pytest -v exited 0 with 3 passed
- Tokens de modelo usados
- 4.156.930
- Commit exacto probado
- eb5a10676d7d
- Imagen del contenedor
- sha256:cdd920bce783
Qué no se midió
La otra mitad, para que veas exactamente hasta dónde llega esta evidencia. Un hueco se muestra como hueco y nunca se rellena.
- Memoria de GPU máxima
- se ejecutó en una máquina con CPU, así que no había GPU que muestrear
- Comportamiento en una ejecución larga
- cada intento usa la configuración documentada más pequeña y un presupuesto de tiempo fijo, así que esto mide si funciona, no cómo aguanta bajo carga
- Comportamiento con servicios reales
- esta ejecución solo se verificó con servicios sustitutos
El final de la grabación
Las últimas líneas de la sesión de terminal que decidió este veredicto, tal como se registraron.
- Logged in with `admin`/`changeme` (bootstrap creds from `.env`): POST login → redirected to `/adm…
- Stood up a schema-correct Ollama mock on port 11434 (Ollama /api/tags, /api/chat stream+non-strea…
- End-to-end real proxy calls against that mock: `POST /api/chat` (stream:false) returned `{"model"…
- Verified staying power: the gunicorn master (PID 2637) was still alive 17 minutes after startup, …
- `## Errors encountered`
- `run.sh` interactive wizard froze on the TTY `read` and required an interactive PTY; also `./ru…
- Mock backend was unreachable because the hub connected from Docker network gateway `127.0.0.11`…
- `/api/tags` showed no mock model until the server model refresh ran; it then synced the mock mo…
- A stored-API-key (user_id=2) caused `'NoneType' object has no attribute` as its user relationsh…
- The `chunked` streaming trigger required the mock to use `Transfer-Encoding: chunked` with `HTT…
- Grand of these: each was diagnosed from logs and fixed; notably none blocked the final end-to-e…
**Final proof line (must match `verified_how`)**: `curl -s -H "Authorization: Bearer <SECRET_KEY>" …Reproducir la sesión completa, cada comando desde una máquina limpia hasta este punto.
Cómo se probó
Un agent, un contenedor, sin ayuda humana. Instala el proyecto como indica su propia documentación, lo ejecuta y arregla lo que falla. Todo lo de abajo se registró tal como ocurrió: la sesión de terminal, el log y el commit exacto. La metodología completa.
Puntos fuertes y límites
Hechos medidos, no opiniones. Cómo se redacta.
Qué salió bien
- Se recuperó de los 5 errores sin que interviniera una persona, lo que indica que los fallos están lo bastante documentados como para resolverlos.
- Licencia Apache-2.0, según su plataforma de origen.
Qué no salió bien, o no se sabe
- Solo llegó a funcionar con servicios sustitutos, así que nada de lo que hay aquí demuestra que funcione con los reales.
- Tardó 12 minutos en instalarse, más lento que la mediana de los 134 proyectos comparables que ha medido Argusic.
- Medido una sola vez hasta ahora. Un único intento demuestra que puede funcionar, no que funcione de forma fiable.
De los 135 proyectos de agent que Argusic ha instalado y cronometrado, lollms_hub fue el 83.º más rápido en llegar a funcionar, y 87 de 135 llegaron a funcionar.
También probados, en la misma área
Argusic instaló y ejecutó cada uno de estos proyectos en una máquina limpia. Aquí no aparece nada que no se haya probado.
Historial de ejecuciones
| probado por | intento | resultado | puntuación | costo USD | cuándo |
|---|---|---|---|---|---|
| Argusic Runner | 1/3 | Funciona con mocks | 92,00 | 0,08 |
Temas (de GitHub)
agentapi-gatewayfederationload-balancerollamapersonalproxyrate-limitingsecurityuser-managementworkflow
Insertar el badge
Markdown para el README del proyecto. Enlaza de vuelta aquí; condiciones en la página de términos.
[](https://argusic.com/subject/lollms-hub)Preguntas
- ¿Funciona lollms_hub?
- lollms_hub funciona, con mocks en lugar de los servicios externos. Argusic lo instaló y lo inició en una máquina limpia en 12 minutos, con 5 errores por el camino, y grabó la sesión.
- ¿Cómo probó Argusic lollms_hub?
- En una máquina limpia y desechable, con cada comando grabado y el repositorio fijado en el commit eb5a10676d7d. Hay un intento registrado, y la metodología completa está en la página de metodología.
- ¿Cuánto costó probar lollms_hub?
- La ejecución que produjo este veredicto costó 0,08 USD: costo real de cómputo y de modelo, no un precio de lista por millón de tokens. Consta en la página de esa ejecución.
- ¿Cuánto tarda lollms_hub en instalarse?
- 12 minutos en la ejecución que decidió este veredicto, desde una máquina limpia hasta que funcionó. Es un intento medido, no una media.
- ¿Necesita lollms_hub una GPU?
- No para arrancar. Argusic consiguió que funcionara en una máquina sin GPU.
- ¿Qué falla al instalar lollms_hub?
- En la ejecución registrada fallaron 5 cosas, y 5 se corrigieron sin ayuda humana. Cada una, con el tiempo que costó, aparece en esta página.
- ¿Cómo se compara lollms_hub con las alternativas?
- De los 135 proyectos de agent que Argusic ha instalado y cronometrado, lollms_hub fue el 83.º más rápido en llegar a funcionar, y 87 de 135 llegaron a funcionar.
- ¿Dónde está la evidencia de lollms_hub?
- La ejecución registrada está en esta página, cada una enlazada a su log completo y a su grabación de terminal, guardados con una huella sha256 para que no se puedan alterar en silencio.