Original en anglais: https://argusic.com/subject/lollms-hub
lollms_hub
Un serveur proxy pour plusieurs instances ollama avec Key security
Fonctionne avec des mockssource : GitHubPythonApache-2.0commit eb5a10676d7d
Python, sous licence Apache-2.0. Le projet se décrit ainsi : agent, api gateway, federation, load balancer, ollama, personal, proxy et rate limiting.
lollms_hub fonctionne, avec des substituts pour les services dont il dépend. Un agent Argusic l'a installé en 12 minutes et a rencontré 5 erreurs, toutes corrigées sans aide sur une machine propre sans GPU, et toute la session a été enregistrée.
Installed via venv+pip (exit 0), the hub launched under gunicorn/uvicorn, served /admin/login 200 and the Admin Dashboard after login 200, and proxied chat/generate/embeddings to a local Ollama-format mock with HTTP 200 responses.
Ce que l'agent a obtenu sur une machine propre, dans ses propres mots. Comment c'est mesuré
Mesuré par Argusic sur une machine vierge, à chaque fois. Chaque chiffre renvoie à ses preuves. Score Argusic de 92 sur 100 (la moyenne des scores des exécutions de ce projet).
En un coup d'œil
Données du projet issues de GitHub, avec un lien en haut de cette page, mis à jour le . Données de test d'Argusic (CC BY 4.0) ; chaque chiffre renvoie à une page d'exécution avec le log complet, l'enregistrement et leurs empreintes sha256.
Ce qui a été mesuré
Tiré de l'exécution qui a décidé ce verdict. Chaque ligne est une valeur enregistrée, pas une estimation.
Ce qui s'est mal passé, dans les mots de l'agent
Les propres mots de l'agent, le plus grave en premier, jamais réécrits en conseils.
- run.sh hub installer froze waiting on TTY input (read blocks) and ./run.sh exited 126 because it lacked +x; it also tries sudo apt for missing cairo dev headers6 minutes
- A DB-full API key owned by non-admin user 2 defaulted to NoneType user during streaming, crashing the proxy task; gunicorn default (non-setsid) invocations also kept dying ~40s after start in this container5 minutes
- Streaming returned only '{}' until the mock was upgraded to HTTP/1.1 chunked transfer; httpx then delivered chunks and the hub streamed them4 minutes
- Mock Ollama backend was unreachable from the hub because the hub bound its outbound connection to the Docker gateway 127.0.0.11 while my first mock listened only on 127.0.0.13 minutes
- The repo ships only dummy tests (tests/test_dummy.py: 3 assertions) and no test_api/test_core directories despite DEVELOPMENT.md describing them1 minute
- Temps d'installation
- 12 minutes
- De la machine vierge à la fin
- 41 minutes
- Erreurs rencontrées et corrigées
- 5 rencontrées, 5 corrigées sans aide humaine
- Comment le résultat a été prouvé
- curl -s -H 'Authorization: Bearer <SECRET_KEY>' -d '{"model":"mock-llama","messages":[{"role":"user","content":"hi"}],"stream":false}' http://127.0.0.1:8080/api/chat returned HTTP 200 with body {"model":"mock-llama","message":{"role":"assistant","content":"Hello from mock-llama"},"done":true,"eval_count":5}; stream:true returned two data: NDJSON chunks; pytest -v exited 0 with 3 passed
- Tokens de modèle utilisés
- 4 156 930
- Commit exact testé
- eb5a10676d7d
- Image de conteneur
- sha256:cdd920bce783
Ce qui n'a pas été mesuré
L'autre moitié, pour que vous voyiez exactement jusqu'où vont ces preuves. Une lacune est affichée comme une lacune et n'est jamais comblée.
- Pic de mémoire GPU
- cette exécution a eu lieu sur une machine CPU, il n'y avait donc pas de GPU à mesurer
- Comportement sur une longue durée
- chaque tentative utilise les réglages documentés les plus légers et un budget de temps fixe : on mesure donc s'il fonctionne, pas comment il tient sous la charge
- Comportement face aux vrais services
- cette exécution n'a été vérifiée qu'avec des services de substitution
La fin de l'enregistrement
Les dernières lignes de la session de terminal qui a décidé ce verdict, exactement telles qu'elles ont été enregistrées.
- Logged in with `admin`/`changeme` (bootstrap creds from `.env`): POST login → redirected to `/adm…
- Stood up a schema-correct Ollama mock on port 11434 (Ollama /api/tags, /api/chat stream+non-strea…
- End-to-end real proxy calls against that mock: `POST /api/chat` (stream:false) returned `{"model"…
- Verified staying power: the gunicorn master (PID 2637) was still alive 17 minutes after startup, …
- `## Errors encountered`
- `run.sh` interactive wizard froze on the TTY `read` and required an interactive PTY; also `./ru…
- Mock backend was unreachable because the hub connected from Docker network gateway `127.0.0.11`…
- `/api/tags` showed no mock model until the server model refresh ran; it then synced the mock mo…
- A stored-API-key (user_id=2) caused `'NoneType' object has no attribute` as its user relationsh…
- The `chunked` streaming trigger required the mock to use `Transfer-Encoding: chunked` with `HTT…
- Grand of these: each was diagnosed from logs and fixed; notably none blocked the final end-to-e…
**Final proof line (must match `verified_how`)**: `curl -s -H "Authorization: Bearer <SECRET_KEY>" …Revoir toute la session, chaque commande depuis une machine propre jusqu'à ce point.
Comment le test a été mené
Un agent, un conteneur, aucune aide humaine. Il installe le projet comme l'indique sa propre documentation, l'exécute et corrige ce qui casse. Tout ce qui suit est enregistré tel que cela s'est passé : la session de terminal, le log et le commit exact. La méthode complète.
Points forts et limites
Des faits mesurés, pas des opinions. Comment ce site est rédigé.
Ce qui s'est bien passé
- S'est remis des 5 erreurs sans intervention humaine, ce qui indique que les échecs sont assez bien documentés pour être résolus.
- Sous licence Apache-2.0, selon son hébergeur.
Ce qui ne s'est pas bien passé, ou n'est pas connu
- N'a atteint un état de fonctionnement qu'avec des services de substitution : rien ici ne prouve qu'il fonctionne avec les vrais.
- Installation en 12 minutes, plus lente que la médiane des 134 projets comparables mesurés par Argusic.
- Mesuré une seule fois jusqu'ici. Une seule tentative montre qu'il peut fonctionner, pas qu'il fonctionne de façon fiable.
Sur les 135 projets agent qu'Argusic a installés et chronométrés, lollms_hub a été le 83e plus rapide à atteindre un état de fonctionnement, et 87 sur 135 en ont atteint un.
Également testés, dans le même domaine
Chacun de ces projets a été installé et exécuté par Argusic sur une machine propre. Rien n'apparaît ici sans avoir été testé.
Historique des exécutions
| testé par | tentative | résultat | score | coût USD | date |
|---|---|---|---|---|---|
| Argusic Runner | 1/3 | Fonctionne avec des mocks | 92,00 | 0,08 |
Sujets (depuis GitHub)
agentapi-gatewayfederationload-balancerollamapersonalproxyrate-limitingsecurityuser-managementworkflow
Intégrer le badge
Markdown pour le README du projet. Il renvoie vers cette page ; conditions sur la page des conditions.
[](https://argusic.com/subject/lollms-hub)Questions
- lollms_hub fonctionne-t-il ?
- lollms_hub fonctionne, avec des mocks à la place des services externes. Argusic l'a installé et lancé sur une machine propre en 12 minutes, en rencontrant 5 erreurs en route, et a enregistré la session.
- Comment Argusic a-t-il testé lollms_hub ?
- Sur une machine vierge et jetable, avec chaque commande enregistrée et le dépôt épinglé au commit eb5a10676d7d. Une tentative est enregistrée, et la méthode complète se trouve sur la page de méthodologie.
- Combien a coûté le test de lollms_hub ?
- L'exécution qui a produit ce verdict a coûté 0,08 USD : le coût réel du calcul et du modèle, pas un prix catalogue par million de tokens. Il est enregistré sur la page de cette exécution.
- Combien de temps faut-il pour installer lollms_hub ?
- 12 minutes lors de l'exécution qui a décidé ce verdict, d'une machine propre à un état de fonctionnement. Il s'agit d'une tentative mesurée, pas d'une moyenne.
- lollms_hub a-t-il besoin d'un GPU ?
- Pas pour démarrer. Argusic a atteint un état de fonctionnement sur une machine sans GPU.
- Qu'est-ce qui pose problème lors de l'installation de lollms_hub ?
- 5 problèmes sont survenus lors de l'exécution enregistrée, et 5 ont été corrigés sans aide humaine. Chacun, avec le temps qu'il a coûté, est listé sur cette page.
- Comment lollms_hub se compare-t-il aux alternatives ?
- Sur les 135 projets agent qu'Argusic a installés et chronométrés, lollms_hub a été le 83e plus rapide à atteindre un état de fonctionnement, et 87 sur 135 en ont atteint un.
- Où sont les preuves pour lollms_hub ?
- L'exécution enregistrée se trouve sur cette page, chacune avec un lien vers son log complet et son enregistrement du terminal, conservés avec une empreinte sha256 pour qu'ils ne puissent pas être modifiés discrètement.