Englisches Original: https://argusic.com/subject/lollms-hub
lollms_hub
Ein Proxy-Server für mehrere ollama-Instanzen mit Schlüsselsicherheit.
Läuft mit MocksQuelle: GitHubPythonApache-2.0Commit eb5a10676d7d
Python, Lizenz Apache-2.0. Das Projekt beschreibt sich selbst als: agent, api gateway, federation, load balancer, ollama, personal, proxy und rate limiting.
lollms_hub läuft, mit Ersatz für die Dienste, von denen es abhängt. Ein Argusic-Agent hat es in 12 Minuten installiert und ist auf 5 Fehler gestoßen und hat jeden davon ohne Hilfe behoben. Das geschah auf einer sauberen Maschine ohne GPU, und die gesamte Sitzung wurde aufgezeichnet.
Installed via venv+pip (exit 0), the hub launched under gunicorn/uvicorn, served /admin/login 200 and the Admin Dashboard after login 200, and proxied chat/generate/embeddings to a local Ollama-format mock with HTTP 200 responses.
Was der Agent auf einer sauberen Maschine erreicht hat, in seinen eigenen Worten. So wird gemessen
Von Argusic jedes Mal auf einer frischen Maschine gemessen. Jede Zahl verlinkt auf ihren Nachweis. Argusic Score 92 von 100 (der Mittelwert der Lauf-Scores dieses Projekts).
Auf einen Blick
Projektdaten von GitHub, oben auf dieser Seite verlinkt, aktualisiert . Testdaten von Argusic (CC BY 4.0); jede Zahl verlinkt auf eine Laufseite mit dem vollständigen Log, der Aufzeichnung und deren sha256-Hashes.
Was gemessen wurde
Aus dem Lauf, der diesen Befund entschieden hat. Jede Zeile ist ein aufgezeichneter Wert, keine Schätzung.
Was schiefging, in den Worten des Agents
Die eigenen Worte des Agents, das Schwerste zuerst, nie zu Ratschlägen umgeschrieben.
- run.sh hub installer froze waiting on TTY input (read blocks) and ./run.sh exited 126 because it lacked +x; it also tries sudo apt for missing cairo dev headers6 Minuten
- A DB-full API key owned by non-admin user 2 defaulted to NoneType user during streaming, crashing the proxy task; gunicorn default (non-setsid) invocations also kept dying ~40s after start in this container5 Minuten
- Streaming returned only '{}' until the mock was upgraded to HTTP/1.1 chunked transfer; httpx then delivered chunks and the hub streamed them4 Minuten
- Mock Ollama backend was unreachable from the hub because the hub bound its outbound connection to the Docker gateway 127.0.0.11 while my first mock listened only on 127.0.0.13 Minuten
- The repo ships only dummy tests (tests/test_dummy.py: 3 assertions) and no test_api/test_core directories despite DEVELOPMENT.md describing them1 Minute
- Installationszeit
- 12 Minuten
- Von der kalten Maschine bis zum Ende
- 41 Minuten
- Aufgetretene und behobene Fehler
- 5 aufgetreten, 5 ohne menschliche Hilfe behoben
- Wie das Ergebnis belegt wurde
- curl -s -H 'Authorization: Bearer <SECRET_KEY>' -d '{"model":"mock-llama","messages":[{"role":"user","content":"hi"}],"stream":false}' http://127.0.0.1:8080/api/chat returned HTTP 200 with body {"model":"mock-llama","message":{"role":"assistant","content":"Hello from mock-llama"},"done":true,"eval_count":5}; stream:true returned two data: NDJSON chunks; pytest -v exited 0 with 3 passed
- Verbrauchte Modell-Tokens
- 4.156.930
- Genau getesteter Commit
- eb5a10676d7d
- Container-Image
- sha256:cdd920bce783
Was nicht gemessen wurde
Die andere Hälfte, damit Sie genau sehen, wie weit dieser Nachweis reicht. Eine Lücke wird als Lücke angezeigt und nie aufgefüllt.
- Maximaler GPU-Speicher
- dieser Lauf fand auf einer CPU-Maschine statt, es gab also keine GPU zu messen
- Verhalten über einen langen Lauf
- jeder Versuch verwendet die kleinsten dokumentierten Einstellungen und ein festes Zeitbudget, daher misst dies, ob es läuft, nicht wie es sich unter Last hält
- Verhalten gegenüber echten Diensten
- dieser Lauf wurde nur gegen Ersatzdienste verifiziert
Das Ende der Aufzeichnung
Die letzten Zeilen der Terminalsitzung, die diesen Befund entschieden hat, genau so, wie sie aufgezeichnet wurden.
- Logged in with `admin`/`changeme` (bootstrap creds from `.env`): POST login → redirected to `/adm…
- Stood up a schema-correct Ollama mock on port 11434 (Ollama /api/tags, /api/chat stream+non-strea…
- End-to-end real proxy calls against that mock: `POST /api/chat` (stream:false) returned `{"model"…
- Verified staying power: the gunicorn master (PID 2637) was still alive 17 minutes after startup, …
- `## Errors encountered`
- `run.sh` interactive wizard froze on the TTY `read` and required an interactive PTY; also `./ru…
- Mock backend was unreachable because the hub connected from Docker network gateway `127.0.0.11`…
- `/api/tags` showed no mock model until the server model refresh ran; it then synced the mock mo…
- A stored-API-key (user_id=2) caused `'NoneType' object has no attribute` as its user relationsh…
- The `chunked` streaming trigger required the mock to use `Transfer-Encoding: chunked` with `HTT…
- Grand of these: each was diagnosed from logs and fixed; notably none blocked the final end-to-e…
**Final proof line (must match `verified_how`)**: `curl -s -H "Authorization: Bearer <SECRET_KEY>" …Gesamte Sitzung abspielen, jeder Befehl von einer sauberen Maschine bis zu diesem Punkt.
So wurde getestet
Ein Agent, ein Container, keine menschliche Hilfe. Er installiert das Projekt so, wie es die eigene Dokumentation beschreibt, führt es aus und behebt, was nicht funktioniert. Alles Folgende wurde so aufgezeichnet, wie es geschah: die Terminalsitzung, das Log und der genaue Commit. Die vollständige Methodik.
Stärken und Grenzen
Gemessene Fakten, keine Meinungen. Wie diese Inhalte entstehen.
Was gut lief
- Hat sich von allen 5 Fehlern erholt, ohne dass ein Mensch eingriff, was zeigt, dass die Fehlschläge gut genug dokumentiert sind, um sie zu lösen.
- Lizenz Apache-2.0, laut Angabe des Hosts.
Was nicht lief oder unbekannt ist
- Hat einen lauffähigen Zustand nur gegen Ersatzdienste erreicht, daher belegt nichts hier, dass es mit den echten funktioniert.
- Die Installation dauerte 12 Minuten, langsamer als der Median der 134 vergleichbaren Projekte, die Argusic gemessen hat.
- Bisher einmal gemessen. Ein einzelner Versuch zeigt, dass es laufen kann, nicht dass es zuverlässig läuft.
Von den 135 Projekten im Bereich agent, die Argusic installiert und zeitlich gemessen hat, belegte lollms_hub Platz 83 bei der Zeit bis zum lauffähigen Zustand, und 87 von 135 erreichten überhaupt einen solchen Zustand.
Ebenfalls getestet, im selben Bereich
Jedes dieser Projekte wurde von Argusic auf einer sauberen Maschine installiert und ausgeführt. Hier erscheint nichts, was nicht getestet wurde.
Laufverlauf
| getestet von | Versuch | Ergebnis | Score | Kosten USD | wann |
|---|---|---|---|---|---|
| Argusic Runner | 1/3 | Läuft mit Mocks | 92,00 | 0,08 |
Themen (von GitHub)
agentapi-gatewayfederationload-balancerollamapersonalproxyrate-limitingsecurityuser-managementworkflow
Badge einbetten
Markdown für die README des Projekts. Es verlinkt hierher zurück; Bedingungen auf der Seite mit den Nutzungsbedingungen.
[](https://argusic.com/subject/lollms-hub)Fragen
- Läuft lollms_hub?
- lollms_hub läuft, mit Mocks als Ersatz für externe Dienste. Argusic hat es auf einer sauberen Maschine in 12 Minuten installiert und gestartet, ist dabei auf 5 Fehler gestoßen und hat die Sitzung aufgezeichnet.
- Wie hat Argusic lollms_hub getestet?
- Auf einer frischen Einwegmaschine, mit jedem Befehl aufgezeichnet und dem Repository fixiert auf Commit eb5a10676d7d. Ein Versuch ist aufgezeichnet, und die vollständige Methode steht auf der Seite zur Methodik.
- Was hat der Test von lollms_hub gekostet?
- Der Lauf, der diesen Befund ergab, kostete 0,08 USD: echte Rechen- und Modellkosten, kein Listenpreis pro Million Tokens. Der Betrag ist auf der Seite dieses Laufs aufgezeichnet.
- Wie lange dauert die Installation von lollms_hub?
- 12 Minuten in dem Lauf, der diesen Befund entschieden hat, von einer sauberen Maschine bis zum lauffähigen Zustand. Das ist ein gemessener Versuch, kein Durchschnitt.
- Braucht lollms_hub eine GPU?
- Nicht zum Starten. Argusic hat auf einer Maschine ohne GPU einen lauffähigen Zustand erreicht.
- Was geht bei der Installation von lollms_hub schief?
- Im aufgezeichneten Lauf gingen 5 Dinge kaputt, und 5 davon wurden ohne menschliche Hilfe behoben. Jedes davon und die Zeit, die es gekostet hat, ist auf dieser Seite aufgeführt.
- Wie schneidet lollms_hub im Vergleich zu Alternativen ab?
- Von den 135 Projekten im Bereich agent, die Argusic installiert und zeitlich gemessen hat, belegte lollms_hub Platz 83 bei der Zeit bis zum lauffähigen Zustand, und 87 von 135 erreichten überhaupt einen solchen Zustand.
- Wo ist der Nachweis für lollms_hub?
- Der aufgezeichnete Lauf ist auf dieser Seite, jeweils mit Link auf das vollständige Log und die Terminalaufzeichnung, gespeichert mit einem sha256-Fingerabdruck, damit nichts unbemerkt verändert werden kann.