英文原文: https://argusic.com/subject/lollms-hub

lollms_hub

一个用于多个 ollama 实例的代理服务器，具备 Key 安全

借助 mock 可运行来源：GitHubPythonApache-2.0commit eb5a10676d7d

Python，Apache-2.0 许可证. 项目的自我描述：agent、api gateway、federation、load balancer、ollama、personal、proxy 和 rate limiting.

lollms_hub 可以运行，其依赖的服务由替身代替。一个 Argusic agent 在一台没有 GPU 的干净机器上用 12 分钟完成了安装，遇到 5 个错误，并在无人协助的情况下全部修复，整个会话都被记录了下来。

Installed via venv+pip (exit 0), the hub launched under gunicorn/uvicorn, served /admin/login 200 and the Admin Dashboard after login 200, and proxied chat/generate/embeddings to a local Ollama-format mock with HTTP 200 responses.

agent 在干净的机器上最终得到的结果，用它自己的话说。 测量方式

每一次都由 Argusic 在全新机器上实测。每个数字都链接到对应的证据。 Argusic 评分 92，满分 100（该项目各次运行得分的平均值）。

概览

结论
借助 mock 可运行
Argusic 评分
92 / 100
验证运行的成本
0.08 USD（实测）
已记录的运行次数
1
最近测试
星标
649
fork 数
101
未关闭的 issue
21
关注者
6
大小
64 MB
创建于
最近推送

项目数据来自 GitHub，链接见本页顶部，更新于 。测试数据由 Argusic 提供 (CC BY 4.0)；每个数字都链接到一个运行页面，附完整的 log、录屏及其 sha256 哈希。

测量了什么

来自决定该结论的那次运行。 每一行都是记录下来的数值，而非估算。

测试 lollms_hub 时每个故障耗费的时间，取自已记录的运行
每一根柱子都是 agent 记录的一次失败，以及它耗费的时间。数据仅取自本次运行。

哪里出了问题，用 agent 自己的话说

agent 的原话，最严重的排在最前，从不改写成建议。

  • run.sh hub installer froze waiting on TTY input (read blocks) and ./run.sh exited 126 because it lacked +x; it also tries sudo apt for missing cairo dev headers6 分钟
  • A DB-full API key owned by non-admin user 2 defaulted to NoneType user during streaming, crashing the proxy task; gunicorn default (non-setsid) invocations also kept dying ~40s after start in this container5 分钟
  • Streaming returned only '{}' until the mock was upgraded to HTTP/1.1 chunked transfer; httpx then delivered chunks and the hub streamed them4 分钟
  • Mock Ollama backend was unreachable from the hub because the hub bound its outbound connection to the Docker gateway 127.0.0.11 while my first mock listened only on 127.0.0.13 分钟
  • The repo ships only dummy tests (tests/test_dummy.py: 3 assertions) and no test_api/test_core directories despite DEVELOPMENT.md describing them1 分钟
安装时间
12 分钟
从冷启动机器到完成
41 分钟
遇到并修复的错误
遇到 5 个，在无人协助的情况下修复了 5 个
结果是如何证明的
curl -s -H 'Authorization: Bearer <SECRET_KEY>' -d '{"model":"mock-llama","messages":[{"role":"user","content":"hi"}],"stream":false}' http://127.0.0.1:8080/api/chat returned HTTP 200 with body {"model":"mock-llama","message":{"role":"assistant","content":"Hello from mock-llama"},"done":true,"eval_count":5}; stream:true returned two data: NDJSON chunks; pytest -v exited 0 with 3 passed
使用的模型 token
4,156,930
测试的确切 commit
eb5a10676d7d
容器镜像
sha256:cdd920bce783

没有测量什么

另一半内容，让你清楚看到这些证据能说明到什么程度。缺失的数据就标为缺失，从不填补。

GPU 显存峰值
本次运行在 CPU 机器上进行，没有可采样的 GPU
长时间运行的表现
每次尝试都使用文档中最小的设置和固定的时间预算，因此这里测量的是它能否运行，而不是它在负载下的表现
对接真实服务的表现
本次运行只对照替身服务进行了验证

录屏的结尾

决定该结论的终端会话的最后几行，与录制时完全一致。

- Logged in with `admin`/`changeme` (bootstrap creds from `.env`): POST login → redirected to `/adm…
- Stood up a schema-correct Ollama mock on port 11434 (Ollama /api/tags, /api/chat stream+non-strea…
- End-to-end real proxy calls against that mock: `POST /api/chat` (stream:false) returned `{"model"…
- Verified staying power: the gunicorn master (PID 2637) was still alive 17 minutes after startup, …
- `## Errors encountered`
  - `run.sh` interactive wizard froze on the TTY `read` and required an interactive PTY; also `./ru…
  - Mock backend was unreachable because the hub connected from Docker network gateway `127.0.0.11`…
  - `/api/tags` showed no mock model until the server model refresh ran; it then synced the mock mo…
  - A stored-API-key (user_id=2) caused `'NoneType' object has no attribute` as its user relationsh…
  - The `chunked` streaming trigger required the mock to use `Transfer-Encoding: chunked` with `HTT…
  - Grand of these: each was diagnosed from logs and fixed; notably none blocked the final end-to-e…
**Final proof line (must match `verified_how`)**: `curl -s -H "Authorization: Bearer <SECRET_KEY>" …

回放完整会话，从干净的机器到此刻的每一条命令。

测试方式

一个 agent，一个容器，没有人工协助。它按照项目自身文档所写的方式安装项目，运行它，并修复出错的地方。下面的一切都按实际发生的过程记录：终端会话、log 和确切的 commit。 完整方法论.

优势与局限

均为实测事实，而非观点。内容是如何撰写的.

顺利的部分

  • 在无人介入的情况下从全部 5 个错误中恢复，说明这些故障的文档足以让人解决。
  • 采用 Apache-2.0 许可证，以其托管平台报告的信息为准。

不顺利或尚不清楚的部分

  • 只在替身服务下达到了运行状态，因此这里没有任何内容能证明它在真实服务下可以工作。
  • 安装用了 12 分钟，慢于 Argusic 测量过的 134 个同类项目的中位数。
  • 目前只测量过一次。单次尝试只能说明它可以运行，不能说明它能稳定运行。

在 Argusic 安装并计时过的 135 个 agent 项目中，lollms_hub 达到运行状态的速度排名第 83，135 个项目中有 87 个达到了运行状态。

同一领域中也测试过的项目

这里的每个项目都由 Argusic 在干净的机器上安装并运行过。未经测试的项目不会出现在这里。

  • pingoo 已验证可运行 · Rust · 4 个共同主题
  • api-firewall 已验证可运行 · Go · 3 个共同主题
  • syncope 已验证可运行 · Java · 3 个共同主题
  • better-chatbot 已测试，未验证 · TypeScript · 3 个共同主题
  • headroom 已验证可运行 · Python · 2 个共同主题
  • one-api 已验证可运行 · JavaScript · 2 个共同主题

运行历史

测试者尝试结果评分成本 USD时间
Argusic Runner1/3借助 mock 可运行92.000.08

主题 (来自 GitHub)

agentapi-gatewayfederationload-balancerollamapersonalproxyrate-limitingsecurityuser-managementworkflow

嵌入徽章

用于项目 README 的 Markdown。徽章链接回本页；使用条款见 条款页面.

[![Tested by Argusic](https://argusic.com/badge/lollms_hub.svg)](https://argusic.com/subject/lollms-hub)

常见问题

lollms_hub 能运行吗？
lollms_hub 可以运行，外部服务由 mock 代替. Argusic 在一台干净的机器上安装并启动了它，用时 12 分钟，过程中遇到 5 个错误，并记录了整个会话。
Argusic 是如何测试 lollms_hub 的？
在一台全新的一次性机器上进行，每条命令都被记录，仓库固定在 commit eb5a10676d7d。共记录了 1 次尝试，完整方法见方法论页面。
测试 lollms_hub 花了多少钱？
得出该结论的那次运行花费 0.08 USD：这是真实的算力和模型成本，而不是按每百万 token 计的标价。该数字记录在那次运行的页面上。
lollms_hub 安装需要多长时间？
在决定该结论的那次运行中，从干净的机器到运行状态用了 12 分钟。这是一次实测的尝试，不是平均值。
lollms_hub 需要 GPU 吗？
启动它不需要。Argusic 在一台没有 GPU 的机器上让它达到了运行状态。
安装 lollms_hub 时会出现什么问题？
已记录的运行中出现了 5 个问题，其中 5 个在无人协助的情况下被修复。每个问题及其耗费的时间都列在本页上。
lollms_hub 与其他替代方案相比如何？
在 Argusic 安装并计时过的 135 个 agent 项目中，lollms_hub 达到运行状态的速度排名第 83，135 个项目中有 87 个达到了运行状态。
lollms_hub 的证据在哪里？
这次已记录的运行都在本页上，每次都链接到完整的 log 和终端录屏，并连同 sha256 指纹一起保存，因此无法被悄悄篡改。

Discussion