Bản gốc tiếng Anh: https://argusic.com/subject/opengatellm
OpenGateLLM
Một giao diện mã nguồn mở, thống nhất để chạy và quản lý các LLM tự lưu trữ.
Chạy được với mocknguồn: GitHubPythonMITcommit 4faf1f3b119c
Python, giấy phép MIT. Dự án tự gắn nhãn: api, llm và self hosted.
OpenGateLLM chạy được, với dịch vụ giả lập thay cho các dịch vụ nó phụ thuộc. Trên một máy sạch không có GPU, một agent của Argusic đã cài đặt nó trong 12 phút, gặp 7 lỗi, và toàn bộ phiên làm việc được ghi lại.
After fixing the Alembic downgrade revisions, OpenGateLLM installs, its unit (580) and integration (747 pass, 1 skipped) suites pass against real local Postgres 16.2 and Redis 6.2.14, and uvicorn serves /health 200, bootstraps the admin, and completes a real chat request end to end through a local mock provider.
Kết quả agent đạt được trên máy sạch, bằng chính lời của nó. Cách đo
Argusic đo trên một máy mới mỗi lần. Mỗi con số đều link tới bằng chứng của nó. Điểm Argusic 89,1 trên 100 (trung bình điểm các lần chạy của dự án này).
Tóm tắt
Dữ liệu dự án lấy từ GitHub, có link ở đầu trang, cập nhật . Dữ liệu test của Argusic (CC BY 4.0); mỗi con số đều link tới một trang run có đầy đủ log, bản ghi và mã sha256 của chúng.
Những gì đã đo
Lấy từ lần chạy quyết định kết luận này. Mỗi dòng là một giá trị được ghi lại, không phải ước tính.
Những gì trục trặc, bằng chính lời của agent
Lời của chính agent, lỗi nặng nhất trước, không bao giờ viết lại thành lời khuyên.
- alembic downgrade failed: Cannot emit DROP CONSTRAINT ... has no name in revisions 4cbcc969c660, 9fd5b6491d48, 9ba1f6a21f20, 2d2550e0771d, c1e54102255e, 8c5ae2a3d4d0, e78eaed1bcb214 phút
- upgrade head after a full downgrade base still fails: type "modeltype" already exists12 phút
- docker/Postgres/Redis absent in container; background processes spawned by exec_command were reaped after the call (mock provider and a Redis helper died)8 phút
- revision 9ba1f6a21f20 downgrade failed: relation "model" does not exist (model_client created before model)5 phút
- full downgrade leaves httpmethod/limittype/permissiontype enum types behind, so a later upgrade fails with duplicate type5 phút
- alembic downgrade base failed: type "collectionvisibility" already exists (enum type never dropped with its table)4 phút
- Thời gian cài đặt
- 12 phút
- Từ máy sạch đến khi xong
- 30 phút
- Lỗi gặp và đã sửa
- gặp 7, tự sửa 6 mà không cần người giúp
- Cách chứng minh kết quả
- pip install '.[api,playground,dev,test]' exited 0; pytest api/tests/unit exited 0 (580 passed); pytest api/tests/integration exited 0 (747 passed, 1 skipped); alembic upgrade head and downgrade base each exited 0 on fresh DBs; uvicorn api.main:app served /health 200 {"status":"ok"}, /docs 200, login 200, real chat completion 200 with content 'echo:hello' (alias and stream), usage list 200, revoked key 401, unauthenticated chat 401
- Số token model đã dùng
- 1.222.638
- Commit chính xác đã test
- 4faf1f3b119c
- Container image
- sha256:cdd920bce783
Những gì chưa đo
Nửa còn lại, để bạn thấy rõ bằng chứng này đi xa tới đâu. Chỗ trống được ghi là chỗ trống và không bao giờ được lấp vào.
- Bộ nhớ GPU cao nhất
- lần này chạy trên máy CPU, nên không có GPU để đo
- Hoạt động khi chạy lâu
- mỗi lần thử dùng cấu hình nhỏ nhất có trong tài liệu và một khoảng thời gian cố định, nên đây là đo xem nó có chạy hay không, không đo nó chịu tải ra sao
- Hoạt động với dịch vụ thật
- lần chạy này chỉ được kiểm chứng với dịch vụ giả lập
Xem phiên làm việc
Toàn bộ lần chạy, từ máy sạch, đúng tốc độ thực tế. Không cắt và không tua nhanh đoạn nào.
Bản ghi của lần thử 1, chạy ngày , lần thử đã quyết định kết luận ở trên. Bản terminal recording dùng để làm video này là bằng chứng, được lưu với dấu vân tay sha256; video chỉ là bản dựng từ nó. Không có gì tải từ trang chứa video cho tới khi bạn bấm phát.
Đoạn cuối của bản ghi
Những dòng cuối của phiên terminal đã quyết định kết luận này, đúng như khi được ghi lại.
- `POST /v1/auth/login` with the documented `admin`/`changeme` returned 200 and a key. `/v1/me`, `/… - Created a router and a provider pointing at a local Argusic-compatible mock (HTTP 201 each), then… - Key lifecycle: create, rename, revoke returned 200/200/200, and the revoked key's next request re… **Fixed errors (all in Alembic revisions)** - `alembic downgrade base` failed with `type "collectionvisibility" already exists`. The type was n… - Several revisions emitted unnamed constraints (`Cannot emit DROP CONSTRAINT ... has no name`) in … - Downgrade of `9ba1f6a21f20` added NOT NULL columns to tables holding rows and failed with not-nul… - Downgrade of `9ba1f6a21f20` recreated `model_client` before its referenced `model` table; reorder… - A full downgrade left `httpmethod`, `limittype`, `permissiontype`, and `collectionvisibility` beh… - After these fixes, a fresh `upgrade head` → `downgrade base` both exit 0, and the app starts on a… **Still broken:** running `upgrade head` *again* after a full `downgrade base` fails with `type "mo… **Unavailable here:** Docker and `make quickstart`/`make dev` (Docker isn't installed; I didn't run…
Xem lại toàn bộ phiên, mọi lệnh từ máy sạch tới thời điểm này.
Cách test
Một agent, một container, không có người giúp. Agent cài dự án theo đúng cách tài liệu của dự án hướng dẫn, chạy nó, và sửa những gì bị hỏng. Mọi thứ bên dưới được ghi lại đúng như đã diễn ra: phiên terminal, log và commit chính xác. Toàn bộ phương pháp.
Điểm mạnh và giới hạn
Dữ kiện đo được, không phải ý kiến. Cách viết nội dung.
Những gì suôn sẻ
- Giấy phép MIT, theo thông tin từ nơi lưu trữ dự án.
Những gì không suôn sẻ, hoặc chưa biết
- Chỉ đạt trạng thái chạy được với dịch vụ giả lập, nên ở đây không có gì chứng minh nó chạy với dịch vụ thật.
- Mất 12 phút để cài đặt, chậm hơn trung vị của 60 dự án tương đương mà Argusic đã đo.
- Gặp 7 lỗi trong lúc cài đặt, trong đó 1 lỗi chưa được giải quyết.
- Mới đo một lần. Một lần thử cho thấy nó có thể chạy, chưa cho thấy nó chạy ổn định.
Trong 61 dự án api mà Argusic đã cài đặt và bấm giờ, OpenGateLLM đứng thứ 47 về tốc độ đạt trạng thái chạy được, và 35 trên 61 dự án đạt được trạng thái đó.
Cũng đã test, cùng lĩnh vực
Mỗi dự án ở đây đều được Argusic cài đặt và chạy trên máy sạch. Không có dự án nào chưa test xuất hiện ở đây.
Lịch sử chạy
| test bởi | lần thử | kết quả | điểm | chi phí USD | thời điểm |
|---|---|---|---|---|---|
| Argusic Runner | 1/3 | Chạy được với mock | 89,14 | 0,63 |
Chủ đề (từ GitHub)
Nhúng badge
Markdown cho README của dự án. Badge link về trang này; điều khoản ở trang điều khoản.
[](https://argusic.com/subject/opengatellm)Câu hỏi
- OpenGateLLM có chạy được không?
- OpenGateLLM chạy được, với mock thay cho các dịch vụ bên ngoài. Argusic đã cài đặt và khởi chạy nó trên một máy sạch trong 12 phút, gặp 7 lỗi trên đường đi, và ghi lại phiên làm việc.
- Argusic đã test OpenGateLLM như thế nào?
- Trên một máy mới, dùng một lần, mọi lệnh đều được ghi lại và repo được ghim ở commit 4faf1f3b119c. Có một lần thử được ghi lại, và toàn bộ phương pháp nằm ở trang phương pháp.
- Test OpenGateLLM tốn bao nhiêu?
- Lần chạy đưa ra kết luận này tốn 0,63 USD: chi phí máy và model thật, không phải giá niêm yết theo triệu token. Con số được ghi trên trang của lần chạy đó.
- Cài đặt OpenGateLLM mất bao lâu?
- 12 phút trong lần chạy quyết định kết luận này, từ máy sạch đến trạng thái chạy được. Đó là một lần thử đo được, không phải số trung bình.
- OpenGateLLM có cần GPU không?
- Không cần để khởi động. Argusic đã đạt trạng thái chạy được trên một máy không có GPU.
- Cài đặt OpenGateLLM thì gặp lỗi gì?
- 7 lỗi xảy ra trong lần chạy được ghi lại, và 6 lỗi đã được sửa mà không cần người giúp. Từng lỗi, cùng thời gian nó tốn, được liệt kê trên trang này.
- OpenGateLLM so với các lựa chọn khác thế nào?
- Trong 61 dự án api mà Argusic đã cài đặt và bấm giờ, OpenGateLLM đứng thứ 47 về tốc độ đạt trạng thái chạy được, và 35 trên 61 dự án đạt được trạng thái đó.
- Bằng chứng cho OpenGateLLM ở đâu?
- Lần chạy được ghi lại nằm trên trang này, mỗi lần link tới log đầy đủ và terminal recording, được lưu kèm dấu vân tay sha256 để không thể bị sửa lén.