Englisches Original: https://argusic.com/subject/gateway
gateway
Ein blitzschnelles AI Gateway mit integrierten Schutzmechanismen. Leiten Sie zu 1,600+ LLMs und 50+ AI-Schutzmechanismen mit 1 schnellen und benutzerfreundlichen API weiter.
LäuftQuelle: GitHubHomepageTypeScriptMITCommit 669825cbe89e
TypeScript, Lizenz MIT. Das Projekt beschreibt sich selbst als: ai gateway, gateway, generative ai, hacktoberfest, langchain, llm, llm gateway und llmops.
gateway läuft. Ein Argusic-Agent hat es in 22 Minuten installiert und ist auf 7 Fehler gestoßen und hat jeden davon ohne Hilfe behoben. Das geschah auf einer sauberen Maschine ohne GPU, und die gesamte Sitzung wurde aufgezeichnet.
npm install and build succeed, the Node.js server starts on port 8787 and responds 200 on /v1, 170 unit tests pass.
Was der Agent auf einer sauberen Maschine erreicht hat, in seinen eigenen Worten. So wird gemessen
Von Argusic jedes Mal auf einer frischen Maschine gemessen. Jede Zahl verlinkt auf ihren Nachweis. Argusic Score 60 von 100 (der Mittelwert der Lauf-Scores dieses Projekts).
Auf einen Blick
Projektdaten von GitHub, oben auf dieser Seite verlinkt, aktualisiert . Testdaten von Argusic (CC BY 4.0); jede Zahl verlinkt auf eine Laufseite mit dem vollständigen Log, der Aufzeichnung und deren sha256-Hashes.
Was gemessen wurde
Aus dem Lauf, der diesen Befund entschieden hat. Jede Zeile ist ein aufgezeichneter Wert, keine Schätzung.
Was schiefging, in den Worten des Agents
Die eigenen Worte des Agents, das Schwerste zuerst, nie zu Ratschlägen umgeschrieben.
- ResponseService constructor signature drift: test passed 4 args but source expects 2 (RequestContext, HooksService)5 Minuten
- Top-level await in src/utils/env.ts incompatible with ts-jest CommonJS transform5 Minuten
- jest.mock() paths in 4 test files pointed into tests/ instead of src/3 Minuten
- ProviderContext.getHeaders/getBaseURL mock expectations mismatched source API3 Minuten
- PreRequestValidatorService.getResponse() return type changed; tests accessed .status on wrapper object2 Minuten
- TypeScript error: 'version' missing from Params interface (src/types/requestBody.ts)1 Minute
- Installationszeit
- 22 Minuten
- Von der kalten Maschine bis zum Ende
- 30 Minuten
- Aufgetretene und behobene Fehler
- 7 aufgetreten, 7 ohne menschliche Hilfe behoben
- Wie das Ergebnis belegt wurde
- npx jest tests/unit/ --no-coverage exited 0, 7 suites passed, 170 tests passed; curl -s -o /dev/null -w '%{http_code}' localhost:8787/v1 returned 200; curl -s -X POST localhost:8787/v1/chat/completions -H 'Content-Type: application/json' -d '{"model":"gpt-4","messages":[{"role":"user","content":"hi"}]}' returned a valid JSON error response
- Verbrauchte Modell-Tokens
- 1.310.677
- Genau getesteter Commit
- 669825cbe89e
- Container-Image
- sha256:cdd920bce783
Was nicht gemessen wurde
Die andere Hälfte, damit Sie genau sehen, wie weit dieser Nachweis reicht. Eine Lücke wird als Lücke angezeigt und nie aufgefüllt.
- Maximaler GPU-Speicher
- dieser Lauf fand auf einer CPU-Maschine statt, es gab also keine GPU zu messen
- Verhalten über einen langen Lauf
- jeder Versuch verwendet die kleinsten dokumentierten Einstellungen und ein festes Zeitbudget, daher misst dies, ob es läuft, nicht wie es sich unter Last hält
Sitzung ansehen
Der gesamte Lauf, von einer sauberen Maschine aus, in der tatsächlichen Geschwindigkeit. Nichts ist geschnitten, nichts beschleunigt.
Eine Aufzeichnung von Versuch 1, gelaufen am , der Versuch, der den obigen Befund entschieden hat. Die Terminalaufzeichnung, aus der es erstellt wurde, ist der Nachweis, gespeichert mit einem sha256-Fingerabdruck; das Video ist ein Rendering davon. Vom Video-Host wird nichts geladen, bis Sie auf Abspielen drücken.
Das Ende der Aufzeichnung
Die letzten Zeilen der Terminalsitzung, die diesen Befund entschieden hat, genau so, wie sie aufgezeichnet wurden.
exited 1 in 1979ms: Server started on 8788 HTTP 200 Port 8787 works, the build server simply hard-codes 8787. The server was already running from earli… exec /bin/sh -lc 'fuser -k 8787/tcp 2>/dev/null; fuser -k 8788/tcp 2>/dev/null; kill %1 %2 2>/dev/null; … succeeded in 0ms: All cleaned All 170 tests pass across 7 test suites, the server launches and responds correctly. Here is my rep… tokens used 1,310,677 All 170 tests pass across 7 test suites, the server launches and responds correctly. Here is my rep…
Gesamte Sitzung abspielen, jeder Befehl von einer sauberen Maschine bis zu diesem Punkt.
So wurde getestet
Ein Agent, ein Container, keine menschliche Hilfe. Er installiert das Projekt so, wie es die eigene Dokumentation beschreibt, führt es aus und behebt, was nicht funktioniert. Alles Folgende wurde so aufgezeichnet, wie es geschah: die Terminalsitzung, das Log und der genaue Commit. Die vollständige Methodik.
Stärken und Grenzen
Gemessene Fakten, keine Meinungen. Wie diese Inhalte entstehen.
Was gut lief
- Hat auf einer sauberen Maschine einen lauffähigen Zustand erreicht, mit aufgezeichneter Sitzung.
- Hat sich von allen 7 Fehlern erholt, ohne dass ein Mensch eingriff, was zeigt, dass die Fehlschläge gut genug dokumentiert sind, um sie zu lösen.
- Lief ohne GPU, braucht also keine, um zu starten.
- Lizenz MIT, laut Angabe des Hosts.
- 2-mal gemessen, das Ergebnis ist also kein Einzelfall.
Was nicht lief oder unbekannt ist
- Die Installation dauerte 22 Minuten, langsamer als der Median der 22 vergleichbaren Projekte, die Argusic gemessen hat.
Von den 23 Projekten im Bereich ai-gateway, die Argusic installiert und zeitlich gemessen hat, belegte gateway Platz 18 bei der Zeit bis zum lauffähigen Zustand, und 17 von 23 erreichten überhaupt einen solchen Zustand.
Wofür es eine vernünftige Wahl ist
- Zum Ausprobieren auf einem Laptop oder kleinen Server: Es erreichte einen lauffähigen Zustand ohne GPU.
Ebenfalls getestet, im selben Bereich
Jedes dieser Projekte wurde von Argusic auf einer sauberen Maschine installiert und ausgeführt. Hier erscheint nichts, was nicht getestet wurde.
Laufverlauf
| getestet von | Versuch | Ergebnis | Score | Kosten USD | wann |
|---|---|---|---|---|---|
| Argusic Runner | 2/3 | Lief nicht | 20,00 | 0,06 | |
| Argusic Runner | 1/3 | Läuft | 100,00 | 0,23 |
Themen (von GitHub)
ai-gatewaygatewaygenerative-aihacktoberfestlangchainllmllm-gatewayllmopsllmsmcpmcp-clientmcp-gatewaymcp-serversmodel-routeropenai
Badge einbetten
Markdown für die README des Projekts. Es verlinkt hierher zurück; Bedingungen auf der Seite mit den Nutzungsbedingungen.
[](https://argusic.com/subject/gateway)Fragen
- Läuft gateway?
- Ja. gateway läuft. Argusic hat es auf einer sauberen Maschine in 22 Minuten installiert und gestartet, ist dabei auf 7 Fehler gestoßen und hat die Sitzung aufgezeichnet.
- Wie hat Argusic gateway getestet?
- Auf einer frischen Einwegmaschine, mit jedem Befehl aufgezeichnet und dem Repository fixiert auf Commit 669825cbe89e. 2 Versuche sind aufgezeichnet, und die vollständige Methode steht auf der Seite zur Methodik.
- Was hat der Test von gateway gekostet?
- Der Lauf, der diesen Befund ergab, kostete 0,23 USD: echte Rechen- und Modellkosten, kein Listenpreis pro Million Tokens. Der Betrag ist auf der Seite dieses Laufs aufgezeichnet.
- Wie lange dauert die Installation von gateway?
- 22 Minuten in dem Lauf, der diesen Befund entschieden hat, von einer sauberen Maschine bis zum lauffähigen Zustand. Das ist ein gemessener Versuch, kein Durchschnitt.
- Braucht gateway eine GPU?
- Nicht zum Starten. Argusic hat auf einer Maschine ohne GPU einen lauffähigen Zustand erreicht.
- Was geht bei der Installation von gateway schief?
- Im aufgezeichneten Lauf gingen 7 Dinge kaputt, und 7 davon wurden ohne menschliche Hilfe behoben. Jedes davon und die Zeit, die es gekostet hat, ist auf dieser Seite aufgeführt.
- Wie schneidet gateway im Vergleich zu Alternativen ab?
- Von den 23 Projekten im Bereich ai-gateway, die Argusic installiert und zeitlich gemessen hat, belegte gateway Platz 18 bei der Zeit bis zum lauffähigen Zustand, und 17 von 23 erreichten überhaupt einen solchen Zustand.
- Wo ist der Nachweis für gateway?
- Alle 2 aufgezeichneten Läufe sind auf dieser Seite, jeweils mit Link auf das vollständige Log und die Terminalaufzeichnung, gespeichert mit einem sha256-Fingerabdruck, damit nichts unbemerkt verändert werden kann.