Open-Source-LLM-Gateways, installiert und ausgeführt

Unbegrenztes kostenloses KI-Coding. Verbinden Sie Claude Code, Codex, Cursor, Cline, Copilot, Antigravity mit den kostenlosen Claude/GPT/Gemini über 40+...

Was der Test ergab: Root npm install completed, npm run build succeeded, the standalone Next.js app serves the login page (200), models API (200 with JSON model list), and version endpoint (200), and the test suite runs 2562 passing tests. 42 Minuten.

Next-Gen-Multi-Tenant-KI-All-in-One-Lösung. Integriertes Admin- und Abrechnungssystem. Enterprise-Grade-Unified-LLM-Gateway mit Unterstützung für über 200...

Was der Test ergab: CoAI.Dev builds and runs on port 8094 using SQLite (no MySQL) and a fake Redis mock, with login, user info, admin analytics, quota, subscription, channel management, and model listing endpoints all responding correctly. 18 Minuten.

Self-hosted AI Gateway für Multi-Channel, Multi-Credential Setups: API Keys und Subscription Accounts, Scheduling, Failover, Request Logs und Usage.

Was der Test ergab: GPT-Load 2.0 binary builds, web UI compiles, server starts on 127.0.0.1:3001, health endpoint returns HTTP 200, auto-generates AUTH_KEY, and shuts down gracefully with all database migrations completed and catalog synced. 8 Minuten.

Plano ist ein AI-nativer Proxy-Server und eine Datenebene für Agenten-Apps. Intelligentes LLM-Routing, Observability, Agent-Orchestrierung und Guardrails...

Was der Test ergab: Plano native mode starts, health endpoint returns 200, CLI reports version 0.4.36, all Rust and Python tests pass. 21 Minuten.

Ein selbst gehostetes CPA-/CLIProxyAPI-Verwaltungspanel und Observability-Dashboard für AI-Gateways mit Übersicht über Anfragen, Nutzung, Kosten, Kontingente...

Was der Test ergab: CPA Manager Plus web app installs, builds, type-checks, and runs all 4156 web tests passing; repo-level tests pass 256/257. The dev server serves the management panel on port 5173 and returns HTTP 200. 12 Minuten.

KrakenD Community Edition: Hochleistungsfähiges, zustandsloses, deklaratives API-Gateway, geschrieben in Go.

Was der Test ergab: KrakenD v2.13.11 binary built, all 58 integration tests pass, server listens on port 8080 and responds to /__health with 200. 4 Minuten.

Selbst gehosteter LLM-Router mit einem verwalteten Sicherheitsnetz. OpenAI-kompatibel. BYOK. Einzelner Arbeitsbereich. Streaming. Für fortgeschrittenes Routing...

Was der Test ergab: OrcaRouter Lite installs from source, all 703 tests pass, the server starts on port 8000, seeds a workspace+key, and serves /health, /v1/models with auth gating. 7 Minuten.

1 Ort, um alle Ihre Agenten zu rufen: OpenCode, Hermes, Claude Managed Agents, Cursor Agents API, DeepAgents.

Was der Test ergab: The LiteLLM Agent Control Plane Rust binary compiles from source, its full test suite passes (211 passed, 0 failed, 7 ignored for missing live credentials), the server starts on port 4000, /health returns 200, and /v1/models returns configured models. 8 Minuten.

Selbst gehostetes AI-Gateway für Coding-CLIs, ein OpenAI/Claude/Gemini/Codex-kompatibler Endpunkt, mit einer Multi-Tenant-Webkonsole, Request-Logs und...

Was der Test ergab: With user-compiled PostgreSQL 16.8 and Redis 7.2.5 and remote-management.disable-control-panel set, the CliRelay server (built from this repo) runs on 127.0.0.1:8317 answering /healthz 204, /v1/models 200 and /v1beta/models 200, and the full test suite passes when run sequentially (go test -p 1 -count=1 ./... exit 0... 37 Minuten.

ReachAI: Schnell und sicher bringt es AI in bestehende Unternehmenssysteme, sodass AI Daten abfragen, Formulare ausfüllen und Geschäftsaufgaben direkt in OA-...

Was der Test ergab: Backend builds cleanly and all 2246 unit/integration tests pass across 9 Maven modules. Frontend builds with npm run build and 453 of 454 vitest tests pass across 10 test suites (1 pre-existing timezone-dependent dashboard test fails in UTC). 34 Minuten.

AI-native Open-Source-Alternative zu Vercel + Sentry + PostHog + Pingdom + Resend + E2B. 440+ CLI-Operationen mit direkt einsetzbaren Skills für Claude Code...

Was der Test ergab: Temps built from source runs a control-plane server on 127.0.0.1:8081 against a Postgres 17.4 + TimescaleDB/pgvector/pg_tsparser mock database, serves /health 200 and an authenticated API that created and listed a real project; all 276 database migrations and the web console build complete successfully. 85 Minuten.

Open-Source-AI-Gateway, das Sie selbst ausführen. Ein Endpunkt für 40+ Anbieter, mit virtuellen Schlüsseln, Budgets und Nutzungsverfolgung.

Was der Test ergab: The Otari LLM gateway installed from source with uv, boots as a standalone server on port 8000 serving the management API, bootstrap, health, docs, OpenAPI spec, and tutorial root page, and the OSS edition smoke test exercises all key lifecycle stages (health, bootstrap, user/keys, providers, routing, completions... 20 Minuten.

Gemini Web → OpenAI-kompatibel + native Gemini API, selbst gehostet, kein API-Key. Gemini 4 Argon aus einem Cookie eines kostenpflichtigen Kontos, strict_model...

Was der Test ergab: gemini-web2api-go v4.20.1 compiles, starts on port 8083, answers health check at / returning status ok, serves 2 models (gemini-3.5-flash-lite, gemini-3.6-flash) at /v1/models, processes chat completions at /v1/chat/completions with real Gemini responses, and exposes an admin UI at /admin with token auth, all 58 tests... 7 Minuten.

Das schnellste Open-Source-AI-Gateway und LLM-Gateway: eine einzige Binärdatei mit integrierter Konsole, um jeden LLM-Aufruf über OpenAI, Anthropic, Gemini...

Was der Test ergab: The Antirion AI gateway builds from source, its test suite passes 1044/1044 tests, the binary starts in standalone mode with the embedded store, and successfully routes a chat completion request through a provider, deployment, model, and key to a mock upstream and back with HTTP 200. 16 Minuten.

Sehen Sie, was jeder KI-Coding-Agent auf Ihrer Maschine tut, und ob die dahinterliegende API tatsächlich die ist, für die Sie bezahlt haben. Claude Code...

Was der Test ergab: Server binary installed via curl|bash and starts on localhost:17000; sign-in (admin/123), API endpoints, relay token, provider CRUD, and LLM relay (non-stream and streaming) all verified end-to-end with a mock OpenAI upstream returning HTTP 200 with correct response body. 10 Minuten.

Lokales Gateway für Claude Code, Codex und andere AI-Clients unter macOS, Windows und Linux: Upstreams wechseln, ohne die Clients anzufassen, API-Keys von...

Was der Test ergab: Frontend builds successfully (vite), vitest suite passes 611/611 tests, Rust crate tw-adopt passes 67/67 tests, Rust crate tw-scan passes 35/35 tests; the main Tauri desktop binary is blocked by missing glib2/gtk3/webkit2gtk development packages that cannot be installed without root. 8 Minuten.

Ein lokales AI-Gateway für AI agents, das Ihre Abonnements und API-Anbieter mit intelligentem Routing und On-Device-Datenschutz vereinheitlicht.

Was der Test ergab: AstrLink core gateway builds, launches with control-token-stdin, authenticates via control API, creates access tokens, and responds to inference requests with correct routing errors. All 37 Go packages pass tests (normal + race), 1739 frontend tests pass, and both Rust workers compile cleanly. 18 Minuten.

Ein Datenschutzproxy für Ihre OpenAI-Anfragen

Was der Test ergab: Installed and verified: Go backend builds and serves /health 200 with the quantized ONNX PII model loaded, masks real emails end-to-end via /api/pii/check, Unix desktop Electron app launches and stays running on the virtual display, Python (2 passed) and Go (512 passed) unit suites are green, and the frontend... 27 Minuten.

Selbst gehostetes AI-API-Gateway für Claude Code, Codex und Gemini: API-Schlüssel und Abonnementkonten hinter einem Endpunkt poolen, mit Failover...

Was der Test ergab: Binary builds, server starts and listens on :8080, health endpoint returns 200, admin login/auth flow works, all 49 Go test packages pass, all 284 JS frontend tests pass, model catalog syncs 244 models from models.dev. 10 Minuten.

LLM-Datenschutz-Gateway in Go: Schwärzung von PII und Geheimnissen mit Millisekunden-Latenz. Wird in der Produktion von PackyCode eingesetzt.

Was der Test ergab: Both binaries build, all 3153+28 tests pass, HTTP server serves /health /redact /redact/batch correctly with 221 gitleaks rules loaded, gRPC server starts on :8089, and benchmarks show sub-ms latency on 2KB text. 3 Minuten.

Einheitliches LLM-Gateway mit gewichteter Lastverteilung, Beobachtbarkeit und Kostenverfolgung.

Was der Test ergab: The LLMIO Go server builds, the webui builds via pnpm, all 31 Go unit tests pass, and the server starts on :7070 serving the webui and responding to all API endpoints. 16 Minuten.

Selbst gehostete Steuerungsebene und Nutzungsbeobachtungskonsole für CLIProxyAPI (CPA): KI-Anbieter, Clientschlüssel, Streaming-Telemetrie und...

Was der Test ergab: The binary builds, all Go packages test pass, the full frontend builds and embeds, the app serves the SPA and health endpoint with status ok in both demo mode (in-process fixture) and non-demo mode (with a mock CPA answering the v8 API probe). 16 Minuten.

ChatGPT/GPT-Registrierungsautomat ｜ Grok-Registrierungsautomat ｜ Vollautomatische reine Protokollregistrierung, unterstützt OAuth, E-Mail-Code-Empfang...

Was der Test ergab: Backend server starts cleanly, responds to authenticated requests on /v1/models with a full model list, auth enforcement works correctly, and all 623 Python tests pass. 14 Minuten.

Einheitliches AI Gateway für 30+ LLMs (OpenAI, Anthropic, Bedrock, Azure usw.) mit Caching, Guardrails, A/B-Test und Kostenkontrollen. Go-natives, schnellstes...

Was der Test ergab: Go 1.25.14 installed from tarball, ferrogw binary built at 42 MB binary, server starts and responds 200 on /livez, /readyz, and /health, 'go test' over all 89 packages passes with zero failures, 'ferrogw validate' confirms config valid. 10 Minuten.

Schreibgeschützt; Beiträge auf Forgejo. Die Steuerungsebene für die Ausführung von AI-Agenten. Steuern Sie jede Modellanfrage, jeden MCP-Tool-Aufruf, jede...

Was der Test ergab: Busbar 1.5.5 builds, passes its full test suite (3085 unit tests), validates a minimal config, and serves /healthz (200), /stats (valid JSON), /v1/models (model list), admin /auth, and admin /models endpoints on both the data (:8090) and admin (:8091) listeners. 14 Minuten.

Wo Regen fällt, blühen Erinnerungen wieder auf. Selbst gehosteter AI-Langzeitgedächtnis- und Chat-Gateway. Selbst gehosteter AI-Gedächtnis- und Chat-Gateway...

Was der Test ergab: Serein installs and builds in a clean venv, the Python suite runs 2178 passed with the web suite 130 passed, and the local memory and gateway services answer /ready and /health with 200 while unauthenticated root returns 401. 87 Minuten.

Ein Open-Source-Agent-first Identity and Access Management (IAM) / LLM-MCP- und Agent-Gateway und Authentifizierungsserver mit Web-UI, der OpenClaw, MCP...

Was der Test ergab: Casdoor server runs on port 8000 with SQLite, frontend serves index.html (200), login authenticates admin/123 via JSON API, OpenID Connect configuration endpoint returns valid metadata, and the API returns organization and user data from the demo seed. 14 Minuten.

Nicht-destruktives Kompressions-Gateway für AI-Coding-Agenten. Senkt die Token-Kosten um 25% bei Runde 1 und um über 85% in langen oder gesättigten Sitzungen...

Was der Test ergab: Python package installed in a venv, the proxy serves on port 8088, answers /health (200) and /stats (200) and /v1/messages/count_tokens (200), and all 316 tests in the test suite pass. 8 Minuten.

Ein blitzschnelles AI Gateway mit integrierten Schutzmechanismen. Leiten Sie zu 1,600+ LLMs und 50+ AI-Schutzmechanismen mit 1 schnellen und...

Was der Test ergab: npm install and build succeed, the Node.js server starts on port 8787 and responds 200 on /v1, 170 unit tests pass. 30 Minuten.

TokenHub bietet Unternehmen ein privates Gateway, um den Zugriff auf KI-Modelle und deren Governance zu vereinheitlichen, wodurch jede Anfrage kontrollierbar...

Was der Test ergab: TokenHub Go backend built and launched on :8080 with SQLite, serving health/liveness/readiness at HTTP 200 and an OpenAPI spec with 21 endpoints. Frontend builds and all 521 tests pass. Backend non-server test suite passes. 178 repo gate tests pass. 37 Minuten.

Wechseln Sie zwischen Claude-Konten, Gemini, Copilot, OpenRouter (300+ Modelle) via CLIProxyAPI OAuth-Proxy. Visuelles Dashboard, Remote-Proxy-Unterstützung...

Was der Test ergab: The project builds, the ccs CLI launches without config errors, and the tool-sanitization proxy plus related integration tests (75 tests across 5 files) pass cleanly. 18 Minuten.

Open-Source-End-to-End-Plattform für die Bewertung, Beobachtung und Verbesserung von LLM- und AI-Agent-Anwendungen. Tracing · Evals · Simulationen · Datensätze...

Was der Test ergab: Frontend dependencies installed with yarn, unit and integration tests pass (11/11) using jsdom environment. Backend dependencies installed via uv sync (441 packages). Django 5.1.8 and Django REST framework import correctly. Backend cannot fully start or run tests without Docker for PostgreSQL, ClickHouse, Redis, and... 50 Minuten.

Cloud native, ultra-high performance AI&API gateway, LLM API management, distribution system, open platform, supporting all AI APIs.🦄云原生、超高性能 AI&API网关，LLM API...

Was der Test ergab: APIPark binary builds, starts on port 8288 with MySQL and Redis, serves HTTP 200 JSON API responses and embedded index.html, auto-creates all database tables, and passes 4 test packages. 57 Minuten.

AI-Gateway / AI-Control-Plane / AI-Proxy, in Go geschrieben. Einheitliche OpenAI-kompatible und Anthropic-kompatible API für OpenAI, Anthropic, Gemini, Groq...

Was der Test ergab: GoModel v0.0.0-test binary compiles, all unit and e2e tests pass, server starts and responds 200 on /health and /admin/dashboard endpoints with 601 models listed. 8 Minuten.

GitHub Copilot, OpenAI Codex, OpenCode Go und ein Gateway von Drittanbietern für KI-Anbieter mit Kompatibilität zu den APIs von OpenAI und Anthropic.

Was der Test ergab: Project builds with bun run build, all 950 tests pass, and the server starts and responds 200 on /v1/models, /v1/chat/completions, /, and /usage with a mock upstream providing valid response data. 17 Minuten.

Optimieren Sie Ihren Workflow mit Lynkr, einem CLI-Tool, das als HTTP-Proxy für effiziente Code-Interaktionen mithilfe des Claude Code CLI fungiert.

Was der Test ergab: Server starts, responds to health checks with 200, and 1555 unit/integration tests pass across routing, compression, memory, caching, rate-limiting, and telemetry modules with mock credentials. 31 Minuten.

Open-Source-LLM-Gateway in Rust. Ein Endpunkt für OpenAI, Anthropic, Gemini und jeden anderen Anbieter. Jedes SDK, jedes Modell, jedes Tool.

Was der Test ergab: respan-gateway 0.3.0 Python package installed and verified working against a mock provider; Rust binary v0.2.0 built from source and all 692 unit tests pass. 10 Minuten.

LLMs und Machine Learning einfach gemacht

Was der Test ergab: sagify 0.25.4 installed in a Python 3.12 virtual environment. CLI responds to --help with 7 command groups (build, cloud, configure, init, llm, local, push) and all 63 existing pytest unit tests pass. 14 Minuten.

Grok2API und CPA Egress-Qualitätswächter mit Proxy-Wiederherstellung, Quarantäne, Migration und Betriebs-Benutzeroberfläche

Was der Test ergab: from_residential.py passes all 5 tests. quality_guard.py parses CLI args and validates bootstrap config. All Python sources compile. Patches are syntactically valid but target the grok2api tree. 4 Minuten.

Local-first-LLM-Proxy, der misst, was jeder Agentenlauf kostet, und durchgehende Prozesse beendet, bevor sie Ihr Budget aufbrauchen. Kostenlos, MIT.

Was der Test ergab: RelayPlane proxy v1.9.64 builds from source, starts on port 4100/4101/4102, answers HTTP 200 on /health, CLI --help works, and 125 of 138 test files pass (1769 of 1832 tests). The 13 failing files are content/marketing-site/CI-workflow/test suites that require files from a monorepo structure not present in this... 19 Minuten.

Ein universelles OpenCode-Plugin für dynamische Modellentdeckung mit flexibler Konfiguration für OpenAI-kompatible providers.

Was der Test ergab: npm run build passes all 343 tests under Node 22.22.0, the compiled plugin loads and is active in OpenCode v2.2.5, discovers two models from a local OpenAI-compatible mock, and completes an authenticated Hello chat turn using mock/alpha. 17 Minuten.

digiRunner: Ihr API Gateway für Microservices

Was der Test ergab: digiRunner compiles via Gradle bootJar, the standalone JAR starts and serves the admin UI on port 18080/18081 with H2 in-memory database and JWKS endpoint returning valid RSA256 keys. 10 Minuten.

AI Gateway | AI-nativer API-Gateway

Was der Test ergab: Go controller binary and hgctl CLI build and respond to help; all Go unit tests pass (26 packages); WASM AssemblyScript SDK builds both debug and release wasm binaries. 15 Minuten.

Modellrouter für agentische Systeme. Leitet jeden Prompt in <50ms an das richtige Modell weiter. Senkt die Kosten um 40-70% mit nur einer Endpunkt-Änderung.

Was der Test ergab: konnte nicht verifiziert werden; das Log zeigt, wo es stehen blieb. 14 Minuten.

Ein lokaler Endpunkt, der Claude Code, Cursor, Cline, Aider, Codex CLI und die SDKs durch die Claude- und ChatGPT-Tarife weiterleitet, die Sie bereits...

Was der Test ergab: konnte nicht verifiziert werden; das Log zeigt, wo es stehen blieb. 4 Minuten.

Elastische Inferenz für Ihre agentischen Workloads, zu Ihren Bedingungen.

Was der Test ergab: konnte nicht verifiziert werden; das Log zeigt, wo es stehen blieb. 37 Minuten.

Selbst gehostetes AI-Gateway für privates RAG, Datenzugriff in natürlicher Sprache und Tool-aufrufende Agenten.

Was der Test ergab: konnte nicht verifiziert werden; das Log zeigt, wo es stehen blieb. 28 Minuten.

Agentic Proxy der nächsten Generation für AI Agents und MCP-Server

Was der Test ergab: konnte nicht verifiziert werden; das Log zeigt, wo es stehen blieb. 87 Minuten.

Verwaltet einheitlichen Zugriff auf generative KI-Dienste, die auf Envoy Gateway basieren.

Was der Test ergab: konnte nicht verifiziert werden; das Log zeigt, wo es stehen blieb. 87 Minuten.