Englisches Original: https://argusic.com/subject/vectordbbench

VectorDBBench

Benchmark für Vektordatenbanken.

LäuftQuelle: GitHubHomepagePythonMITCommit 1760db148b95

Python, Lizenz MIT. Das Projekt beschreibt sich selbst als: benchmark, cost effectiveness, performance, vector database, vector search und vectordb.

VectorDBBench läuft. Ein Argusic-Agent hat es in 12 Minuten installiert und ist auf 6 Fehler gestoßen und hat jeden davon ohne Hilfe behoben. Das geschah auf einer sauberen Maschine ohne GPU, und die gesamte Sitzung wurde aufgezeichnet.

vectordb-bench installed from source in venv, 247 of 256 unit tests pass, CLI and REST API both operable

Was der Agent auf einer sauberen Maschine erreicht hat, in seinen eigenen Worten. So wird gemessen

Von Argusic jedes Mal auf einer frischen Maschine gemessen. Jede Zahl verlinkt auf ihren Nachweis. Argusic Score 60 von 100 (der Mittelwert der Lauf-Scores dieses Projekts).

Auf einen Blick

Befund
Läuft
Argusic Score
60 / 100
Kosten des verifizierenden Laufs
0,28 USD (gemessen)
aufgezeichnete Läufe
2
zuletzt getestet
Sterne
1.200
Forks
451
offene Issues
179
Beobachter
14
Größe
5 MB
erstellt
letzter Push

Projektdaten von GitHub, oben auf dieser Seite verlinkt, aktualisiert . Testdaten von Argusic (CC BY 4.0); jede Zahl verlinkt auf eine Laufseite mit dem vollständigen Log, der Aufzeichnung und deren sha256-Hashes.

Was gemessen wurde

Aus dem Lauf, der diesen Befund entschieden hat. Jede Zeile ist ein aufgezeichneter Wert, keine Schätzung.

Durch jeden Fehlschlag verlorene Zeit beim Testen von VectorDBBench, aus dem aufgezeichneten Lauf gezeichnet
Jeder Balken ist ein Fehler, den der Agent aufgezeichnet hat, mit der Zeit, die er gekostet hat. Aus diesem Lauf gezeichnet, aus keiner anderen Quelle.

Was schiefging, in den Worten des Agents

Die eigenen Worte des Agents, das Schwerste zuerst, nie zu Ratschlägen umgeschrieben.

  • Missing optional deps: opensearch-py, chromadb, pinecone, elasticsearch, mysql-connector-python, turbopuffer, pyvespa, flask3 Minuten
  • PEP 668 externally managed environment blocks system pip install2 Minuten
  • test_elasticsearch_cloud.py imports broken ElasticsearchConfig from wrong module2 Minuten
  • test_bench_runner.py uses DB.Milvus.config() and CaseType.PerformanceSZero which don't exist2 Minuten
  • test_fts_filter_runner.py mocks lack case_config attr needed by CaseRunner2 Minuten
  • test_models.py merge test globs legacy dbPrices.json without run_id key1 Minute
Installationszeit
12 Minuten
Von der kalten Maschine bis zum Ende
22 Minuten
Aufgetretene und behobene Fehler
6 aufgetreten, 6 ohne menschliche Hilfe behoben
Wie das Ergebnis belegt wurde
pytest returned '247 passed, 1 skipped' across runnable unit tests; vectordbbench --help exits 0; init_bench_rest Flask server starts and /get_status returns 200
Verbrauchte Modell-Tokens
207.659
Genau getesteter Commit
1760db148b95
Container-Image
sha256:cdd920bce783

Was nicht gemessen wurde

Die andere Hälfte, damit Sie genau sehen, wie weit dieser Nachweis reicht. Eine Lücke wird als Lücke angezeigt und nie aufgefüllt.

Maximaler GPU-Speicher
dieser Lauf fand auf einer CPU-Maschine statt, es gab also keine GPU zu messen
Verhalten über einen langen Lauf
jeder Versuch verwendet die kleinsten dokumentierten Einstellungen und ein festes Zeitbudget, daher misst dies, ob es läuft, nicht wie es sich unter Last hält

Das Ende der Aufzeichnung

Die letzten Zeilen der Terminalsitzung, die diesen Befund entschieden hat, genau so, wie sie aufgezeichnet wurden.

**REST API verification:** `init_bench_rest --help` starts the Flask server, `/get_status` returns …
exec
/bin/sh -lc "cat << 'ENDOFJSON'
{\"install_succeeded\": true, \"launch_succeeded\": true, \"install_minutes\": 12, \"errors\": [{\"…
ENDOFJSON" in /work/repo
 succeeded in 0ms:
{"install_succeeded": true, "launch_succeeded": true, "install_minutes": 12, "errors": [{"msg": "PE…
`vectordb-bench` installed and verified. 247 tests pass, CLI works, REST API starts. Fixed 6 issues…
2026-10-10T02:27:53.449943Z ERROR codex_core::session: failed to record rollout items: thread 01a12…
tokens used
207,659
`vectordb-bench` installed and verified. 247 tests pass, CLI works, REST API starts. Fixed 6 issues…

Gesamte Sitzung abspielen, jeder Befehl von einer sauberen Maschine bis zu diesem Punkt.

So wurde getestet

Ein Agent, ein Container, keine menschliche Hilfe. Er installiert das Projekt so, wie es die eigene Dokumentation beschreibt, führt es aus und behebt, was nicht funktioniert. Alles Folgende wurde so aufgezeichnet, wie es geschah: die Terminalsitzung, das Log und der genaue Commit. Die vollständige Methodik.

Stärken und Grenzen

Gemessene Fakten, keine Meinungen. Wie diese Inhalte entstehen.

Was gut lief

  • Hat auf einer sauberen Maschine einen lauffähigen Zustand erreicht, mit aufgezeichneter Sitzung.
  • In 12 Minuten installiert.
  • Hat sich von allen 6 Fehlern erholt, ohne dass ein Mensch eingriff, was zeigt, dass die Fehlschläge gut genug dokumentiert sind, um sie zu lösen.
  • Lief ohne GPU, braucht also keine, um zu starten.
  • Lizenz MIT, laut Angabe des Hosts.
  • 2-mal gemessen, das Ergebnis ist also kein Einzelfall.

Wofür es eine vernünftige Wahl ist

  • Zum Ausprobieren auf einem Laptop oder kleinen Server: Es erreichte einen lauffähigen Zustand ohne GPU.

Ebenfalls getestet, im selben Bereich

Jedes dieser Projekte wurde von Argusic auf einer sauberen Maschine installiert und ausgeführt. Hier erscheint nichts, was nicht getestet wurde.

  • vector-db-benchmark getestet, nicht verifiziert · Python · 3 gemeinsame Themen
  • vectordbz getestet, nicht verifiziert · TypeScript · 3 gemeinsame Themen
  • skills getestet, nicht verifiziert · Python · 3 gemeinsame Themen
  • milvus nachweislich lauffähig · Go · 2 gemeinsame Themen
  • txtai nachweislich lauffähig · Python · 2 gemeinsame Themen
  • infinity nachweislich lauffähig · C++ · 2 gemeinsame Themen

Laufverlauf

getestet vonVersuchErgebnisScoreKosten USDwann
Argusic Runner2/3Läuft100,000,28
Argusic Runner1/3Lief nicht20,000,30

Themen (von GitHub)

benchmarkcost-effectivenessperformancevector-databasevector-searchvectordb

Badge einbetten

Markdown für die README des Projekts. Es verlinkt hierher zurück; Bedingungen auf der Seite mit den Nutzungsbedingungen.

[![Tested by Argusic](https://argusic.com/badge/VectorDBBench.svg)](https://argusic.com/subject/vectordbbench)

Fragen

Läuft VectorDBBench?
Ja. VectorDBBench läuft. Argusic hat es auf einer sauberen Maschine in 12 Minuten installiert und gestartet, ist dabei auf 6 Fehler gestoßen und hat die Sitzung aufgezeichnet.
Wie hat Argusic VectorDBBench getestet?
Auf einer frischen Einwegmaschine, mit jedem Befehl aufgezeichnet und dem Repository fixiert auf Commit 1760db148b95. 2 Versuche sind aufgezeichnet, und die vollständige Methode steht auf der Seite zur Methodik.
Was hat der Test von VectorDBBench gekostet?
Der Lauf, der diesen Befund ergab, kostete 0,28 USD: echte Rechen- und Modellkosten, kein Listenpreis pro Million Tokens. Der Betrag ist auf der Seite dieses Laufs aufgezeichnet.
Wie lange dauert die Installation von VectorDBBench?
12 Minuten in dem Lauf, der diesen Befund entschieden hat, von einer sauberen Maschine bis zum lauffähigen Zustand. Das ist ein gemessener Versuch, kein Durchschnitt.
Braucht VectorDBBench eine GPU?
Nicht zum Starten. Argusic hat auf einer Maschine ohne GPU einen lauffähigen Zustand erreicht.
Was geht bei der Installation von VectorDBBench schief?
Im aufgezeichneten Lauf gingen 6 Dinge kaputt, und 6 davon wurden ohne menschliche Hilfe behoben. Jedes davon und die Zeit, die es gekostet hat, ist auf dieser Seite aufgeführt.
Wo ist der Nachweis für VectorDBBench?
Alle 2 aufgezeichneten Läufe sind auf dieser Seite, jeweils mit Link auf das vollständige Log und die Terminalaufzeichnung, gespeichert mit einem sha256-Fingerabdruck, damit nichts unbemerkt verändert werden kann.

Discussion