Englisches Original: https://argusic.com/subject/spidr

spidr

Eine vielseitige Ruby-Bibliothek zum Web-Spidering, die eine Website, mehrere Domains, bestimmte Links oder unbegrenzt crawlen kann. Spidr ist darauf ausgelegt, schnell und einfach zu sein.

Läuft mit MocksQuelle: GitHubRubyMITCommit 657b9db4f87a

Ruby, Lizenz MIT. Das Projekt beschreibt sich selbst als: crawler, ruby, scraper, spider, spider links, web, web crawler und web scraper.

spidr läuft, mit Ersatz für die Dienste, von denen es abhängt. Ein Argusic-Agent hat es in 33 Minuten installiert und ist auf 3 Fehler gestoßen und hat jeden davon ohne Hilfe behoben. Das geschah auf einer sauberen Maschine ohne GPU, und die gesamte Sitzung wurde aufgezeichnet.

Spidr builds and its full 317-example RSpec suite passes, and a locally hosted mock site is spidered end to end (3 URLs visited, no failures) with no real third-party credentials.

Was der Agent auf einer sauberen Maschine erreicht hat, in seinen eigenen Worten. So wird gemessen

Von Argusic jedes Mal auf einer frischen Maschine gemessen. Jede Zahl verlinkt auf ihren Nachweis. Argusic Score 92 von 100 (der Mittelwert der Lauf-Scores dieses Projekts).

Auf einen Blick

Befund
Läuft mit Mocks
Argusic Score
92 / 100
Kosten des verifizierenden Laufs
0,19 USD (gemessen)
aufgezeichnete Läufe
1
zuletzt getestet
Sterne
836
Forks
104
offene Issues
16
Beobachter
23
Größe
1 MB
erstellt
letzter Push

Projektdaten von GitHub, oben auf dieser Seite verlinkt, aktualisiert . Testdaten von Argusic (CC BY 4.0); jede Zahl verlinkt auf eine Laufseite mit dem vollständigen Log, der Aufzeichnung und deren sha256-Hashes.

Was gemessen wurde

Aus dem Lauf, der diesen Befund entschieden hat. Jede Zeile ist ein aufgezeichneter Wert, keine Schätzung.

Durch jeden Fehlschlag verlorene Zeit beim Testen von spidr, aus dem aufgezeichneten Lauf gezeichnet
Jeder Balken ist ein Fehler, den der Agent aufgezeichnet hat, mit der Zeit, die er gekostet hat. Aus diesem Lauf gezeichnet, aus keiner anderen Quelle.

Was schiefging, in den Worten des Agents

Die eigenen Worte des Agents, das Schwerste zuerst, nie zu Ratschlägen umgeschrieben.

  • No Ruby toolchain in container25 Minuten
  • Ruby stdlib extensions zlib, psych, fiddle could not build: no system dev headers for zlib, libyaml, libffi7 Minuten
  • Initial live check showed spider visited only /1 Minute
Installationszeit
33 Minuten
Von der kalten Maschine bis zum Ende
20 Minuten
Aufgetretene und behobene Fehler
3 aufgetreten, 3 ohne menschliche Hilfe behoben
Wie das Ergebnis belegt wurde
bundle exec rspec exited 0 with 317 examples, 0 failures; live spider script printed URLS=http://127.0.0.1:8123/|http://127.0.0.1:8123/missing|http://127.0.0.1:8123/page1, FAILURES=, TITLES=Mock Home|Mock Home|Page One, exit 0
Verbrauchte Modell-Tokens
828.906
Genau getesteter Commit
657b9db4f87a
Container-Image
sha256:cdd920bce783

Was nicht gemessen wurde

Die andere Hälfte, damit Sie genau sehen, wie weit dieser Nachweis reicht. Eine Lücke wird als Lücke angezeigt und nie aufgefüllt.

Maximaler GPU-Speicher
dieser Lauf fand auf einer CPU-Maschine statt, es gab also keine GPU zu messen
Verhalten über einen langen Lauf
jeder Versuch verwendet die kleinsten dokumentierten Einstellungen und ein festes Zeitbudget, daher misst dies, ob es läuft, nicht wie es sich unter Last hält
Verhalten gegenüber echten Diensten
dieser Lauf wurde nur gegen Ersatzdienste verifiziert

Sitzung ansehen

Der gesamte Lauf, von einer sauberen Maschine aus, in der tatsächlichen Geschwindigkeit. Nichts ist geschnitten, nichts beschleunigt.

Eine Aufzeichnung von Versuch 1, gelaufen am , der Versuch, der den obigen Befund entschieden hat. Die Terminalaufzeichnung, aus der es erstellt wurde, ist der Nachweis, gespeichert mit einem sha256-Fingerabdruck; das Video ist ein Rendering davon. Vom Video-Host wird nichts geladen, bis Sie auf Abspielen drücken.

Das Ende der Aufzeichnung

Die letzten Zeilen der Terminalsitzung, die diesen Befund entschieden hat, genau so, wie sie aufgezeichnet wurden.

Work is complete and the repo is clean. One JSON field spec detail to settle: "install_minutes" nee…
**Final report**
- Installed by building Ruby 3.3.7 from source (container had no Ruby), then the project's standard…
- `bundle exec rspec`: 317 examples, 0 failures (line coverage 92.2%).
- Real end-to-end spider check against a locally stood-up TCP/HTTP mock: server answered `200`; the…
tokens used
828,906
Work is complete and the repo is clean. One JSON field spec detail to settle: "install_minutes" nee…
**Final report**
- Installed by building Ruby 3.3.7 from source (container had no Ruby), then the project's standard…
- `bundle exec rspec`: 317 examples, 0 failures (line coverage 92.2%).
- Real end-to-end spider check against a locally stood-up TCP/HTTP mock: server answered `200`; the…

Gesamte Sitzung abspielen, jeder Befehl von einer sauberen Maschine bis zu diesem Punkt.

So wurde getestet

Ein Agent, ein Container, keine menschliche Hilfe. Er installiert das Projekt so, wie es die eigene Dokumentation beschreibt, führt es aus und behebt, was nicht funktioniert. Alles Folgende wurde so aufgezeichnet, wie es geschah: die Terminalsitzung, das Log und der genaue Commit. Die vollständige Methodik.

Stärken und Grenzen

Gemessene Fakten, keine Meinungen. Wie diese Inhalte entstehen.

Was gut lief

  • Hat sich von allen 3 Fehlern erholt, ohne dass ein Mensch eingriff, was zeigt, dass die Fehlschläge gut genug dokumentiert sind, um sie zu lösen.
  • Lizenz MIT, laut Angabe des Hosts.

Was nicht lief oder unbekannt ist

  • Hat einen lauffähigen Zustand nur gegen Ersatzdienste erreicht, daher belegt nichts hier, dass es mit den echten funktioniert.
  • Die Installation dauerte 33 Minuten, langsamer als der Median der 24 vergleichbaren Projekte, die Argusic gemessen hat.
  • Bisher einmal gemessen. Ein einzelner Versuch zeigt, dass es laufen kann, nicht dass es zuverlässig läuft.

Von den 25 Projekten im Bereich crawler, die Argusic installiert und zeitlich gemessen hat, belegte spidr Platz 22 bei der Zeit bis zum lauffähigen Zustand, und 19 von 25 erreichten überhaupt einen solchen Zustand.

Ebenfalls getestet, im selben Bereich

Jedes dieser Projekte wurde von Argusic auf einer sauberen Maschine installiert und ausgeführt. Hier erscheint nichts, was nicht getestet wurde.

Laufverlauf

getestet vonVersuchErgebnisScoreKosten USDwann
Argusic Runner1/3Läuft mit Mocks92,000,19

Themen (von GitHub)

crawlerrubyscraperspiderspider-linkswebweb-crawlerweb-scraperweb-scrapingweb-spider

Badge einbetten

Markdown für die README des Projekts. Es verlinkt hierher zurück; Bedingungen auf der Seite mit den Nutzungsbedingungen.

[![Tested by Argusic](https://argusic.com/badge/spidr.svg)](https://argusic.com/subject/spidr)

Fragen

Läuft spidr?
spidr läuft, mit Mocks als Ersatz für externe Dienste. Argusic hat es auf einer sauberen Maschine in 33 Minuten installiert und gestartet, ist dabei auf 3 Fehler gestoßen und hat die Sitzung aufgezeichnet.
Wie hat Argusic spidr getestet?
Auf einer frischen Einwegmaschine, mit jedem Befehl aufgezeichnet und dem Repository fixiert auf Commit 657b9db4f87a. Ein Versuch ist aufgezeichnet, und die vollständige Methode steht auf der Seite zur Methodik.
Was hat der Test von spidr gekostet?
Der Lauf, der diesen Befund ergab, kostete 0,19 USD: echte Rechen- und Modellkosten, kein Listenpreis pro Million Tokens. Der Betrag ist auf der Seite dieses Laufs aufgezeichnet.
Wie lange dauert die Installation von spidr?
33 Minuten in dem Lauf, der diesen Befund entschieden hat, von einer sauberen Maschine bis zum lauffähigen Zustand. Das ist ein gemessener Versuch, kein Durchschnitt.
Braucht spidr eine GPU?
Nicht zum Starten. Argusic hat auf einer Maschine ohne GPU einen lauffähigen Zustand erreicht.
Was geht bei der Installation von spidr schief?
Im aufgezeichneten Lauf gingen 3 Dinge kaputt, und 3 davon wurden ohne menschliche Hilfe behoben. Jedes davon und die Zeit, die es gekostet hat, ist auf dieser Seite aufgeführt.
Wie schneidet spidr im Vergleich zu Alternativen ab?
Von den 25 Projekten im Bereich crawler, die Argusic installiert und zeitlich gemessen hat, belegte spidr Platz 22 bei der Zeit bis zum lauffähigen Zustand, und 19 von 25 erreichten überhaupt einen solchen Zustand.
Wo ist der Nachweis für spidr?
Der aufgezeichnete Lauf ist auf dieser Seite, jeweils mit Link auf das vollständige Log und die Terminalaufzeichnung, gespeichert mit einem sha256-Fingerabdruck, damit nichts unbemerkt verändert werden kann.

Discussion