英語の原文: https://argusic.com/subject/scrapy-redis
scrapy-redis
Scrapy 用の Redis ベースのコンポーネント。
動作するソース: GitHubホームページPythonMITコミット b4f333aec34e
Python、MIT ライセンス. プロジェクト自身の表記: crawler、distributed、redis、scrapy.
scrapy-redis は動作します。Argusic のエージェントが GPU のないクリーンなマシンで 7 分でインストールし、エラーに一度も遭遇せず、セッション全体が記録されました。
scrapy-redis 0.9.1 is installed in a venv at /work/repo/.venv with real Redis 6.2 running on localhost:6379; all 102 tests pass covering connection pooling, dupefilter, queue (FIFO/LIFO/priority), scheduler, spider setup, idle backoff, multi-key consumption, and utility modules.
クリーンなマシンでエージェントが最終的に得た結果 (エージェント自身の言葉)。 計測方法
Argusic が毎回新しいマシンで計測しています。 すべての数値はその証拠にリンクしています。 Argusic スコア 100 点中 100 点 (このプロジェクトの実行スコアの平均)。
概要
プロジェクトのデータは GitHub から取得 (このページの冒頭にリンクあり)、更新日 。テストデータは Argusic によるもので (CC BY 4.0)、すべての数値は、完全なログ、録画、それらの sha256 ハッシュを含む実行ページにリンクしています。
計測した内容
この判定を決めた実行から取得しています。 各行は記録された値であり、推定値ではありません。
- インストール時間
- 7 分
- クリーンなマシンから完了まで
- 9 分
- 遭遇したエラーと修正したエラー
- 0 件に遭遇、0 件を人の手を借りずに修正
- 結果の証明方法
- pytest ran 102 tests, all passed (0.88s). Ran against a real Redis 6.2 daemon (bundled via redislite) on localhost:6379.
- 使用したモデルのトークン
- 61,968
- テストした正確なコミット
- b4f333aec34e
- コンテナイメージ
- sha256:cdd920bce783
計測していない内容
残りの半分です。この証拠がどこまでを示すのかを正確に確認できます。欠けている部分は欠けているものとして表示し、埋めることはありません。
- GPU メモリのピーク
- CPU マシンで実行したため、サンプリングする GPU がありませんでした
- 長時間の実行での振る舞い
- 各試行はドキュメントにある最小の設定と決まった時間予算を使うため、計測しているのは動作するかどうかであり、負荷のもとでどう持ちこたえるかではありません
録画の最後
この判定を決めたターミナルセッションの最後の行を、記録されたとおりに表示しています。
tests/test_connection.py::test_connection_pool_escape_hatch_keeps_url_out_of_client_kwargs
/work/repo/tests/test_connection.py:275: DeprecationWarning: Call to '__init__' function with dep…
client = from_settings(settings)
tests/test_scrapy_redis.py: 14 warnings
/usr/lib/python3.12/unittest/case.py:580: RuntimeWarning: TestResult has no addDuration method
warnings.warn("TestResult has no addDuration method",
-- Docs: https://docs.pytest.org/en/stable/warnings.html
======================= 102 passed, 16 warnings in 0.88s =======================
All 102 tests pass with a real Redis 6.2 daemon. Here's the summary:
tokens used
61,968
All 102 tests pass with a real Redis 6.2 daemon. Here's the summary:セッション全体を再生 (クリーンなマシンからこの時点までのすべてのコマンド)。
テスト方法
1 つのエージェント、1 つのコンテナで、人の手は借りません。エージェントはプロジェクト自身のドキュメントに書かれた方法でインストールし、実行し、壊れた部分を修正します。以下はすべて、実際に起きたとおりに記録されています: ターミナルセッション、ログ、そして正確なコミットです。 評価方法の全文.
強みと限界
意見ではなく、計測された事実です。コンテンツの作成方法.
うまくいった点
- クリーンなマシンで実行状態に達し、セッションが記録されました。
- 途中で何も壊れませんでした: クローンから実行までエラーは 0 件です。
- GPU なしで動作したため、起動に GPU は必要ありません。
- ホストの報告によると、ライセンスは MIT です。
うまくいかなかった点、または不明な点
- インストールに 7 分かかり、Argusic が計測した比較可能な 24 件のプロジェクトの中央値より遅い結果です。
- これまでの計測は 1 回です。1 回の試行は動作し得ることを示すだけで、安定して動作することは示しません。
Argusic がインストールして時間を計測した crawler のプロジェクト 25 件のうち、scrapy-redis は実行状態に達するまでの速さが 14 番目で、25 件中 19 件がそもそも実行状態に達しました。
適している用途
- ノートパソコンや小さなサーバーで試す場合: GPU なしで実行状態に達しました。
- 手早く評価したい場合: クローンから 7 分後には動作していました。
- 自身の README に従う場合: ドキュメントどおりの手順で、修正なしに動作しました。
同じ分野でテストしたプロジェクト
ここに挙げたものはすべて、Argusic がクリーンなマシンにインストールして実行しました。テストしていないものは表示されません。
実行履歴
トピック (出典: GitHub)
バッジを埋め込む
プロジェクトの README に貼る Markdown です。バッジはこのページにリンクします。利用条件: 利用規約ページ.
[](https://argusic.com/subject/scrapy-redis)質問
- scrapy-redis は動作しますか?
- はい。scrapy-redis は動作します. Argusic はクリーンなマシンで 7 分でインストールして起動し、途中で 0 件のエラーに遭遇し、セッションを記録しました。
- Argusic は scrapy-redis をどのようにテストしましたか?
- 新しい使い捨てのマシンで、すべてのコマンドを記録しながらテストしました (リポジトリはコミット b4f333aec34e に固定)。記録された試行は 1 回で、手順の全体は評価方法のページに掲載しています。
- scrapy-redis のテストにはいくらかかりましたか?
- この判定を出した実行のコストは 0.04 USD です: 100 万トークンあたりの定価ではなく、実際の計算資源とモデルのコストです。その実行のページに記録されています。
- scrapy-redis のインストールにはどのくらい時間がかかりますか?
- この判定を決めた実行では、クリーンなマシンから実行状態まで 7 分でした。これは 1 回の計測された試行であり、平均ではありません。
- scrapy-redis には GPU が必要ですか?
- 起動には必要ありません。Argusic は GPU のないマシンで実行状態に達しました。
- scrapy-redis のインストールでは何がうまくいきませんか?
- 記録された実行では何も起きませんでした: クローンから実行までエラーは 0 件です。
- scrapy-redis は代替のプロジェクトと比べてどうですか?
- Argusic がインストールして時間を計測した crawler のプロジェクト 25 件のうち、scrapy-redis は実行状態に達するまでの速さが 14 番目で、25 件中 19 件がそもそも実行状態に達しました。
- scrapy-redis の証拠はどこにありますか?
- 記録された実行をこのページに掲載しており、それぞれが完全なログとターミナル録画にリンクしています。録画は sha256 フィンガープリントとともに保存されているため、こっそり改変することはできません。