英語の原文: https://argusic.com/subject/crawler
crawler
Norconex Crawlers (またはスパイダー) は、ウェブやファイルシステムからデータを収集、解析、操作し、検索エンジンなどのさまざまなデータリポジトリに送るための柔軟なウェブおよびファイルシステムクローラーです。
動作するソース: GitHubホームページJavaApache-2.0コミット f71ef79931ba
Java、Apache-2.0 ライセンス. プロジェクト自身の表記: crawler、crawler fs、crawler web、crawlers、filesystem crawler、flexible、java、search engine.
crawler は動作します。Argusic のエージェントが GPU のないクリーンなマシンで 3 分でインストールし、エラーに一度も遭遇せず、セッション全体が記録されました。
The Norconex Crawler 4.0.0-SNAPSHOT mono-repo builds completely with Maven and Java 21. All 247 unit tests pass and 22 of 30 integration tests pass (8 skipped due to no Docker). The web crawler, file system crawler, importer, and all committers compile and test without errors.
クリーンなマシンでエージェントが最終的に得た結果 (エージェント自身の言葉)。 計測方法
Argusic が毎回新しいマシンで計測しています。 すべての数値はその証拠にリンクしています。 Argusic スコア 100 点中 100 点 (このプロジェクトの実行スコアの平均)。
概要
プロジェクトのデータは GitHub から取得 (このページの冒頭にリンクあり)、更新日 。テストデータは Argusic によるもので (CC BY 4.0)、すべての数値は、完全なログ、録画、それらの sha256 ハッシュを含む実行ページにリンクしています。
計測した内容
この判定を決めた実行から取得しています。 各行は記録された値であり、推定値ではありません。
- インストール時間
- 3 分
- クリーンなマシンから完了まで
- 26 分
- 遭遇したエラーと修正したエラー
- 0 件に遭遇、0 件を人の手を借りずに修正
- 結果の証明方法
- 'mvn verify -DskipTests=false' with build-time plugins skipped. Tests run: 247 unit tests (0 failures, 0 errors, 0 skipped) across all modules, plus 30 integration tests (22 passed, 8 skipped). BUILD SUCCESS. Total verify time ~8.5 minutes.
- 使用したモデルのトークン
- 81,936
- テストした正確なコミット
- f71ef79931ba
- コンテナイメージ
- sha256:cdd920bce783
計測していない内容
残りの半分です。この証拠がどこまでを示すのかを正確に確認できます。欠けている部分は欠けているものとして表示し、埋めることはありません。
- GPU メモリのピーク
- CPU マシンで実行したため、サンプリングする GPU がありませんでした
- 長時間の実行での振る舞い
- 各試行はドキュメントにある最小の設定と決まった時間予算を使うため、計測しているのは動作するかどうかであり、負荷のもとでどう持ちこたえるかではありません
録画の最後
この判定を決めたターミナルセッションの最後の行を、記録されたとおりに表示しています。
[INFO] Reactor Summary for Norconex Crawler Parent 4.0.0-SNAPSHOT: [INFO] BUILD SUCCESS Let me get the full test summary across all modules. exec /bin/sh -lc 'export JAVA_HOME=/tmp/jdk-21.0.13+9 && export PATH=$JAVA_HOME/bin:/tmp/apache-maven-3.… I already have the full results. Let me check for any other modules' test counts I might have misse… exec /bin/sh -lc 'export JAVA_HOME=/tmp/jdk-21.0.13+9 && export PATH=$JAVA_HOME/bin:/tmp/apache-maven-3.… The build was already run successfully twice. I have all the data I need. Let me compile the final … tokens used 81,936 The build was already run successfully twice. I have all the data I need. Let me compile the final …
セッション全体を再生 (クリーンなマシンからこの時点までのすべてのコマンド)。
テスト方法
1 つのエージェント、1 つのコンテナで、人の手は借りません。エージェントはプロジェクト自身のドキュメントに書かれた方法でインストールし、実行し、壊れた部分を修正します。以下はすべて、実際に起きたとおりに記録されています: ターミナルセッション、ログ、そして正確なコミットです。 評価方法の全文.
強みと限界
意見ではなく、計測された事実です。コンテンツの作成方法.
うまくいった点
- クリーンなマシンで実行状態に達し、セッションが記録されました。
- 3 分でインストールでき、Argusic が計測した比較可能な 24 件のプロジェクトの中央値より速い結果です。
- 途中で何も壊れませんでした: クローンから実行までエラーは 0 件です。
- GPU なしで動作したため、起動に GPU は必要ありません。
- ホストの報告によると、ライセンスは Apache-2.0 です。
うまくいかなかった点、または不明な点
- これまでの計測は 1 回です。1 回の試行は動作し得ることを示すだけで、安定して動作することは示しません。
Argusic がインストールして時間を計測した crawler のプロジェクト 25 件のうち、crawler は実行状態に達するまでの速さが 6 番目で、25 件中 19 件がそもそも実行状態に達しました。
適している用途
- ノートパソコンや小さなサーバーで試す場合: GPU なしで実行状態に達しました。
- 手早く評価したい場合: クローンから 3 分後には動作していました。
- 自身の README に従う場合: ドキュメントどおりの手順で、修正なしに動作しました。
同じ分野でテストしたプロジェクト
ここに挙げたものはすべて、Argusic がクリーンなマシンにインストールして実行しました。テストしていないものは表示されません。
実行履歴
トピック (出典: GitHub)
crawlercrawler-fscrawler-webcrawlersfilesystem-crawlerflexiblejavasearch-enginespiderweb-crawler
バッジを埋め込む
プロジェクトの README に貼る Markdown です。バッジはこのページにリンクします。利用条件: 利用規約ページ.
[](https://argusic.com/subject/crawler)質問
- crawler は動作しますか?
- はい。crawler は動作します. Argusic はクリーンなマシンで 3 分でインストールして起動し、途中で 0 件のエラーに遭遇し、セッションを記録しました。
- Argusic は crawler をどのようにテストしましたか?
- 新しい使い捨てのマシンで、すべてのコマンドを記録しながらテストしました (リポジトリはコミット f71ef79931ba に固定)。記録された試行は 1 回で、手順の全体は評価方法のページに掲載しています。
- crawler のテストにはいくらかかりましたか?
- この判定を出した実行のコストは 0.10 USD です: 100 万トークンあたりの定価ではなく、実際の計算資源とモデルのコストです。その実行のページに記録されています。
- crawler のインストールにはどのくらい時間がかかりますか?
- この判定を決めた実行では、クリーンなマシンから実行状態まで 3 分でした。これは 1 回の計測された試行であり、平均ではありません。
- crawler には GPU が必要ですか?
- 起動には必要ありません。Argusic は GPU のないマシンで実行状態に達しました。
- crawler のインストールでは何がうまくいきませんか?
- 記録された実行では何も起きませんでした: クローンから実行までエラーは 0 件です。
- crawler は代替のプロジェクトと比べてどうですか?
- Argusic がインストールして時間を計測した crawler のプロジェクト 25 件のうち、crawler は実行状態に達するまでの速さが 6 番目で、25 件中 19 件がそもそも実行状態に達しました。
- crawler の証拠はどこにありますか?
- 記録された実行をこのページに掲載しており、それぞれが完全なログとターミナル録画にリンクしています。録画は sha256 フィンガープリントとともに保存されているため、こっそり改変することはできません。