英語の原文: https://argusic.com/subject/crawl4ai

crawl4ai

公式 Crawl4AI Cloud: AI エージェント向けのホスト型 Web スクレイピング、抽出、検索 API。無料の API キー、月 1,000 クレジット、カード不要。完全オープンソース: このリポジトリは、それを動かしている Apache-2.0 クローラーで、セルフホストすることもできます。

動作するソース: GitHubホームページPythonApache-2.0コミット e5d2e786d1a1

Python、Apache-2.0 ライセンス. プロジェクト自身の表記: ai、ai agents、crawl4ai cloud、crawler、data extraction、llm、markdown、mcp.

crawl4ai は動作します。Argusic のエージェントが GPU のないクリーンなマシンで 25 分でインストールし、14 件のエラーに遭遇し、セッション全体が記録されました。

Crawl4AI 0.9.4 installed in venv, Playwright chromium browser downloaded, DB initialized, AsyncWebCrawler can crawl real URLs with markdown output, cache operations work, and 360 core tests pass with 11 skipped.

クリーンなマシンでエージェントが最終的に得た結果 (エージェント自身の言葉)。 計測方法

Argusic が毎回新しいマシンで計測しています。 すべての数値はその証拠にリンクしています。 Argusic スコア 100 点中 91.4 点 (このプロジェクトの実行スコアの平均)。

概要

判定
動作する
Argusic スコア
91.4 / 100
検証した実行のコスト
0.10 USD (実測)
記録された実行
2
最終テスト
スター
86,895
フォーク
9,050
未解決の Issue
308
ウォッチャー
421
サイズ
148 MB
作成日
最終プッシュ

プロジェクトのデータは GitHub から取得 (このページの冒頭にリンクあり)、更新日 。テストデータは Argusic によるもので (CC BY 4.0)、すべての数値は、完全なログ、録画、それらの sha256 ハッシュを含む実行ページにリンクしています。

計測した内容

この判定を決めた実行から取得しています。 各行は記録された値であり、推定値ではありません。

crawl4ai のテスト中に各失敗で失われた時間 (記録された実行から作成)
各バーはエージェントが記録した失敗と、それにかかった時間です。この実行のデータのみから描いています。

うまくいかなかった点 (エージェント自身の言葉)

エージェント自身の言葉を、深刻なものから順に掲載しています。助言に書き換えることはありません。

  • AsyncWebCrawler missing aclear_cache, aflush_cache, aget_cache_size3 分
  • normalize_url empty href returned None instead of base URL2 分
  • PEP 668 externally-managed-environment blocks system pip1 分
  • playwright install --with-deps requires root1 分
  • normalize_url no ValueError on invalid base URL (ftp://, http:///path/)1 分
  • BaseDispatcher.select_config returns None on no match, tests expect first config1 分
インストール時間
25 分
クリーンなマシンから完了まで
14 分
遭遇したエラーと修正したエラー
14 件に遭遇、8 件を人の手を借りずに修正
結果の証明方法
python -c 'asyncio.run(crawl)' against http://example.com returned success=True, status=200, 166 chars markdown; https://httpbin.org/html returned success=True, status=200, 3598 chars markdown; arun_many 2/2 succeeded; aclear_cache/aflush_cache/aget_cache_size all returned correct results; normalize_url edge cases (empty href, fragments, invalid scheme) all pass
使用したモデルのトークン
314,304
テストした正確なコミット
e5d2e786d1a1
コンテナイメージ
sha256:cdd920bce783

計測していない内容

残りの半分です。この証拠がどこまでを示すのかを正確に確認できます。欠けている部分は欠けているものとして表示し、埋めることはありません。

GPU メモリのピーク
CPU マシンで実行したため、サンプリングする GPU がありませんでした
長時間の実行での振る舞い
各試行はドキュメントにある最小の設定と決まった時間予算を使うため、計測しているのは動作するかどうかであり、負荷のもとでどう持ちこたえるかではありません

セッションを見る

クリーンなマシンから始まる実行の全体を、実際の速度で再生します。カットも早送りもしていません。

試行 1 の録画、実行日 。上の判定を決めた試行です。 この動画の元になったターミナル録画が証拠であり、sha256 フィンガープリントとともに保存されています。動画はそこからレンダリングしたものです。 再生ボタンを押すまで、動画ホストからは何も読み込まれません。

録画の最後

この判定を決めたターミナルセッションの最後の行を、記録されたとおりに表示しています。

- **360 tests pass**, 11 skipped
- **End-to-end verified**: real URLs crawled successfully with markdown output
- **Cache operations**: `aclear_cache`, `aflush_cache`, `aget_cache_size` all working
- Unfixable issues are all pre-existing test infrastructure problems (bad filenames, missing option…
tokens used
314,304
Done. The full report is in the JSON above. Key highlights:
- **8 bugs fixed** in `normalize_url`, `AsyncWebCrawler`, and `BaseDispatcher`
- **360 tests pass**, 11 skipped
- **End-to-end verified**: real URLs crawled successfully with markdown output
- **Cache operations**: `aclear_cache`, `aflush_cache`, `aget_cache_size` all working
- Unfixable issues are all pre-existing test infrastructure problems (bad filenames, missing option…

セッション全体を再生 (クリーンなマシンからこの時点までのすべてのコマンド)。

テスト方法

1 つのエージェント、1 つのコンテナで、人の手は借りません。エージェントはプロジェクト自身のドキュメントに書かれた方法でインストールし、実行し、壊れた部分を修正します。以下はすべて、実際に起きたとおりに記録されています: ターミナルセッション、ログ、そして正確なコミットです。 評価方法の全文.

強みと限界

意見ではなく、計測された事実です。コンテンツの作成方法.

うまくいった点

  • クリーンなマシンで実行状態に達し、セッションが記録されました。
  • GPU なしで動作したため、起動に GPU は必要ありません。
  • ホストの報告によると、ライセンスは Apache-2.0 です。
  • 2 回計測しているため、一度きりの結果ではありません。

うまくいかなかった点、または不明な点

  • インストールに 25 分かかり、Argusic が計測した比較可能な 230 件のプロジェクトの中央値より遅い結果です。
  • セットアップ中に 14 件のエラーに遭遇しました。そのうち 6 件は解決されていません。

Argusic がインストールして時間を計測した ai のプロジェクト 231 件のうち、crawl4ai は実行状態に達するまでの速さが 205 番目で、231 件中 152 件がそもそも実行状態に達しました。

適している用途

  • ノートパソコンや小さなサーバーで試す場合: GPU なしで実行状態に達しました。

同じ分野でテストしたプロジェクト

ここに挙げたものはすべて、Argusic がクリーンなマシンにインストールして実行しました。テストしていないものは表示されません。

実行履歴

テスト担当試行結果スコアコスト (USD)日時
Argusic Runner2/3時間切れ0.001.75
Argusic Runner1/3動作した91.430.10

トピック (出典: GitHub)

aiai-agentscrawl4ai-cloudcrawlerdata-extractionllmmarkdownmcpopen-sourceplaywrightpythonragscraperweb-crawlerweb-crawlingweb-scraping

バッジを埋め込む

プロジェクトの README に貼る Markdown です。バッジはこのページにリンクします。利用条件: 利用規約ページ.

[![Tested by Argusic](https://argusic.com/badge/crawl4ai.svg)](https://argusic.com/subject/crawl4ai)

質問

crawl4ai は動作しますか?
はい。crawl4ai は動作します. Argusic はクリーンなマシンで 25 分でインストールして起動し、途中で 14 件のエラーに遭遇し、セッションを記録しました。
Argusic は crawl4ai をどのようにテストしましたか?
新しい使い捨てのマシンで、すべてのコマンドを記録しながらテストしました (リポジトリはコミット e5d2e786d1a1 に固定)。記録された試行は 2 回で、手順の全体は評価方法のページに掲載しています。
crawl4ai のテストにはいくらかかりましたか?
この判定を出した実行のコストは 0.10 USD です: 100 万トークンあたりの定価ではなく、実際の計算資源とモデルのコストです。その実行のページに記録されています。
crawl4ai のインストールにはどのくらい時間がかかりますか?
この判定を決めた実行では、クリーンなマシンから実行状態まで 25 分でした。これは 1 回の計測された試行であり、平均ではありません。
crawl4ai には GPU が必要ですか?
起動には必要ありません。Argusic は GPU のないマシンで実行状態に達しました。
crawl4ai のインストールでは何がうまくいきませんか?
記録された実行では 14 件の問題が発生しました。そのうち 8 件は人の手を借りずに修正されました。それぞれの問題と、かかった時間をこのページに掲載しています。
crawl4ai は代替のプロジェクトと比べてどうですか?
Argusic がインストールして時間を計測した ai のプロジェクト 231 件のうち、crawl4ai は実行状態に達するまでの速さが 205 番目で、231 件中 152 件がそもそも実行状態に達しました。
crawl4ai の証拠はどこにありますか?
記録された 2 回の実行すべてをこのページに掲載しており、それぞれが完全なログとターミナル録画にリンクしています。録画は sha256 フィンガープリントとともに保存されているため、こっそり改変することはできません。

Discussion