Bản gốc tiếng Anh: https://argusic.com/subject/crawly
crawly
Crawly, a high-level web crawling & scraping framework for Elixir.
Chạy đượcnguồn: GitHubElixirApache-2.0commit e27f032285bd
Elixir, giấy phép Apache-2.0. Dự án tự gắn nhãn: crawler, crawling, elixir, erlang, extract data, scraper, scraping và scraping websites.
crawly chạy được. Trên một máy sạch không có GPU, một agent của Argusic đã cài đặt nó trong 11 phút, gặp 4 lỗi và tự sửa hết mà không cần trợ giúp, và toàn bộ phiên làm việc được ghi lại.
Crawly 0.17.2 Elixir library compiles, starts its Cowboy HTTP API on port 4001 answering 200, and runs its 136-test suite with 0 failures and 1 excluded test
Kết quả agent đạt được trên máy sạch, bằng chính lời của nó. Cách đo
Argusic đo trên một máy mới mỗi lần. Mỗi con số đều link tới bằng chứng của nó. Điểm Argusic 60 trên 100 (trung bình điểm các lần chạy của dự án này).
Tóm tắt
Dữ liệu dự án lấy từ GitHub, có link ở đầu trang. Dữ liệu test của Argusic (CC BY 4.0); mỗi con số đều link tới một trang run có đầy đủ log, bản ghi và mã sha256 của chúng.
Những gì đã đo
Lấy từ lần chạy quyết định kết luận này. Mỗi dòng là một giá trị được ghi lại, không phải ước tính.

Những gì trục trặc, bằng chính lời của agent
Lời của chính agent, lỗi nặng nhất trước, không bao giờ viết lại thành lời khuyên.
- Erlang/OTP runtime not installed in container (no erl, erlc, escript binaries)8 phút
- Erlang erl scripts hardcode ROOTDIR=/usr/lib/erlang which doesn't exist in container1 phút
- Missing erlang-public-key OTP app (public_key.app, BEAM files)1 phút
- Leftover dets_simple_storage file from mix run pollutes test state causing failures on re-runs1 phút
- Thời gian cài đặt
- 11 phút
- Từ máy sạch đến khi xong
- 11 phút
- Lỗi gặp và đã sửa
- gặp 4, tự sửa 4 mà không cần người giúp
- Cách chứng minh kết quả
- mix test exited 0, 136 tests passed, 0 failures, 1 excluded; curl -s -o /dev/null -w '%{http_code}' http://localhost:4001/ returned 200; mix run --no-halt -e 'IO.puts("...")' booted without error
- Số token model đã dùng
- 281.441
- Commit chính xác đã test
- e27f032285bd
- Container image
- sha256:cdd920bce783
Những gì chưa đo
Nửa còn lại, để bạn thấy rõ bằng chứng này đi xa tới đâu. Chỗ trống được ghi là chỗ trống và không bao giờ được lấp vào.
- Bộ nhớ GPU cao nhất
- lần này chạy trên máy CPU, nên không có GPU để đo
- Hoạt động khi chạy lâu
- mỗi lần thử dùng cấu hình nhỏ nhất có trong tài liệu và một khoảng thời gian cố định, nên đây là đo xem nó có chạy hay không, không đo nó chịu tải ra sao
Đoạn cuối của bản ghi
Những dòng cuối của phiên terminal đã quyết định kết luận này, đúng như khi được ghi lại.
Now let me provide the final result. tokens used 281,441 The HTTP API returns 200 on port 4001. The app works end to end. Let me compile my final report. Let me calculate the elapsed time. The process started at approximately 08:11 when the first command ran, and now is 08:22. So about 1… Let me also note the errors I hit and how I fixed them: 1. **Missing Erlang runtime** - The container had Elixir .tool-versions but no actual Erlang/Elixir… 2. **Hardcoded ROOTDIR** in erl scripts - The Ubuntu erl scripts hardcode `/usr/lib/erlang`. Fixed … 3. **Missing public_key** OTP app - The erlang-public-key is a separate deb package in Ubuntu. Fixe… 4. **DETS state file** - Leftover `dets_simple_storage` from a `mix run` would pollute subsequent t… Now let me provide the final result.
Xem lại toàn bộ phiên, mọi lệnh từ máy sạch tới thời điểm này.
Cách test
Một agent, một container, không có người giúp. Agent cài dự án theo đúng cách tài liệu của dự án hướng dẫn, chạy nó, và sửa những gì bị hỏng. Mọi thứ bên dưới được ghi lại đúng như đã diễn ra: phiên terminal, log và commit chính xác. Toàn bộ phương pháp.
Điểm mạnh và giới hạn
Dữ kiện đo được, không phải ý kiến. Cách viết nội dung.
Những gì suôn sẻ
- Đạt trạng thái chạy được trên máy sạch, có ghi lại phiên làm việc.
- Tự khắc phục cả 4 lỗi mà không cần người can thiệp, cho thấy các lỗi được ghi trong tài liệu đủ rõ để giải quyết.
- Chạy được không cần GPU, nên không cần GPU để khởi động.
- Giấy phép Apache-2.0, theo thông tin từ nơi lưu trữ dự án.
- Đã đo 2 lần, nên kết quả không phải của một lần duy nhất.
Những gì không suôn sẻ, hoặc chưa biết
- Mất 11 phút để cài đặt, chậm hơn trung vị của 25 dự án tương đương mà Argusic đã đo.
Trong 26 dự án crawler mà Argusic đã cài đặt và bấm giờ, crawly đứng thứ 18 về tốc độ đạt trạng thái chạy được, và 20 trên 26 dự án đạt được trạng thái đó.
Phù hợp để dùng cho
- Thử trên laptop hoặc máy chủ nhỏ: nó đạt trạng thái chạy được mà không cần GPU.
Cũng đã test, cùng lĩnh vực
Mỗi dự án ở đây đều được Argusic cài đặt và chạy trên máy sạch. Không có dự án nào chưa test xuất hiện ở đây.
Lịch sử chạy
| test bởi | lần thử | kết quả | điểm | chi phí USD | thời điểm |
|---|---|---|---|---|---|
| Argusic Runner | 2/3 | Chạy được | 100,00 | 0,12 | |
| Argusic Runner | 1/3 | Không chạy | 20,00 | 0,00 |
Chủ đề (từ GitHub)
crawlercrawlingelixirerlangextract-datascraperscrapingscraping-websitesspider
Nhúng badge
Markdown cho README của dự án. Badge link về trang này; điều khoản ở trang điều khoản.
[](https://argusic.com/subject/crawly)Câu hỏi
- crawly có chạy được không?
- Có. crawly chạy được. Argusic đã cài đặt và khởi chạy nó trên một máy sạch trong 11 phút, gặp 4 lỗi trên đường đi, và ghi lại phiên làm việc.
- Argusic đã test crawly như thế nào?
- Trên một máy mới, dùng một lần, mọi lệnh đều được ghi lại và repo được ghim ở commit e27f032285bd. Có 2 lần thử được ghi lại, và toàn bộ phương pháp nằm ở trang phương pháp.
- Test crawly tốn bao nhiêu?
- Lần chạy đưa ra kết luận này tốn 0,12 USD: chi phí máy và model thật, không phải giá niêm yết theo triệu token. Con số được ghi trên trang của lần chạy đó.
- Cài đặt crawly mất bao lâu?
- 11 phút trong lần chạy quyết định kết luận này, từ máy sạch đến trạng thái chạy được. Đó là một lần thử đo được, không phải số trung bình.
- crawly có cần GPU không?
- Không cần để khởi động. Argusic đã đạt trạng thái chạy được trên một máy không có GPU.
- Cài đặt crawly thì gặp lỗi gì?
- 4 lỗi xảy ra trong lần chạy được ghi lại, và 4 lỗi đã được sửa mà không cần người giúp. Từng lỗi, cùng thời gian nó tốn, được liệt kê trên trang này.
- crawly so với các lựa chọn khác thế nào?
- Trong 26 dự án crawler mà Argusic đã cài đặt và bấm giờ, crawly đứng thứ 18 về tốc độ đạt trạng thái chạy được, và 20 trên 26 dự án đạt được trạng thái đó.
- Bằng chứng cho crawly ở đâu?
- Cả 2 lần chạy được ghi lại đều nằm trên trang này, mỗi lần link tới log đầy đủ và terminal recording, được lưu kèm dấu vân tay sha256 để không thể bị sửa lén.