Bản gốc tiếng Anh: https://argusic.com/subject/newspaper4k

newspaper4k

Newspaper4k là một fork của Newspaper3k được yêu thích. Trích xuất bài viết, tiêu đề và metadata từ các trang tin tức.

Chạy đượcnguồn: GitHubtrang chủ dự ánPythonMITcommit b53a81fc01ff

Python, giấy phép MIT. Dự án tự gắn nhãn: articles, articles data, crawler, datasets preparation, news, newspaper3k, python và requests.

newspaper4k chạy được. Trên một máy sạch không có GPU, một agent của Argusic đã cài đặt nó trong 3 phút, gặp 4 lỗi và tự sửa hết mà không cần trợ giúp, và toàn bộ phiên làm việc được ghi lại.

newspaper4k 0.9.6 is pip-installed and editable in /work/repo/venv; CLI runs (help + real article extraction into JSON), 234 tests pass with 2 deselected stale summarization fixtures and 5 external-site failures; package state is clean working tree.

Kết quả agent đạt được trên máy sạch, bằng chính lời của nó. Cách đo

Argusic đo trên một máy mới mỗi lần. Mỗi con số đều link tới bằng chứng của nó. Điểm Argusic 100 trên 100 (trung bình điểm các lần chạy của dự án này).

Tóm tắt

kết luận
Chạy được
Điểm Argusic
100 / 100
chi phí của lần chạy kiểm chứng
0,60 USD (đo thực tế)
số lần chạy đã ghi
1
test gần nhất
lượt star
1.170
fork
118
issue đang mở
135
người theo dõi
11
dung lượng
26 MB
ngày tạo
push gần nhất

Dữ liệu dự án lấy từ GitHub, có link ở đầu trang, cập nhật . Dữ liệu test của Argusic (CC BY 4.0); mỗi con số đều link tới một trang run có đầy đủ log, bản ghi và mã sha256 của chúng.

Những gì đã đo

Lấy từ lần chạy quyết định kết luận này. Mỗi dòng là một giá trị được ghi lại, không phải ước tính.

Thời gian mất cho từng lỗi khi test newspaper4k, vẽ từ lần chạy được ghi lại
Mỗi cột là một lỗi agent đã ghi lại, kèm thời gian nó tốn. Vẽ từ lần chạy này, không lấy từ nguồn nào khác.

Những gì trục trặc, bằng chính lời của agent

Lời của chính agent, lỗi nặng nhất trước, không bao giờ viết lại thành lời khuyên.

  • tests/unit/test_nlp.py::test_summarize and test_known_websites (summary fields) failed: split_sentences/summarize under nltk 3.10.3 produce different summary than fixtures45 phút
  • tests/integration network tests failed: test_follow_read_more_button (web.archive.org 429 rate-limit block), test_detect_binary (media.chinadaily.com.cn DNS NXDOMAIN in this container), test_multithread_sources (euronews site returns malformed category links -> empty article list; IndexError), test_gnews+fr/de (Google News transiently returns 0 or non-.fr/.de results)20 phút
  • tests/integration/test_languages.py::test_language_articles failed on chinese_article: fixture is a gb2312 page whose expected txt uses curly quotes; live page has no matching charset header15 phút
  • pytest collection failed: optional extras not installed (gnews, nltk, pythainlp, indic-nlp-library, jieba, tinysegmenter, protego) - import-time ImportError in tests and language tokenizers12 phút
Thời gian cài đặt
3 phút
Từ máy sạch đến khi xong
38 phút
Lỗi gặp và đã sửa
gặp 4, tự sửa 4 mà không cần người giúp
Cách chứng minh kết quả
venv/bin/python -m pytest tests/unit/test_network.py tests/unit/test_requests.py tests/e2e -q -> 7 passed; tests/unit/test_languages.py -q -> 9 passed; CLI 'python -m newspaper --url https://news.sohu.com/20050601/n225789219.shtml --language zh --skip-fetch-images' exited 0 and wrote JSON with 2827-char body; live sohu/cnn fetches returned HTTP 200
Số token model đã dùng
2.710.625
Commit chính xác đã test
b53a81fc01ff
Container image
sha256:cdd920bce783

Những gì chưa đo

Nửa còn lại, để bạn thấy rõ bằng chứng này đi xa tới đâu. Chỗ trống được ghi là chỗ trống và không bao giờ được lấp vào.

Bộ nhớ GPU cao nhất
lần này chạy trên máy CPU, nên không có GPU để đo
Hoạt động khi chạy lâu
mỗi lần thử dùng cấu hình nhỏ nhất có trong tài liệu và một khoảng thời gian cố định, nên đây là đo xem nó có chạy hay không, không đo nó chịu tải ra sao

Đoạn cuối của bản ghi

Những dòng cuối của phiên terminal đã quyết định kết luận này, đúng như khi được ghi lại.

    {\"msg\": \"tests/integration network tests failed: test_follow_read_more_button (web.archive.o…
  ],
  \"test_depth\": \"tier1_real\",
  \"notes\": \"pip install -e . succeeded; CLI help and real crawling verified. Full suite (all tes…
  \"verified_how\": \"venv/bin/python -m pytest tests/unit/test_network.py tests/unit/test_requests…
  \"final_state\": \"newspaper4k 0.9.6 is pip-installed and editable in /work/repo/venv; CLI runs (…
}
print(\"ARGUSIC_RESULT:\" + json.dumps(r, ensure_ascii=True))
EOF" in /work/repo
 succeeded in 0ms:
tokens used
2,710,625

Xem lại toàn bộ phiên, mọi lệnh từ máy sạch tới thời điểm này.

Cách test

Một agent, một container, không có người giúp. Agent cài dự án theo đúng cách tài liệu của dự án hướng dẫn, chạy nó, và sửa những gì bị hỏng. Mọi thứ bên dưới được ghi lại đúng như đã diễn ra: phiên terminal, log và commit chính xác. Toàn bộ phương pháp.

Điểm mạnh và giới hạn

Dữ kiện đo được, không phải ý kiến. Cách viết nội dung.

Những gì suôn sẻ

  • Đạt trạng thái chạy được trên máy sạch, có ghi lại phiên làm việc.
  • Cài đặt trong 3 phút.
  • Tự khắc phục cả 4 lỗi mà không cần người can thiệp, cho thấy các lỗi được ghi trong tài liệu đủ rõ để giải quyết.
  • Chạy được không cần GPU, nên không cần GPU để khởi động.
  • Giấy phép MIT, theo thông tin từ nơi lưu trữ dự án.

Những gì không suôn sẻ, hoặc chưa biết

  • Mới đo một lần. Một lần thử cho thấy nó có thể chạy, chưa cho thấy nó chạy ổn định.

Phù hợp để dùng cho

  • Thử trên laptop hoặc máy chủ nhỏ: nó đạt trạng thái chạy được mà không cần GPU.
  • Đánh giá nhanh: nó đã chạy 3 phút sau khi clone.

Cũng đã test, cùng lĩnh vực

Mỗi dự án ở đây đều được Argusic cài đặt và chạy trên máy sạch. Không có dự án nào chưa test xuất hiện ở đây.

  • colly đã kiểm chứng chạy được · Go · 3 chủ đề chung
  • newspaper đã kiểm chứng chạy được · Python · 3 chủ đề chung
  • crawlee-python đã kiểm chứng chạy được · Python · 3 chủ đề chung
  • geziyor đã kiểm chứng chạy được · Go · 3 chủ đề chung
  • crawler đã kiểm chứng chạy được · PHP · 3 chủ đề chung
  • Scrapling đã kiểm chứng chạy được · Python · 2 chủ đề chung

Lịch sử chạy

test bởilần thửkết quảđiểmchi phí USDthời điểm
Argusic Runner1/3Chạy được100,000,60

Chủ đề (từ GitHub)

articlesarticles-datacrawlerdatasets-preparationnewsnewspaper3kpythonrequestsscraperscraping

Nhúng badge

Markdown cho README của dự án. Badge link về trang này; điều khoản ở trang điều khoản.

[![Tested by Argusic](https://argusic.com/badge/newspaper4k.svg)](https://argusic.com/subject/newspaper4k)

Câu hỏi

newspaper4k có chạy được không?
Có. newspaper4k chạy được. Argusic đã cài đặt và khởi chạy nó trên một máy sạch trong 3 phút, gặp 4 lỗi trên đường đi, và ghi lại phiên làm việc.
Argusic đã test newspaper4k như thế nào?
Trên một máy mới, dùng một lần, mọi lệnh đều được ghi lại và repo được ghim ở commit b53a81fc01ff. Có một lần thử được ghi lại, và toàn bộ phương pháp nằm ở trang phương pháp.
Test newspaper4k tốn bao nhiêu?
Lần chạy đưa ra kết luận này tốn 0,60 USD: chi phí máy và model thật, không phải giá niêm yết theo triệu token. Con số được ghi trên trang của lần chạy đó.
Cài đặt newspaper4k mất bao lâu?
3 phút trong lần chạy quyết định kết luận này, từ máy sạch đến trạng thái chạy được. Đó là một lần thử đo được, không phải số trung bình.
newspaper4k có cần GPU không?
Không cần để khởi động. Argusic đã đạt trạng thái chạy được trên một máy không có GPU.
Cài đặt newspaper4k thì gặp lỗi gì?
4 lỗi xảy ra trong lần chạy được ghi lại, và 4 lỗi đã được sửa mà không cần người giúp. Từng lỗi, cùng thời gian nó tốn, được liệt kê trên trang này.
Bằng chứng cho newspaper4k ở đâu?
Lần chạy được ghi lại nằm trên trang này, mỗi lần link tới log đầy đủ và terminal recording, được lưu kèm dấu vân tay sha256 để không thể bị sửa lén.

Discussion