英文原文: https://argusic.com/subject/newspaper4k

newspaper4k

Newspaper4k 是备受喜爱的 Newspaper3k 的一个分支。用于从新闻网站提取文章、标题和元数据。

可运行来源：GitHub项目主页PythonMITcommit b53a81fc01ff

Python，MIT 许可证. 项目的自我描述：articles、articles data、crawler、datasets preparation、news、newspaper3k、python 和 requests.

newspaper4k 可以运行。一个 Argusic agent 在一台没有 GPU 的干净机器上用 3 分钟完成了安装，遇到 4 个错误，并在无人协助的情况下全部修复，整个会话都被记录了下来。

newspaper4k 0.9.6 is pip-installed and editable in /work/repo/venv; CLI runs (help + real article extraction into JSON), 234 tests pass with 2 deselected stale summarization fixtures and 5 external-site failures; package state is clean working tree.

agent 在干净的机器上最终得到的结果，用它自己的话说。 测量方式

每一次都由 Argusic 在全新机器上实测。每个数字都链接到对应的证据。 Argusic 评分 100，满分 100（该项目各次运行得分的平均值）。

概览

结论
可运行
Argusic 评分
100 / 100
验证运行的成本
0.60 USD（实测）
已记录的运行次数
1
最近测试
星标
1,170
fork 数
118
未关闭的 issue
135
关注者
11
大小
26 MB
创建于
最近推送

项目数据来自 GitHub，链接见本页顶部，更新于 。测试数据由 Argusic 提供 (CC BY 4.0)；每个数字都链接到一个运行页面，附完整的 log、录屏及其 sha256 哈希。

测量了什么

来自决定该结论的那次运行。 每一行都是记录下来的数值，而非估算。

测试 newspaper4k 时每个故障耗费的时间，取自已记录的运行
每一根柱子都是 agent 记录的一次失败，以及它耗费的时间。数据仅取自本次运行。

哪里出了问题，用 agent 自己的话说

agent 的原话，最严重的排在最前，从不改写成建议。

  • tests/unit/test_nlp.py::test_summarize and test_known_websites (summary fields) failed: split_sentences/summarize under nltk 3.10.3 produce different summary than fixtures45 分钟
  • tests/integration network tests failed: test_follow_read_more_button (web.archive.org 429 rate-limit block), test_detect_binary (media.chinadaily.com.cn DNS NXDOMAIN in this container), test_multithread_sources (euronews site returns malformed category links -> empty article list; IndexError), test_gnews+fr/de (Google News transiently returns 0 or non-.fr/.de results)20 分钟
  • tests/integration/test_languages.py::test_language_articles failed on chinese_article: fixture is a gb2312 page whose expected txt uses curly quotes; live page has no matching charset header15 分钟
  • pytest collection failed: optional extras not installed (gnews, nltk, pythainlp, indic-nlp-library, jieba, tinysegmenter, protego) - import-time ImportError in tests and language tokenizers12 分钟
安装时间
3 分钟
从冷启动机器到完成
38 分钟
遇到并修复的错误
遇到 4 个，在无人协助的情况下修复了 4 个
结果是如何证明的
venv/bin/python -m pytest tests/unit/test_network.py tests/unit/test_requests.py tests/e2e -q -> 7 passed; tests/unit/test_languages.py -q -> 9 passed; CLI 'python -m newspaper --url https://news.sohu.com/20050601/n225789219.shtml --language zh --skip-fetch-images' exited 0 and wrote JSON with 2827-char body; live sohu/cnn fetches returned HTTP 200
使用的模型 token
2,710,625
测试的确切 commit
b53a81fc01ff
容器镜像
sha256:cdd920bce783

没有测量什么

另一半内容，让你清楚看到这些证据能说明到什么程度。缺失的数据就标为缺失，从不填补。

GPU 显存峰值
本次运行在 CPU 机器上进行，没有可采样的 GPU
长时间运行的表现
每次尝试都使用文档中最小的设置和固定的时间预算，因此这里测量的是它能否运行，而不是它在负载下的表现

录屏的结尾

决定该结论的终端会话的最后几行，与录制时完全一致。

    {\"msg\": \"tests/integration network tests failed: test_follow_read_more_button (web.archive.o…
  ],
  \"test_depth\": \"tier1_real\",
  \"notes\": \"pip install -e . succeeded; CLI help and real crawling verified. Full suite (all tes…
  \"verified_how\": \"venv/bin/python -m pytest tests/unit/test_network.py tests/unit/test_requests…
  \"final_state\": \"newspaper4k 0.9.6 is pip-installed and editable in /work/repo/venv; CLI runs (…
}
print(\"ARGUSIC_RESULT:\" + json.dumps(r, ensure_ascii=True))
EOF" in /work/repo
 succeeded in 0ms:
tokens used
2,710,625

回放完整会话，从干净的机器到此刻的每一条命令。

测试方式

一个 agent，一个容器，没有人工协助。它按照项目自身文档所写的方式安装项目，运行它，并修复出错的地方。下面的一切都按实际发生的过程记录：终端会话、log 和确切的 commit。 完整方法论.

优势与局限

均为实测事实，而非观点。内容是如何撰写的.

顺利的部分

  • 在干净的机器上达到了运行状态，会话有完整记录。
  • 用 3 分钟完成安装。
  • 在无人介入的情况下从全部 4 个错误中恢复，说明这些故障的文档足以让人解决。
  • 无需 GPU 即可运行，因此启动它并不需要 GPU。
  • 采用 MIT 许可证，以其托管平台报告的信息为准。

不顺利或尚不清楚的部分

  • 目前只测量过一次。单次尝试只能说明它可以运行，不能说明它能稳定运行。

适合用于

  • 在笔记本电脑或小型服务器上试用：它无需 GPU 即达到了运行状态。
  • 快速评估：克隆后 3 分钟它就已经运行起来。

同一领域中也测试过的项目

这里的每个项目都由 Argusic 在干净的机器上安装并运行过。未经测试的项目不会出现在这里。

  • colly 已验证可运行 · Go · 3 个共同主题
  • newspaper 已验证可运行 · Python · 3 个共同主题
  • crawlee-python 已验证可运行 · Python · 3 个共同主题
  • geziyor 已验证可运行 · Go · 3 个共同主题
  • crawler 已验证可运行 · PHP · 3 个共同主题
  • Scrapling 已验证可运行 · Python · 2 个共同主题

运行历史

测试者尝试结果评分成本 USD时间
Argusic Runner1/3可运行100.000.60

主题 (来自 GitHub)

articlesarticles-datacrawlerdatasets-preparationnewsnewspaper3kpythonrequestsscraperscraping

嵌入徽章

用于项目 README 的 Markdown。徽章链接回本页；使用条款见 条款页面.

[![Tested by Argusic](https://argusic.com/badge/newspaper4k.svg)](https://argusic.com/subject/newspaper4k)

常见问题

newspaper4k 能运行吗？
是的。newspaper4k 可以运行. Argusic 在一台干净的机器上安装并启动了它，用时 3 分钟，过程中遇到 4 个错误，并记录了整个会话。
Argusic 是如何测试 newspaper4k 的？
在一台全新的一次性机器上进行，每条命令都被记录，仓库固定在 commit b53a81fc01ff。共记录了 1 次尝试，完整方法见方法论页面。
测试 newspaper4k 花了多少钱？
得出该结论的那次运行花费 0.60 USD：这是真实的算力和模型成本，而不是按每百万 token 计的标价。该数字记录在那次运行的页面上。
newspaper4k 安装需要多长时间？
在决定该结论的那次运行中，从干净的机器到运行状态用了 3 分钟。这是一次实测的尝试，不是平均值。
newspaper4k 需要 GPU 吗？
启动它不需要。Argusic 在一台没有 GPU 的机器上让它达到了运行状态。
安装 newspaper4k 时会出现什么问题？
已记录的运行中出现了 4 个问题，其中 4 个在无人协助的情况下被修复。每个问题及其耗费的时间都列在本页上。
newspaper4k 的证据在哪里？
这次已记录的运行都在本页上，每次都链接到完整的 log 和终端录屏，并连同 sha256 指纹一起保存，因此无法被悄悄篡改。

Discussion