英文原文: https://argusic.com/subject/azure-devops-cli-extension
azure-devops-cli-extension
用于 Azure CLI 的 Azure DevOps 扩展
借助 mock 可运行来源:GitHub项目主页PythonMITcommit 4d49a4b367fd
Python,MIT 许可证. 项目的自我描述:agile、artifacts、azure、azure cli、azure cli extension、azure devops、azure devops extension 和 boards.
azure-devops-cli-extension 可以运行,其依赖的服务由替身代替。一个 Argusic agent 在一台没有 GPU 的干净机器上用 30 分钟完成了安装,遇到 6 个错误,整个会话都被记录了下来。
Azure DevOps CLI extension 1.0.8 is installed and its `az devops` help launches, and 354 unit tests plus 8 integration scenarios run green against an in-process mock of the Azure DevOps REST API.
agent 在干净的机器上最终得到的结果,用它自己的话说。 测量方式
每一次都由 Argusic 在全新机器上实测。每个数字都链接到对应的证据。 Argusic 评分 84.3,满分 100(该项目各次运行得分的平均值)。
概览
项目数据来自 GitHub,链接见本页顶部,更新于 。测试数据由 Argusic 提供 (CC BY 4.0);每个数字都链接到一个运行页面,附完整的 log、录屏及其 sha256 哈希。
测量了什么
来自决定该结论的那次运行。 每一行都是记录下来的数值,而非估算。

哪里出了问题,用 agent 自己的话说
agent 的原话,最严重的排在最前,从不改写成建议。
- VCR integration recordings reference old API URL shapes and replay fails against the current generated SDK30 分钟
- Mock lacked correct semantics for work items (AreaPath project, id propagation, delete 404), refs filter, import request route variants, and policy endpoints15 分钟
- SDK OPTIONS/cache route templates lacked project-scoped paths for git/wit/refs/imports, so URLs omitted the project segment10 分钟
- dev_setup.py requirements omitted azure-cli-testsdk and msrestazure needed by the test suite5 分钟
- azure-cli-testsdk uses inspect.getargspec which Python 3.12 removed5 分钟
- 23 integration scenarios (pipelines, wiki, security, boards query/relation/area/iteration, team, user, invoke, PR policies/reviewers, variable groups) still fail against the mock
- 安装时间
- 30 分钟
- 从冷启动机器到完成
- 68 分钟
- 遇到并修复的错误
- 遇到 6 个,在无人协助的情况下修复了 5 个
- 结果是如何证明的
- python -m pytest azext_devops/tests/latest --ignore=azext_devops/tests/latest/integrationtests -p conftest_for_mock -q exited 0 with '354 passed, 6 subtests passed'; python -m pytest azext_devops/tests/latest/integrationtests/test_reposRepoTest.py test_devopsProjectTest.py test_reposImportTest.py test_boardsWorkItemTest.py test_reposRefTest.py test_reposRefDeleteFlowTest.py test_extensionSearch.py test_gitAliasTest.py -p conftest_for_mock -q exited 0 with '8 passed'; az version printed azure-cli 2.91.0; az devops -h printed the group help; az extension list printed ['azure-devops']
- 使用的模型 token
- 12,195,078
- 测试的确切 commit
- 4d49a4b367fd
- 容器镜像
- sha256:cdd920bce783
没有测量什么
另一半内容,让你清楚看到这些证据能说明到什么程度。缺失的数据就标为缺失,从不填补。
- GPU 显存峰值
- 本次运行在 CPU 机器上进行,没有可采样的 GPU
- 长时间运行的表现
- 每次尝试都使用文档中最小的设置和固定的时间预算,因此这里测量的是它能否运行,而不是它在负载下的表现
- 对接真实服务的表现
- 本次运行只对照替身服务进行了验证
观看会话
完整的运行过程,从一台干净的机器开始,按实际速度播放。没有剪辑,也没有加速。
第 2 次尝试的录屏,运行于 ,即决定上述结论的那次尝试。 制作该视频所用的终端录屏是证据,连同 sha256 指纹一起保存;视频只是由它渲染而成。 在你点击播放之前,不会从视频托管方加载任何内容。
录屏的结尾
决定该结论的终端会话的最后几行,与录制时完全一致。
Mission complete within the 90-minute budget. Final report: - Install: `python scripts/dev_setup.py` succeeded; Azure CLI 2.91.0, extension `azure-devops 1.0.8… - Tests: unit suite `354 passed, 6 subtests passed in 11.07s` (with the env-only mock plugin); 8 in… - Troubleshooting recorded: missing `azure-cli-testsdk`/`msrestazure`, Python 3.12 `inspect.getargs… - 23 integration scenarios remain red because they exercise API areas (pipelines/build/variable-gro… tokens used 12,195,078 Mission complete within the 90-minute budget. Final report: - Install: `python scripts/dev_setup.py` succeeded; Azure CLI 2.91.0, extension `azure-devops 1.0.8… - Tests: unit suite `354 passed, 6 subtests passed in 11.07s` (with the env-only mock plugin); 8 in… - Troubleshooting recorded: missing `azure-cli-testsdk`/`msrestazure`, Python 3.12 `inspect.getargs… - 23 integration scenarios remain red because they exercise API areas (pipelines/build/variable-gro…
回放完整会话,从干净的机器到此刻的每一条命令。
测试方式
一个 agent,一个容器,没有人工协助。它按照项目自身文档所写的方式安装项目,运行它,并修复出错的地方。下面的一切都按实际发生的过程记录:终端会话、log 和确切的 commit。 完整方法论.
优势与局限
均为实测事实,而非观点。内容是如何撰写的.
顺利的部分
- 采用 MIT 许可证,以其托管平台报告的信息为准。
- 已测量 2 次,因此结果并非偶然。
不顺利或尚不清楚的部分
- 只在替身服务下达到了运行状态,因此这里没有任何内容能证明它在真实服务下可以工作。
- 安装用了 30 分钟,慢于 Argusic 测量过的 4 个同类项目的中位数。
- 搭建过程中遇到 6 个错误,其中 1 个没有解决。
在 Argusic 安装并计时过的 5 个 agile 项目中,azure-devops-cli-extension 达到运行状态的速度排名第 5,5 个项目中有 4 个达到了运行状态。
同一领域中也测试过的项目
这里的每个项目都由 Argusic 在干净的机器上安装并运行过。未经测试的项目不会出现在这里。
运行历史
| 测试者 | 尝试 | 结果 | 评分 | 成本 USD | 时间 |
|---|---|---|---|---|---|
| Argusic Runner | 2/3 | 借助 mock 可运行 | 88.67 | 0.14 | |
| Argusic Runner | 1/3 | 未验证 | 80.00 | 0.02 |
主题 (来自 GitHub)
agileartifactsazureazure-cliazure-cli-extensionazure-devopsazure-devops-extensionboardscicdcommand-linecommand-line-tooldevopsgitpipelinesrepos
嵌入徽章
用于项目 README 的 Markdown。徽章链接回本页;使用条款见 条款页面.
[](https://argusic.com/subject/azure-devops-cli-extension)常见问题
- azure-devops-cli-extension 能运行吗?
- azure-devops-cli-extension 可以运行,外部服务由 mock 代替. Argusic 在一台干净的机器上安装并启动了它,用时 30 分钟,过程中遇到 6 个错误,并记录了整个会话。
- Argusic 是如何测试 azure-devops-cli-extension 的?
- 在一台全新的一次性机器上进行,每条命令都被记录,仓库固定在 commit 4d49a4b367fd。共记录了 2 次尝试,完整方法见方法论页面。
- 测试 azure-devops-cli-extension 花了多少钱?
- 得出该结论的那次运行花费 0.14 USD:这是真实的算力和模型成本,而不是按每百万 token 计的标价。该数字记录在那次运行的页面上。
- azure-devops-cli-extension 安装需要多长时间?
- 在决定该结论的那次运行中,从干净的机器到运行状态用了 30 分钟。这是一次实测的尝试,不是平均值。
- azure-devops-cli-extension 需要 GPU 吗?
- 启动它不需要。Argusic 在一台没有 GPU 的机器上让它达到了运行状态。
- 安装 azure-devops-cli-extension 时会出现什么问题?
- 已记录的运行中出现了 6 个问题,其中 5 个在无人协助的情况下被修复。每个问题及其耗费的时间都列在本页上。
- azure-devops-cli-extension 与其他替代方案相比如何?
- 在 Argusic 安装并计时过的 5 个 agile 项目中,azure-devops-cli-extension 达到运行状态的速度排名第 5,5 个项目中有 4 个达到了运行状态。
- azure-devops-cli-extension 的证据在哪里?
- 全部 2 次已记录的运行都在本页上,每次都链接到完整的 log 和终端录屏,并连同 sha256 指纹一起保存,因此无法被悄悄篡改。