Original en anglais: https://argusic.com/subject/azure-devops-cli-extension

azure-devops-cli-extension

Extension Azure DevOps pour Azure CLI

Fonctionne avec des mockssource : GitHubpage d'accueilPythonMITcommit 4d49a4b367fd

Python, sous licence MIT. Le projet se décrit ainsi : agile, artifacts, azure, azure cli, azure cli extension, azure devops, azure devops extension et boards.

azure-devops-cli-extension fonctionne, avec des substituts pour les services dont il dépend. Un agent Argusic l'a installé en 30 minutes et a rencontré 6 erreurs sur une machine propre sans GPU, et toute la session a été enregistrée.

Azure DevOps CLI extension 1.0.8 is installed and its `az devops` help launches, and 354 unit tests plus 8 integration scenarios run green against an in-process mock of the Azure DevOps REST API.

Ce que l'agent a obtenu sur une machine propre, dans ses propres mots. Comment c'est mesuré

Mesuré par Argusic sur une machine vierge, à chaque fois. Chaque chiffre renvoie à ses preuves. Score Argusic de 84,3 sur 100 (la moyenne des scores des exécutions de ce projet).

En un coup d'œil

verdict
Fonctionne avec des mocks
Score Argusic
84,3 / 100
coût de l'exécution de vérification
0,14 USD (mesuré)
exécutions enregistrées
2
dernier test
étoiles
692
forks
280
issues ouvertes
339
observateurs
35
taille
7 MB
créé le
dernier push

Données du projet issues de GitHub, avec un lien en haut de cette page, mis à jour le . Données de test d'Argusic (CC BY 4.0) ; chaque chiffre renvoie à une page d'exécution avec le log complet, l'enregistrement et leurs empreintes sha256.

Ce qui a été mesuré

Tiré de l'exécution qui a décidé ce verdict. Chaque ligne est une valeur enregistrée, pas une estimation.

Temps perdu à cause de chaque échec lors du test d'azure-devops-cli-extension, tiré de l'exécution enregistrée
Chaque barre est un échec enregistré par l'agent, avec le temps qu'il a coûté. Tiré de cette exécution, et de nulle part ailleurs.

Ce qui s'est mal passé, dans les mots de l'agent

Les propres mots de l'agent, le plus grave en premier, jamais réécrits en conseils.

  • VCR integration recordings reference old API URL shapes and replay fails against the current generated SDK30 minutes
  • Mock lacked correct semantics for work items (AreaPath project, id propagation, delete 404), refs filter, import request route variants, and policy endpoints15 minutes
  • SDK OPTIONS/cache route templates lacked project-scoped paths for git/wit/refs/imports, so URLs omitted the project segment10 minutes
  • dev_setup.py requirements omitted azure-cli-testsdk and msrestazure needed by the test suite5 minutes
  • azure-cli-testsdk uses inspect.getargspec which Python 3.12 removed5 minutes
  • 23 integration scenarios (pipelines, wiki, security, boards query/relation/area/iteration, team, user, invoke, PR policies/reviewers, variable groups) still fail against the mock
Temps d'installation
30 minutes
De la machine vierge à la fin
68 minutes
Erreurs rencontrées et corrigées
6 rencontrées, 5 corrigées sans aide humaine
Comment le résultat a été prouvé
python -m pytest azext_devops/tests/latest --ignore=azext_devops/tests/latest/integrationtests -p conftest_for_mock -q exited 0 with '354 passed, 6 subtests passed'; python -m pytest azext_devops/tests/latest/integrationtests/test_reposRepoTest.py test_devopsProjectTest.py test_reposImportTest.py test_boardsWorkItemTest.py test_reposRefTest.py test_reposRefDeleteFlowTest.py test_extensionSearch.py test_gitAliasTest.py -p conftest_for_mock -q exited 0 with '8 passed'; az version printed azure-cli 2.91.0; az devops -h printed the group help; az extension list printed ['azure-devops']
Tokens de modèle utilisés
12 195 078
Commit exact testé
4d49a4b367fd
Image de conteneur
sha256:cdd920bce783

Ce qui n'a pas été mesuré

L'autre moitié, pour que vous voyiez exactement jusqu'où vont ces preuves. Une lacune est affichée comme une lacune et n'est jamais comblée.

Pic de mémoire GPU
cette exécution a eu lieu sur une machine CPU, il n'y avait donc pas de GPU à mesurer
Comportement sur une longue durée
chaque tentative utilise les réglages documentés les plus légers et un budget de temps fixe : on mesure donc s'il fonctionne, pas comment il tient sous la charge
Comportement face aux vrais services
cette exécution n'a été vérifiée qu'avec des services de substitution

Regarder la session

L'exécution complète, depuis une machine propre, à la vitesse réelle. Rien n'est coupé et rien n'est accéléré.

Un enregistrement de la tentative 2, exécutée le , la tentative qui a décidé le verdict ci-dessus. L'enregistrement du terminal dont elle est tirée constitue la preuve, conservée avec une empreinte sha256 ; la vidéo n'en est qu'un rendu. Rien n'est chargé depuis l'hébergeur de la vidéo tant que vous n'appuyez pas sur lecture.

La fin de l'enregistrement

Les dernières lignes de la session de terminal qui a décidé ce verdict, exactement telles qu'elles ont été enregistrées.

Mission complete within the 90-minute budget. Final report:
- Install: `python scripts/dev_setup.py` succeeded; Azure CLI 2.91.0, extension `azure-devops 1.0.8…
- Tests: unit suite `354 passed, 6 subtests passed in 11.07s` (with the env-only mock plugin); 8 in…
- Troubleshooting recorded: missing `azure-cli-testsdk`/`msrestazure`, Python 3.12 `inspect.getargs…
- 23 integration scenarios remain red because they exercise API areas (pipelines/build/variable-gro…
tokens used
12,195,078
Mission complete within the 90-minute budget. Final report:
- Install: `python scripts/dev_setup.py` succeeded; Azure CLI 2.91.0, extension `azure-devops 1.0.8…
- Tests: unit suite `354 passed, 6 subtests passed in 11.07s` (with the env-only mock plugin); 8 in…
- Troubleshooting recorded: missing `azure-cli-testsdk`/`msrestazure`, Python 3.12 `inspect.getargs…
- 23 integration scenarios remain red because they exercise API areas (pipelines/build/variable-gro…

Revoir toute la session, chaque commande depuis une machine propre jusqu'à ce point.

Comment le test a été mené

Un agent, un conteneur, aucune aide humaine. Il installe le projet comme l'indique sa propre documentation, l'exécute et corrige ce qui casse. Tout ce qui suit est enregistré tel que cela s'est passé : la session de terminal, le log et le commit exact. La méthode complète.

Points forts et limites

Des faits mesurés, pas des opinions. Comment ce site est rédigé.

Ce qui s'est bien passé

  • Sous licence MIT, selon son hébergeur.
  • Mesuré 2 fois, le résultat n'est donc pas un cas isolé.

Ce qui ne s'est pas bien passé, ou n'est pas connu

  • N'a atteint un état de fonctionnement qu'avec des services de substitution : rien ici ne prouve qu'il fonctionne avec les vrais.
  • Installation en 30 minutes, plus lente que la médiane des 4 projets comparables mesurés par Argusic.
  • A rencontré 6 erreurs pendant l'installation, dont 1 n'a pas été résolue.

Sur les 5 projets agile qu'Argusic a installés et chronométrés, azure-devops-cli-extension a été le 5e plus rapide à atteindre un état de fonctionnement, et 4 sur 5 en ont atteint un.

Également testés, dans le même domaine

Chacun de ces projets a été installé et exécuté par Argusic sur une machine propre. Rien n'apparaît ici sans avoir été testé.

Historique des exécutions

testé partentativerésultatscorecoût USDdate
Argusic Runner2/3Fonctionne avec des mocks88,670,14
Argusic Runner1/3Non vérifié80,000,02

Sujets (depuis GitHub)

agileartifactsazureazure-cliazure-cli-extensionazure-devopsazure-devops-extensionboardscicdcommand-linecommand-line-tooldevopsgitpipelinesrepos

Intégrer le badge

Markdown pour le README du projet. Il renvoie vers cette page ; conditions sur la page des conditions.

[![Tested by Argusic](https://argusic.com/badge/azure-devops-cli-extension.svg)](https://argusic.com/subject/azure-devops-cli-extension)

Questions

azure-devops-cli-extension fonctionne-t-il ?
azure-devops-cli-extension fonctionne, avec des mocks à la place des services externes. Argusic l'a installé et lancé sur une machine propre en 30 minutes, en rencontrant 6 erreurs en route, et a enregistré la session.
Comment Argusic a-t-il testé azure-devops-cli-extension ?
Sur une machine vierge et jetable, avec chaque commande enregistrée et le dépôt épinglé au commit 4d49a4b367fd. 2 tentatives sont enregistrées, et la méthode complète se trouve sur la page de méthodologie.
Combien a coûté le test d'azure-devops-cli-extension ?
L'exécution qui a produit ce verdict a coûté 0,14 USD : le coût réel du calcul et du modèle, pas un prix catalogue par million de tokens. Il est enregistré sur la page de cette exécution.
Combien de temps faut-il pour installer azure-devops-cli-extension ?
30 minutes lors de l'exécution qui a décidé ce verdict, d'une machine propre à un état de fonctionnement. Il s'agit d'une tentative mesurée, pas d'une moyenne.
azure-devops-cli-extension a-t-il besoin d'un GPU ?
Pas pour démarrer. Argusic a atteint un état de fonctionnement sur une machine sans GPU.
Qu'est-ce qui pose problème lors de l'installation d'azure-devops-cli-extension ?
6 problèmes sont survenus lors de l'exécution enregistrée, et 5 ont été corrigés sans aide humaine. Chacun, avec le temps qu'il a coûté, est listé sur cette page.
Comment azure-devops-cli-extension se compare-t-il aux alternatives ?
Sur les 5 projets agile qu'Argusic a installés et chronométrés, azure-devops-cli-extension a été le 5e plus rapide à atteindre un état de fonctionnement, et 4 sur 5 en ont atteint un.
Où sont les preuves pour azure-devops-cli-extension ?
Les 2 exécutions enregistrées se trouvent sur cette page, chacune avec un lien vers son log complet et son enregistrement du terminal, conservés avec une empreinte sha256 pour qu'ils ne puissent pas être modifiés discrètement.

Discussion