Original en anglais: https://argusic.com/subject/cumulusci

CumulusCI

Framework Python pour créer de l'automatisation portable pour les projets Salesforce

Fonctionnesource : GitHubpage d'accueilPythonBSD-3-Clausecommit 38a6b1b5ff08

Python, sous licence BSD-3-Clause. Le projet se décrit ainsi : cicd, continuous integration, github, salesforce, salesforce apex, salesforce api, salesforce developers et salesforce devops.

CumulusCI fonctionne. Un agent Argusic l'a installé en 0,8 minute et a rencontré 7 erreurs sur une machine propre sans GPU, et toute la session a été enregistrée.

CLI installed and responds correctly; 3231 unit tests pass; 2 VCR-based Salesforce upsert tests fail due to cassette format incompatibility with vcrpy 8.x that requires re-recording against a live Salesforce org

Ce que l'agent a obtenu sur une machine propre, dans ses propres mots. Comment c'est mesuré

Mesuré par Argusic sur une machine vierge, à chaque fois. Chaque chiffre renvoie à ses preuves. Score Argusic de 97,1 sur 100 (la moyenne des scores des exécutions de ce projet).

En un coup d'œil

verdict
Fonctionne
Score Argusic
97,1 / 100
coût de l'exécution de vérification
0,24 USD (mesuré)
exécutions enregistrées
1
dernier test
étoiles
404
forks
258
issues ouvertes
108
observateurs
50
taille
100 MB
créé le
dernier push

Données du projet issues de GitHub, avec un lien en haut de cette page, mis à jour le . Données de test d'Argusic (CC BY 4.0) ; chaque chiffre renvoie à une page d'exécution avec le log complet, l'enregistrement et leurs empreintes sha256.

Ce qui a été mesuré

Tiré de l'exécution qui a décidé ce verdict. Chaque ligne est une valeur enregistrée, pas une estimation.

Temps perdu à cause de chaque échec lors du test de CumulusCI, tiré de l'exécution enregistrée
Chaque barre est un échec enregistré par l'agent, avec le temps qu'il a coûté. Tiré de cette exécution, et de nulle part ailleurs.

Ce qui s'est mal passé, dans les mots de l'agent

Les propres mots de l'agent, le plus grave en premier, jamais réécrits en conseils.

  • VCR cassettes for upsert tests incompatible with vcrpy 8.x (CannotOverwriteExistingCassetteException)10 minutes
  • vcrpy 8.x passes bytes_iterator/list-of-bytes for request bodies, _cleanup/simplify_body expects bytes8 minutes
  • LibraryDocBuilder/ResourceDocBuilder missing doc_format arg (Robot Framework 7.x breaking change)5 minutes
  • MockHttpResponse sub-mock creation fails with unexpected kwarg 'parent' (Python 3.12 unittest.mock)5 minutes
  • Back-compat test subprocess fails due to ImportPathMismatchError with installed cumulusci package4 minutes
  • Salesforce PATCH tests fail with ChunkedEncodingError (urllib3 2.x rejects body on 204)3 minutes
Temps d'installation
moins d'une minute
De la machine vierge à la fin
38 minutes
Erreurs rencontrées et corrigées
7 rencontrées, 6 corrigées sans aide humaine
Comment le résultat a été prouvé
cci version exited 0 (v4.10.1); pytest --tb=line -q produced 3231 passed, 37 skipped, 2 failed, 3 subtests passed
Tokens de modèle utilisés
779 595
Commit exact testé
38a6b1b5ff08
Image de conteneur
sha256:cdd920bce783

Ce qui n'a pas été mesuré

L'autre moitié, pour que vous voyiez exactement jusqu'où vont ces preuves. Une lacune est affichée comme une lacune et n'est jamais comblée.

Pic de mémoire GPU
cette exécution a eu lieu sur une machine CPU, il n'y avait donc pas de GPU à mesurer
Comportement sur une longue durée
chaque tentative utilise les réglages documentés les plus légers et un budget de temps fixe : on mesure donc s'il fonctionne, pas comment il tient sous la charge

La fin de l'enregistrement

Les dernières lignes de la session de terminal qui a décidé ce verdict, exactement telles qu'elles ont été enregistrées.

FAILED cumulusci/tasks/bulkdata/tests/test_upsert.py::TestUpsert::test_upsert_complex_fields__bulk
2 failed, 3231 passed, 37 skipped, 4991 warnings, 3 subtests passed in 83.33s (0:01:23)
=== CLI Version ===
CumulusCI version: 4.10.1 (/tmp/cci-venv/bin/cci)
Python version: 3.12.3 (/tmp/cci-venv/bin/python3.12)
=== Total tests ===
-- Docs: https://docs.pytest.org/en/stable/how-to/capture-warnings.html
3270 tests collected in 2.24s
Here is my compiled final report:
tokens used
779,595
Here is my compiled final report:

Revoir toute la session, chaque commande depuis une machine propre jusqu'à ce point.

Comment le test a été mené

Un agent, un conteneur, aucune aide humaine. Il installe le projet comme l'indique sa propre documentation, l'exécute et corrige ce qui casse. Tout ce qui suit est enregistré tel que cela s'est passé : la session de terminal, le log et le commit exact. La méthode complète.

Points forts et limites

Des faits mesurés, pas des opinions. Comment ce site est rédigé.

Ce qui s'est bien passé

  • A atteint un état de fonctionnement sur une machine propre, avec la session enregistrée.
  • Installé en 0,8 minute.
  • A fonctionné sans GPU, il n'en a donc pas besoin pour démarrer.
  • Sous licence BSD-3-Clause, selon son hébergeur.

Ce qui ne s'est pas bien passé, ou n'est pas connu

  • A rencontré 7 erreurs pendant l'installation, dont 1 n'a pas été résolue.
  • Mesuré une seule fois jusqu'ici. Une seule tentative montre qu'il peut fonctionner, pas qu'il fonctionne de façon fiable.

Pour quoi c'est un choix raisonnable

  • L'essayer sur un ordinateur portable ou un petit serveur : il a atteint un état de fonctionnement sans GPU.
  • Une évaluation rapide : il fonctionnait 0,8 minute après le clone.

Également testés, dans le même domaine

Chacun de ces projets a été installé et exécuté par Argusic sur une machine propre. Rien n'apparaît ici sans avoir été testé.

Historique des exécutions

testé partentativerésultatscorecoût USDdate
Argusic Runner1/3Fonctionne97,140,24

Sujets (depuis GitHub)

cicdcontinuous-integrationgithubsalesforcesalesforce-apexsalesforce-apisalesforce-developerssalesforce-devopssalesforce-isv-developersalesforce-metadatasalesforcedxsfdx

Intégrer le badge

Markdown pour le README du projet. Il renvoie vers cette page ; conditions sur la page des conditions.

[![Tested by Argusic](https://argusic.com/badge/CumulusCI.svg)](https://argusic.com/subject/cumulusci)

Questions

CumulusCI fonctionne-t-il ?
Oui. CumulusCI fonctionne. Argusic l'a installé et lancé sur une machine propre en 1 minute, en rencontrant 7 erreurs en route, et a enregistré la session.
Comment Argusic a-t-il testé CumulusCI ?
Sur une machine vierge et jetable, avec chaque commande enregistrée et le dépôt épinglé au commit 38a6b1b5ff08. Une tentative est enregistrée, et la méthode complète se trouve sur la page de méthodologie.
Combien a coûté le test de CumulusCI ?
L'exécution qui a produit ce verdict a coûté 0,24 USD : le coût réel du calcul et du modèle, pas un prix catalogue par million de tokens. Il est enregistré sur la page de cette exécution.
Combien de temps faut-il pour installer CumulusCI ?
0,8 minute lors de l'exécution qui a décidé ce verdict, d'une machine propre à un état de fonctionnement. Il s'agit d'une tentative mesurée, pas d'une moyenne.
CumulusCI a-t-il besoin d'un GPU ?
Pas pour démarrer. Argusic a atteint un état de fonctionnement sur une machine sans GPU.
Qu'est-ce qui pose problème lors de l'installation de CumulusCI ?
7 problèmes sont survenus lors de l'exécution enregistrée, et 6 ont été corrigés sans aide humaine. Chacun, avec le temps qu'il a coûté, est listé sur cette page.
Où sont les preuves pour CumulusCI ?
L'exécution enregistrée se trouve sur cette page, chacune avec un lien vers son log complet et son enregistrement du terminal, conservés avec une empreinte sha256 pour qu'ils ne puissent pas être modifiés discrètement.

Discussion