Original en inglés: https://argusic.com/subject/continuous-integration

continuous-integration

Configuración de integración continua de Bazel

Funciona con mocksfuente: GitHubsitio webPythonApache-2.0commit 080f19d6e3dc

Python, licencia Apache-2.0. El proyecto se describe a sí mismo como: bazel, buildkite y continuous integration.

continuous-integration funciona, con sustitutos de los servicios de los que depende. Un agent de Argusic lo instaló en 3 minutos y encontró 5 errores en una máquina limpia sin GPU, y toda la sesión quedó grabada.

Python core CI orchestrator (bazelci.py) and its 55 unit tests pass, bcr-pr-reviewer Node.js action passes 9 tests, and the CLI prints usage; the aggregate_incompatible_flags_test_result_test has a pre-existing stale test data mismatch, and other components require Go, Rust, or Java not available in this container

Lo que el agent consiguió en una máquina limpia, en sus propias palabras. Cómo se mide

Medido por Argusic en una máquina limpia cada vez. Cada cifra enlaza a su evidencia. Puntuación Argusic de 48 sobre 100 (la media de las puntuaciones de las ejecuciones de este proyecto).

De un vistazo

veredicto
Funciona con mocks
Puntuación Argusic
48 / 100
costo de la ejecución de verificación
0,03 USD (medido)
ejecuciones registradas
2
última prueba
estrellas
302
forks
200
issues abiertos
175
observadores
29
tamaño
27 MB
creado
último push

Datos del proyecto de GitHub, enlazados al principio de esta página, actualizado . Datos de prueba de Argusic (CC BY 4.0); cada cifra enlaza a una página de ejecución con el log completo, la grabación y sus hashes sha256.

Qué se midió

De la ejecución que decidió este veredicto. Cada línea es un valor registrado, no una estimación.

Tiempo perdido en cada fallo al probar continuous-integration, a partir de la ejecución registrada
Cada barra es un fallo que el agent registró, con el tiempo que le costó. Sale de esta ejecución y de ningún otro sitio.

Qué salió mal, en palabras del propio agent

Las palabras del propio agent, de lo más grave a lo menos, nunca reescritas como consejos.

  • aggregate_incompatible_flags_test_result_test.py calls get_pipeline_and_platform() which didn't exist; added the function but test data uses old platform labels (e.g. ':ubuntu: 18.04 (OpenJDK 11)') that don't match current emoji-name values (':ubuntu: Ubuntu 18.04 LTS (OpenJDK 11, gcc 7.5.0)')5 minutos
  • No Go compiler in container — agent/metrics/pipestats Go components cannot build1 minuto
  • No Rust/cargo in container — agent/ Rust component cannot build1 minuto
  • No Java/Maven in container — dashboard/server/ Java component cannot build1 minuto
  • cherry_picker and update-lockfile actions require GH_TOKEN env var to import1 minuto
Tiempo de instalación
3 minutos
De máquina en frío a terminar
7 minutos
Errores encontrados y corregidos
5 encontrados, 1 corregidos sin ayuda humana
Cómo se demostró el resultado
cd /work/repo/buildkite && /work/repo/venv/bin/python -m unittest bazelci_test collect_metrics_test: 55 tests passed, 0 failed (0.39s); cd /work/repo/actions/bcr-pr-reviewer && node --test: 9 tests passed, 0 failed; bazelci.py --help prints usage
Tokens de modelo usados
263.166
Commit exacto probado
080f19d6e3dc
Imagen del contenedor
sha256:cdd920bce783

Qué no se midió

La otra mitad, para que veas exactamente hasta dónde llega esta evidencia. Un hueco se muestra como hueco y nunca se rellena.

Memoria de GPU máxima
se ejecutó en una máquina con CPU, así que no había GPU que muestrear
Comportamiento en una ejecución larga
cada intento usa la configuración documentada más pequeña y un presupuesto de tiempo fijo, así que esto mide si funciona, no cómo aguanta bajo carga
Comportamiento con servicios reales
esta ejecución solo se verificó con servicios sustitutos

El final de la grabación

Las últimas líneas de la sesión de terminal que decidió este veredicto, tal como se registraron.

3. The `agent/` (Rust/Cargo) and `metrics/`, `pipestats/` (Go) components could not be built — no `…
4. The `dashboard/server/` (Java/Maven) could not be built — no `java` or `mvn`
5. The `dashboard/client/` (Next.js) could not be built — `npm install` isn't set up (though `node`…
**Tests executed:**
- `bazelci_test.py`: **40/40 passed**
- `collect_metrics_test.py`: **15/15 passed**
- `aggregate_incompatible_flags_test_result_test.py`: **1 error** (pre-existing bug)
- `actions/bcr-pr-reviewer`: **9/9 passed** (Node.js tests)
- `actions/cherry_picker/` and `actions/update-lockfile/` require `GH_TOKEN` env var
- `actions/release-helper/`: no test specified
**Pre-existing bug found & documented:**
- `aggregate_incompatible_flags_test_result_test.py` calls `get_pipeline_and_platform()` which didn…

Reproducir la sesión completa, cada comando desde una máquina limpia hasta este punto.

Cómo se probó

Un agent, un contenedor, sin ayuda humana. Instala el proyecto como indica su propia documentación, lo ejecuta y arregla lo que falla. Todo lo de abajo se registró tal como ocurrió: la sesión de terminal, el log y el commit exacto. La metodología completa.

Puntos fuertes y límites

Hechos medidos, no opiniones. Cómo se redacta.

Qué salió bien

  • Se instaló en 3 minutos.
  • Licencia Apache-2.0, según su plataforma de origen.
  • Medido 2 veces, así que el resultado no es algo puntual.

Qué no salió bien, o no se sabe

  • Solo llegó a funcionar con servicios sustitutos, así que nada de lo que hay aquí demuestra que funcione con los reales.
  • Encontró 5 errores durante la instalación, 4 de ellos sin resolver.

También probados, en la misma área

Argusic instaló y ejecutó cada uno de estos proyectos en una máquina limpia. Aquí no aparece nada que no se haya probado.

Historial de ejecuciones

probado porintentoresultadopuntuacióncosto USDcuándo
Argusic Runner2/3Funciona con mocks76,000,03
Argusic Runner1/3No funcionó20,000,15

Temas (de GitHub)

bazelbuildkitecontinuous-integration

Insertar el badge

Markdown para el README del proyecto. Enlaza de vuelta aquí; condiciones en la página de términos.

[![Tested by Argusic](https://argusic.com/badge/continuous-integration.svg)](https://argusic.com/subject/continuous-integration)

Preguntas

¿Funciona continuous-integration?
continuous-integration funciona, con mocks en lugar de los servicios externos. Argusic lo instaló y lo inició en una máquina limpia en 3 minutos, con 5 errores por el camino, y grabó la sesión.
¿Cómo probó Argusic continuous-integration?
En una máquina limpia y desechable, con cada comando grabado y el repositorio fijado en el commit 080f19d6e3dc. Hay 2 intentos registrados, y la metodología completa está en la página de metodología.
¿Cuánto costó probar continuous-integration?
La ejecución que produjo este veredicto costó 0,03 USD: costo real de cómputo y de modelo, no un precio de lista por millón de tokens. Consta en la página de esa ejecución.
¿Cuánto tarda continuous-integration en instalarse?
3 minutos en la ejecución que decidió este veredicto, desde una máquina limpia hasta que funcionó. Es un intento medido, no una media.
¿Necesita continuous-integration una GPU?
No para arrancar. Argusic consiguió que funcionara en una máquina sin GPU.
¿Qué falla al instalar continuous-integration?
En la ejecución registrada fallaron 5 cosas, y 1 se corrigió sin ayuda humana. Cada una, con el tiempo que costó, aparece en esta página.
¿Dónde está la evidencia de continuous-integration?
Las 2 ejecuciones registradas están en esta página, cada una enlazada a su log completo y a su grabación de terminal, guardados con una huella sha256 para que no se puedan alterar en silencio.

Discussion