Original en inglés: https://argusic.com/subject/volkswagen

volkswagen

:see_no_evil: Volkswagen detecta cuando tus pruebas se ejecutan en un servidor de CI, y hace que pasen.

Funcionafuente: GitHubJavaScriptMITcommit ae379b4459ee

JavaScript, licencia MIT. El proyecto se describe a sí mismo como: cheat, ci server, continuous integration, defeat, javascipt, nodejs y volkswagen.

volkswagen funciona. Un agent de Argusic lo instaló en 0,1 minutos y encontró 5 errores, todos corregidos sin ayuda en una máquina limpia sin GPU, y toda la sesión quedó grabada.

npm install completes successfully, npm test executes six fixtures and exits 0 with 36 TAP ok assertions, and the packed package installs and suppresses failing assert and Chai checks in CI mode while leaving those failures active outside CI.

Lo que el agent consiguió en una máquina limpia, en sus propias palabras. Cómo se mide

Medido por Argusic en una máquina limpia cada vez. Cada cifra enlaza a su evidencia. Puntuación Argusic de 100 sobre 100 (la media de las puntuaciones de las ejecuciones de este proyecto).

De un vistazo

veredicto
Funciona
Puntuación Argusic
100 / 100
costo de la ejecución de verificación
0,03 USD (medido)
ejecuciones registradas
2
última prueba
estrellas
15.465
forks
240
issues abiertos
23
observadores
95
tamaño
0 MB
creado
último push

Datos del proyecto de GitHub, enlazados al principio de esta página, actualizado . Datos de prueba de Argusic (CC BY 4.0); cada cifra enlaza a una página de ejecución con el log completo, la grabación y sus hashes sha256.

Qué se midió

De la ejecución que decidió este veredicto. Cada línea es un valor registrado, no una estimación.

Tiempo perdido en cada fallo al probar volkswagen, a partir de la ejecución registrada
Cada barra es un fallo que el agent registró, con el tiempo que le costó. Sale de esta ejecución y de ningún otro sitio.

Qué salió mal, en palabras del propio agent

Las palabras del propio agent, de lo más grave a lo menos, nunca reescritas como consejos.

  • npm test exited 0 but executed no tests because find excluded every .js fixture and xargs ran bare node.1 minuto
  • test/chai.js failed under CI mode because the Chai shim only neutralized four assert methods, leaving assert.include() active.1 minuto
  • test/chai.js used nonexistent Chai API names propertyNotVal, propertyNotVal, deepProperty, notDeepProperty, and deepPropertyNotVal.1 minuto
  • The timing wrapper failed because /usr/bin/time is not installed (exit 127).
  • The first consumer smoke test could not resolve chai because it is a dev dependency and was not installed at the consumer root.
Tiempo de instalación
menos de un minuto
De máquina en frío a terminar
2 minutos
Errores encontrados y corregidos
5 encontrados, 5 corregidos sin ayuda humana
Cómo se demostró el resultado
npm test exited 0 (6 fixtures, 36 TAP ok assertions); npm ci in a clean copy exited 0 and npm test there also exited 0 with 36 TAP ok assertions; npm pack and consumer install of the tarball plus chai@4 tap@11 tape@4 exited 0; CI=true node -e 'require("volkswagen"); require("assert").strictEqual(1,2)' printed CI_ASSERT_AND_CHAI_SUPPRESSED and exited 0, while the same check without CI exited 1.
Tokens de modelo usados
61.977
Commit exacto probado
ae379b4459ee
Imagen del contenedor
sha256:cdd920bce783

Qué no se midió

La otra mitad, para que veas exactamente hasta dónde llega esta evidencia. Un hueco se muestra como hueco y nunca se rellena.

Memoria de GPU máxima
se ejecutó en una máquina con CPU, así que no había GPU que muestrear
Comportamiento en una ejecución larga
cada intento usa la configuración documentada más pequeña y un presupuesto de tiempo fijo, así que esto mide si funciona, no cómo aguanta bajo carga

Ver la sesión

La ejecución completa, desde una máquina limpia, a la velocidad a la que ocurrió. No se ha cortado ni acelerado nada.

Una grabación del intento 2, ejecutado el , el intento que decidió el veredicto anterior. La grabación de terminal a partir de la que se hizo es la evidencia, guardada con una huella sha256; el video es un render de ella. No se carga nada del servicio de video hasta que pulses reproducir.

El final de la grabación

Las últimas líneas de la sesión de terminal que decidió este veredicto, tal como se registraron.

Run `npm audit` for details.
NPM_TEST_EXIT=0
1..28
1..8
# tests 8
# pass  8
# ok
TAP_OK_COUNT=36
Fixed the vacuous test command and Chai 4 compatibility issues. Verification passed with `npm test`…
tokens used
61,977
Fixed the vacuous test command and Chai 4 compatibility issues. Verification passed with `npm test`…

Reproducir la sesión completa, cada comando desde una máquina limpia hasta este punto.

Cómo se probó

Un agent, un contenedor, sin ayuda humana. Instala el proyecto como indica su propia documentación, lo ejecuta y arregla lo que falla. Todo lo de abajo se registró tal como ocurrió: la sesión de terminal, el log y el commit exacto. La metodología completa.

Puntos fuertes y límites

Hechos medidos, no opiniones. Cómo se redacta.

Qué salió bien

  • Llegó a funcionar en una máquina limpia, con la sesión grabada.
  • Se instaló en 0,1 minutos.
  • Se recuperó de los 5 errores sin que interviniera una persona, lo que indica que los fallos están lo bastante documentados como para resolverlos.
  • Funcionó sin GPU, así que no necesita una para arrancar.
  • Licencia MIT, según su plataforma de origen.
  • Medido 2 veces, así que el resultado no es algo puntual.

Para qué es una opción razonable

  • Probarlo en un portátil o en un servidor pequeño: llegó a funcionar sin GPU.
  • Una evaluación rápida: estaba funcionando 0,1 minutos después del clon.

Historial de ejecuciones

probado porintentoresultadopuntuacióncosto USDcuándo
Argusic Runner2/3Funciona100,000,03
Argusic Runner1/3Funciona100,000,06

Temas (de GitHub)

cheatci-servercontinuous-integrationdefeatjavasciptnodejsvolkswagen

Insertar el badge

Markdown para el README del proyecto. Enlaza de vuelta aquí; condiciones en la página de términos.

[![Tested by Argusic](https://argusic.com/badge/volkswagen.svg)](https://argusic.com/subject/volkswagen)

Preguntas

¿Funciona volkswagen?
Sí. volkswagen funciona. Argusic lo instaló y lo inició en una máquina limpia en 0 minutos, con 5 errores por el camino, y grabó la sesión.
¿Cómo probó Argusic volkswagen?
En una máquina limpia y desechable, con cada comando grabado y el repositorio fijado en el commit ae379b4459ee. Hay 2 intentos registrados, y la metodología completa está en la página de metodología.
¿Cuánto costó probar volkswagen?
La ejecución que produjo este veredicto costó 0,03 USD: costo real de cómputo y de modelo, no un precio de lista por millón de tokens. Consta en la página de esa ejecución.
¿Cuánto tarda volkswagen en instalarse?
0,1 minutos en la ejecución que decidió este veredicto, desde una máquina limpia hasta que funcionó. Es un intento medido, no una media.
¿Necesita volkswagen una GPU?
No para arrancar. Argusic consiguió que funcionara en una máquina sin GPU.
¿Qué falla al instalar volkswagen?
En la ejecución registrada fallaron 5 cosas, y 5 se corrigieron sin ayuda humana. Cada una, con el tiempo que costó, aparece en esta página.
¿Dónde está la evidencia de volkswagen?
Las 2 ejecuciones registradas están en esta página, cada una enlazada a su log completo y a su grabación de terminal, guardados con una huella sha256 para que no se puedan alterar en silencio.

Discussion