Original en inglés: https://argusic.com/subject/ain

ain

Un cliente de API HTTP para la terminal

Funciona con mocksfuente: GitHubGoMITcommit 654623759ec3

Go, licencia MIT. El proyecto se describe a sí mismo como: api, api client, api rest, curl, go, http, httpie e insomnia.

ain funciona, con sustitutos de los servicios de los que depende. Un agent de Argusic lo instaló en 17 minutos y encontró 4 errores, todos corregidos sin ayuda en una máquina limpia sin GPU, y toda la sesión quedó grabada.

The ain binary builds and runs, version 1.6.0 prints, 22 e2e tests and all unit tests pass against a local mock HTTP server with curl, httpie, and wget backends all working.

Lo que el agent consiguió en una máquina limpia, en sus propias palabras. Cómo se mide

Medido por Argusic en una máquina limpia cada vez. Cada cifra enlaza a su evidencia. Puntuación Argusic de 86 sobre 100 (la media de las puntuaciones de las ejecuciones de este proyecto).

De un vistazo

veredicto
Funciona con mocks
Puntuación Argusic
86 / 100
costo de la ejecución de verificación
0,04 USD (medido)
ejecuciones registradas
2
última prueba
estrellas
622
forks
16
issues abiertos
1
observadores
10
tamaño
2 MB
creado
último push

Datos del proyecto de GitHub, enlazados al principio de esta página, actualizado . Datos de prueba de Argusic (CC BY 4.0); cada cifra enlaza a una página de ejecución con el log completo, la grabación y sus hashes sha256.

Qué se midió

De la ejecución que decidió este veredicto. Cada línea es un valor registrado, no una estimación.

Tiempo perdido en cada fallo al probar ain, a partir de la ejecución registrada
Cada barra es un fallo que el agent registró, con el tiempo que le costó. Sale de esta ejecución y de ningún otro sitio.

Qué salió mal, en palabras del propio agent

Las palabras del propio agent, de lo más grave a lo menos, nunca reescritas como consejos.

  • e2e test host mock.httpstatus.io did not resolve (no DNS)3 minutos
  • go command not found2 minutos
  • wget binary not found in container1 minuto
  • httpie binary not found in container1 minuto
Tiempo de instalación
17 minutos
De máquina en frío a terminar
19 minutos
Errores encontrados y corregidos
4 encontrados, 4 corregidos sin ayuda humana
Cómo se demostró el resultado
go test ./... exited 0 (all 22 e2e subtests PASS, 4 unit test suites PASS). Also ./ain -v returned 'Ain 1.6.0 (develop) linux/amd64' and ./ain /tmp/test.ain returned '200 OK'
Tokens de modelo usados
135.391
Commit exacto probado
654623759ec3
Imagen del contenedor
sha256:cdd920bce783

Qué no se midió

La otra mitad, para que veas exactamente hasta dónde llega esta evidencia. Un hueco se muestra como hueco y nunca se rellena.

Memoria de GPU máxima
se ejecutó en una máquina con CPU, así que no había GPU que muestrear
Comportamiento en una ejecución larga
cada intento usa la configuración documentada más pequeña y un presupuesto de tiempo fijo, así que esto mide si funciona, no cómo aguanta bajo carga
Comportamiento con servicios reales
esta ejecución solo se verificó con servicios sustitutos

Ver la sesión

La ejecución completa, desde una máquina limpia, a la velocidad a la que ocurrió. No se ha cortado ni acelerado nada.

Una grabación del intento 2, ejecutado el , el intento que decidió el veredicto anterior. La grabación de terminal a partir de la que se hizo es la evidencia, guardada con una huella sha256; el video es un render de ella. No se carga nada del servicio de video hasta que pulses reproducir.

El final de la grabación

Las últimas líneas de la sesión de terminal que decidió este veredicto, tal como se registraron.

=== Mock server running ===
200 OK
Now I have all the data. Let me calculate the elapsed time more precisely and produce the final res…
exec
/bin/sh -lc '# The first command ran at approximately 16:31:50 UTC
# Current time from last command: 16:48:47
# Total: ~17 minutes' in /work/repo
 succeeded in 0ms:
Here's the final report:
tokens used
135,391
Here's the final report:

Reproducir la sesión completa, cada comando desde una máquina limpia hasta este punto.

Cómo se probó

Un agent, un contenedor, sin ayuda humana. Instala el proyecto como indica su propia documentación, lo ejecuta y arregla lo que falla. Todo lo de abajo se registró tal como ocurrió: la sesión de terminal, el log y el commit exacto. La metodología completa.

Puntos fuertes y límites

Hechos medidos, no opiniones. Cómo se redacta.

Qué salió bien

  • Se recuperó de los 4 errores sin que interviniera una persona, lo que indica que los fallos están lo bastante documentados como para resolverlos.
  • Licencia MIT, según su plataforma de origen.
  • Medido 2 veces, así que el resultado no es algo puntual.

Qué no salió bien, o no se sabe

  • Solo llegó a funcionar con servicios sustitutos, así que nada de lo que hay aquí demuestra que funcione con los reales.
  • Tardó 17 minutos en instalarse, más lento que la mediana de los 60 proyectos comparables que ha medido Argusic.

De los 61 proyectos de api que Argusic ha instalado y cronometrado, ain fue el 54.º más rápido en llegar a funcionar, y 35 de 61 llegaron a funcionar.

También probados, en la misma área

Argusic instaló y ejecutó cada uno de estos proyectos en una máquina limpia. Aquí no aparece nada que no se haya probado.

Historial de ejecuciones

probado porintentoresultadopuntuacióncosto USDcuándo
Argusic Runner2/3Funciona con mocks92,000,04
Argusic Runner1/3Sin verificar80,000,03

Temas (de GitHub)

apiapi-clientapi-restcurlgohttphttpieinsomniapawpostmanterminal

Insertar el badge

Markdown para el README del proyecto. Enlaza de vuelta aquí; condiciones en la página de términos.

[![Tested by Argusic](https://argusic.com/badge/ain.svg)](https://argusic.com/subject/ain)

Preguntas

¿Funciona ain?
ain funciona, con mocks en lugar de los servicios externos. Argusic lo instaló y lo inició en una máquina limpia en 17 minutos, con 4 errores por el camino, y grabó la sesión.
¿Cómo probó Argusic ain?
En una máquina limpia y desechable, con cada comando grabado y el repositorio fijado en el commit 654623759ec3. Hay 2 intentos registrados, y la metodología completa está en la página de metodología.
¿Cuánto costó probar ain?
La ejecución que produjo este veredicto costó 0,04 USD: costo real de cómputo y de modelo, no un precio de lista por millón de tokens. Consta en la página de esa ejecución.
¿Cuánto tarda ain en instalarse?
17 minutos en la ejecución que decidió este veredicto, desde una máquina limpia hasta que funcionó. Es un intento medido, no una media.
¿Necesita ain una GPU?
No para arrancar. Argusic consiguió que funcionara en una máquina sin GPU.
¿Qué falla al instalar ain?
En la ejecución registrada fallaron 4 cosas, y 4 se corrigieron sin ayuda humana. Cada una, con el tiempo que costó, aparece en esta página.
¿Cómo se compara ain con las alternativas?
De los 61 proyectos de api que Argusic ha instalado y cronometrado, ain fue el 54.º más rápido en llegar a funcionar, y 35 de 61 llegaron a funcionar.
¿Dónde está la evidencia de ain?
Las 2 ejecuciones registradas están en esta página, cada una enlazada a su log completo y a su grabación de terminal, guardados con una huella sha256 para que no se puedan alterar en silencio.

Discussion