Original en inglés: https://argusic.com/subject/formal-verification-rsi
Formal-Verification-RSI
Verificación formal para IA: un comprobador de demostraciones con Lean 4 y Dafny que detecta demostraciones falsas de IA (reward hacking), y mejora recursiva verificada (RSI) para coding agents. IA para matemáticas, física e ingeniería de software.
Funciona con mocksfuente: GitHubsitio webPythonMITcommit 177a62d5847d
Python, licencia MIT. El proyecto se describe a sí mismo como: ai agents, ai for math, ai for science, ai safety, autoformalization, automated theorem proving, coding agents y dafny.
Formal-Verification-RSI funciona, con sustitutos de los servicios de los que depende. Un agent de Argusic lo instaló en 0,5 minutos y encontró 1 error, corregido sin ayuda en una máquina limpia sin GPU, y toda la sesión quedó grabada.
160 hermetic Python tests pass (170 skipped for missing Lean/Dafny toolchains); pip install completes; all modules import; 4 previously-failing snapshot-integrity tests fixed and passing.
Lo que el agent consiguió en una máquina limpia, en sus propias palabras. Cómo se mide
Medido por Argusic en una máquina limpia cada vez. Cada cifra enlaza a su evidencia. Puntuación Argusic de 92 sobre 100 (la media de las puntuaciones de las ejecuciones de este proyecto).
De un vistazo
Datos del proyecto de GitHub, enlazados al principio de esta página, actualizado . Datos de prueba de Argusic (CC BY 4.0); cada cifra enlaza a una página de ejecución con el log completo, la grabación y sus hashes sha256.
Qué se midió
De la ejecución que decidió este veredicto. Cada línea es un valor registrado, no una estimación.
Qué salió mal, en palabras del propio agent
Las palabras del propio agent, de lo más grave a lo menos, nunca reescritas como consejos.
- Test Agent snapshot manifests had temp paths instead of /app, causing all 4 snapshot-integrity tests to fail with 0 graded files15 minutos
- Tiempo de instalación
- menos de un minuto
- De máquina en frío a terminar
- 81 minutos
- Errores encontrados y corregidos
- 1 encontrados, 1 corregidos sin ayuda humana
- Cómo se demostró el resultado
- pytest tests/ --ignore=tests/test_fv_curate.py --ignore=tests/test_fv_analyze.py exited 0, 160 passed, 170 skipped
- Tokens de modelo usados
- 678.568
- Commit exacto probado
- 177a62d5847d
- Imagen del contenedor
- sha256:cdd920bce783
Qué no se midió
La otra mitad, para que veas exactamente hasta dónde llega esta evidencia. Un hueco se muestra como hueco y nunca se rellena.
- Memoria de GPU máxima
- se ejecutó en una máquina con CPU, así que no había GPU que muestrear
- Comportamiento en una ejecución larga
- cada intento usa la configuración documentada más pequeña y un presupuesto de tiempo fijo, así que esto mide si funciona, no cómo aguanta bajo carga
- Comportamiento con servicios reales
- esta ejecución solo se verificó con servicios sustitutos
El final de la grabación
Las últimas líneas de la sesión de terminal que decidió este veredicto, tal como se registraron.
3. **B1.tar.gz corruption didn't break tar-sha comparison**: Appending a null byte to a gzip-compre… **4 failing tests → all passing**: `test_ab_only_agent_has_no_c_and_gate_check_error_does_not_resum… tokens used 678,568 Here's my final report on the mission. **Install**: The project installed cleanly via `pip install -e ".[dev]"` in a venv. Python 3.12.3 i… **Tests**: 160 pass, 170 skip. The 170 skips are all due to missing Lean (4.23.0-rc2) and Dafny (4.… **Bugs found and fixed in the test suite** (`tests/test_fv_regrade.py`): 1. **Test Agent's snapshot paths didn't match `read_snapshot` expectations**: The test `Agent` clas… 2. **`_regrade` helper used wrong `app_dir`**: It passed `app_dir=str(tmp / "box" / "app")` instead… 3. **B1.tar.gz corruption didn't break tar-sha comparison**: Appending a null byte to a gzip-compre… **4 failing tests → all passing**: `test_ab_only_agent_has_no_c_and_gate_check_error_does_not_resum…
Reproducir la sesión completa, cada comando desde una máquina limpia hasta este punto.
Cómo se probó
Un agent, un contenedor, sin ayuda humana. Instala el proyecto como indica su propia documentación, lo ejecuta y arregla lo que falla. Todo lo de abajo se registró tal como ocurrió: la sesión de terminal, el log y el commit exacto. La metodología completa.
Puntos fuertes y límites
Hechos medidos, no opiniones. Cómo se redacta.
Qué salió bien
- Se instaló en 0,5 minutos, más rápido que la mediana de los 110 proyectos comparables que ha medido Argusic.
- Se recuperó de su único error sin que interviniera una persona, lo que indica que el fallo está lo bastante documentado como para resolverlo.
- Licencia MIT, según su plataforma de origen.
Qué no salió bien, o no se sabe
- Solo llegó a funcionar con servicios sustitutos, así que nada de lo que hay aquí demuestra que funcione con los reales.
- Medido una sola vez hasta ahora. Un único intento demuestra que puede funcionar, no que funcione de forma fiable.
De los 111 proyectos de ai-agents que Argusic ha instalado y cronometrado, Formal-Verification-RSI fue el 10.º más rápido en llegar a funcionar, y 83 de 111 llegaron a funcionar.
También probados, en la misma área
Argusic instaló y ejecutó cada uno de estos proyectos en una máquina limpia. Aquí no aparece nada que no se haya probado.
Historial de ejecuciones
| probado por | intento | resultado | puntuación | costo USD | cuándo |
|---|---|---|---|---|---|
| Argusic Runner | 1/3 | Funciona con mocks | 92,00 | 0,29 |
Temas (de GitHub)
ai-agentsai-for-mathai-for-scienceai-safetyautoformalizationautomated-theorem-provingcoding-agentsdafnyformal-methodsformal-verificationlean4llmprogram-verificationproof-assistantrecursive-self-improvementreward-hackingrsiself-improving-aitheorem-provingverified-code
Insertar el badge
Markdown para el README del proyecto. Enlaza de vuelta aquí; condiciones en la página de términos.
[](https://argusic.com/subject/formal-verification-rsi)Preguntas
- ¿Funciona Formal-Verification-RSI?
- Formal-Verification-RSI funciona, con mocks en lugar de los servicios externos. Argusic lo instaló y lo inició en una máquina limpia en 1 minutos, con 1 error por el camino, y grabó la sesión.
- ¿Cómo probó Argusic Formal-Verification-RSI?
- En una máquina limpia y desechable, con cada comando grabado y el repositorio fijado en el commit 177a62d5847d. Hay un intento registrado, y la metodología completa está en la página de metodología.
- ¿Cuánto costó probar Formal-Verification-RSI?
- La ejecución que produjo este veredicto costó 0,29 USD: costo real de cómputo y de modelo, no un precio de lista por millón de tokens. Consta en la página de esa ejecución.
- ¿Cuánto tarda Formal-Verification-RSI en instalarse?
- 0,5 minutos en la ejecución que decidió este veredicto, desde una máquina limpia hasta que funcionó. Es un intento medido, no una media.
- ¿Necesita Formal-Verification-RSI una GPU?
- No para arrancar. Argusic consiguió que funcionara en una máquina sin GPU.
- ¿Qué falla al instalar Formal-Verification-RSI?
- En la ejecución registrada falló 1 cosa, y 1 se corrigió sin ayuda humana. Cada una, con el tiempo que costó, aparece en esta página.
- ¿Cómo se compara Formal-Verification-RSI con las alternativas?
- De los 111 proyectos de ai-agents que Argusic ha instalado y cronometrado, Formal-Verification-RSI fue el 10.º más rápido en llegar a funcionar, y 83 de 111 llegaron a funcionar.
- ¿Dónde está la evidencia de Formal-Verification-RSI?
- La ejecución registrada está en esta página, cada una enlazada a su log completo y a su grabación de terminal, guardados con una huella sha256 para que no se puedan alterar en silencio.