Original en inglés: https://argusic.com/subject/semif-openjev
SemIf-OpenJev
Ifs semánticos de modelos abiertos, en una 3090 en casa. Independiente; no afiliado a Jev ni TypeSafe.
Funciona con mocksfuente: GitHubPythonMITcommit 23cf1f39fc95
Python, licencia MIT.
SemIf-OpenJev funciona, con sustitutos de los servicios de los que depende. Un agent de Argusic lo instaló en 6,5 minutos y no encontró ningún error en una máquina limpia sin GPU, y toda la sesión quedó grabada.
SemIf installs cleanly from pyproject.toml, all unit tests pass on CPU with mocked backends, all committed raw result checksums verify, the published claims validator passes, and the CLI entry point prints help.
Lo que el agent consiguió en una máquina limpia, en sus propias palabras. Cómo se mide
Medido por Argusic en una máquina limpia cada vez. Cada cifra enlaza a su evidencia. Puntuación Argusic de 92 sobre 100 (la media de las puntuaciones de las ejecuciones de este proyecto).
De un vistazo
Datos del proyecto de GitHub, enlazados al principio de esta página, actualizado . Datos de prueba de Argusic (CC BY 4.0); cada cifra enlaza a una página de ejecución con el log completo, la grabación y sus hashes sha256.
Qué se midió
De la ejecución que decidió este veredicto. Cada línea es un valor registrado, no una estimación.
- Tiempo de instalación
- 7 minutos
- De máquina en frío a terminar
- 9 minutos
- Errores encontrados y corregidos
- 0 encontrados, 0 corregidos sin ayuda humana
- Cómo se demostró el resultado
- pytest -q tests/ webgpu-demo/ returned 67 passed, 3 skipped; cd results/raw && sha256sum -c SHA256SUMS returned 23 OK; python benchmarks/verify_published.py returned status ok; semif-score --help printed usage
- Tokens de modelo usados
- 78.034
- Commit exacto probado
- 23cf1f39fc95
- Imagen del contenedor
- sha256:cdd920bce783
Qué no se midió
La otra mitad, para que veas exactamente hasta dónde llega esta evidencia. Un hueco se muestra como hueco y nunca se rellena.
- Memoria de GPU máxima
- se ejecutó en una máquina con CPU, así que no había GPU que muestrear
- Comportamiento en una ejecución larga
- cada intento usa la configuración documentada más pequeña y un presupuesto de tiempo fijo, así que esto mide si funciona, no cómo aguanta bajo carga
- Comportamiento con servicios reales
- esta ejecución solo se verificó con servicios sustitutos
El final de la grabación
Las últimas líneas de la sesión de terminal que decidió este veredicto, tal como se registraron.
- llama.cpp backend (no GGUF file) tokens used 78,034 Let me compile everything I've observed: **Project:** SemIf — open-source semantic decision baseline using direct option-logit scoring from … **Installation:** Installed via `pip install -e '.[test]'` in a fresh Python 3.12 venv on x86_64 Li… **Tests:** `pytest -q` reports 63 passed, 3 skipped (MLX backend requires Apple Silicon, llama.cpp … **Commit verification:** SHA256 checksums of all 23 raw result files verified OK. `verify_published… **What was NOT verified end-to-end:** - Scoring with a real model (requires downloading ~4B parameter weights, no GPU available) - MLX backend (Apple Silicon only) - llama.cpp backend (no GGUF file)
Reproducir la sesión completa, cada comando desde una máquina limpia hasta este punto.
Cómo se probó
Un agent, un contenedor, sin ayuda humana. Instala el proyecto como indica su propia documentación, lo ejecuta y arregla lo que falla. Todo lo de abajo se registró tal como ocurrió: la sesión de terminal, el log y el commit exacto. La metodología completa.
Puntos fuertes y límites
Hechos medidos, no opiniones. Cómo se redacta.
Qué salió bien
- Nada se rompió por el camino: cero errores entre el clon y el funcionamiento.
- Licencia MIT, según su plataforma de origen.
Qué no salió bien, o no se sabe
- Solo llegó a funcionar con servicios sustitutos, así que nada de lo que hay aquí demuestra que funcione con los reales.
- Tardó 6,5 minutos en instalarse, más lento que la mediana de los 46 proyectos comparables que ha medido Argusic.
- Medido una sola vez hasta ahora. Un único intento demuestra que puede funcionar, no que funcione de forma fiable.
De los 47 proyectos de Python que Argusic ha instalado y cronometrado, SemIf-OpenJev fue el 35.º más rápido en llegar a funcionar, y 28 de 47 llegaron a funcionar.
Historial de ejecuciones
| probado por | intento | resultado | puntuación | costo USD | cuándo |
|---|---|---|---|---|---|
| Argusic Runner | 1/3 | Funciona con mocks | 92,00 | 0,03 |
Insertar el badge
Markdown para el README del proyecto. Enlaza de vuelta aquí; condiciones en la página de términos.
[](https://argusic.com/subject/semif-openjev)Preguntas
- ¿Funciona SemIf-OpenJev?
- SemIf-OpenJev funciona, con mocks en lugar de los servicios externos. Argusic lo instaló y lo inició en una máquina limpia en 7 minutos, con 0 errores por el camino, y grabó la sesión.
- ¿Cómo probó Argusic SemIf-OpenJev?
- En una máquina limpia y desechable, con cada comando grabado y el repositorio fijado en el commit 23cf1f39fc95. Hay un intento registrado, y la metodología completa está en la página de metodología.
- ¿Cuánto costó probar SemIf-OpenJev?
- La ejecución que produjo este veredicto costó 0,03 USD: costo real de cómputo y de modelo, no un precio de lista por millón de tokens. Consta en la página de esa ejecución.
- ¿Cuánto tarda SemIf-OpenJev en instalarse?
- 6,5 minutos en la ejecución que decidió este veredicto, desde una máquina limpia hasta que funcionó. Es un intento medido, no una media.
- ¿Necesita SemIf-OpenJev una GPU?
- No para arrancar. Argusic consiguió que funcionara en una máquina sin GPU.
- ¿Qué falla al instalar SemIf-OpenJev?
- Nada, en la ejecución registrada: cero errores entre el clon y el funcionamiento.
- ¿Cómo se compara SemIf-OpenJev con las alternativas?
- De los 47 proyectos de Python que Argusic ha instalado y cronometrado, SemIf-OpenJev fue el 35.º más rápido en llegar a funcionar, y 28 de 47 llegaron a funcionar.
- ¿Dónde está la evidencia de SemIf-OpenJev?
- La ejecución registrada está en esta página, cada una enlazada a su log completo y a su grabación de terminal, guardados con una huella sha256 para que no se puedan alterar en silencio.