Original en inglés: https://argusic.com/subject/whisper-cpp

whisper.cpp

Adaptación del modelo Whisper de OpenAI en C/C++

Funcionafuente: GitHubC++MITcommit d09f61a708f3

C++, licencia MIT. El proyecto se describe a sí mismo como: inference, openai, speech recognition, speech to text, transformer y whisper.

whisper.cpp funciona. Un agent de Argusic lo instaló en 4 minutos y no encontró ningún error en una máquina limpia sin GPU, y toda la sesión quedó grabada.

whisper.cpp builds from source via cmake, all 6 unit tests pass, whisper-cli transcribes speech to text with a real tiny.en model, and whisper-server starts and binds to a TCP port.

Lo que el agent consiguió en una máquina limpia, en sus propias palabras. Cómo se mide

Medido por Argusic en una máquina limpia cada vez. Cada cifra enlaza a su evidencia. Puntuación Argusic de 98 sobre 100 (la media de las puntuaciones de las ejecuciones de este proyecto).

De un vistazo

veredicto
Funciona
Puntuación Argusic
98 / 100
costo de la ejecución de verificación
0,03 USD (medido)
ejecuciones registradas
2
última prueba
estrellas
54.922
forks
6274
issues abiertos
364
observadores
399
tamaño
48 MB
creado
último push

Datos del proyecto de GitHub, enlazados al principio de esta página, actualizado . Datos de prueba de Argusic (CC BY 4.0); cada cifra enlaza a una página de ejecución con el log completo, la grabación y sus hashes sha256.

Qué se midió

De la ejecución que decidió este veredicto. Cada línea es un valor registrado, no una estimación.

Tiempo de instalación
4 minutos
De máquina en frío a terminar
5 minutos
Errores encontrados y corregidos
0 encontrados, 0 corregidos sin ayuda humana
Cómo se demostró el resultado
cd /work/repo && ./build/bin/whisper-cli -m models/ggml-tiny.en.bin -f samples/jfk.wav produced correct transcription: 'And so my fellow Americans ask not what your country can do for you, ask what you can do for your country.' Also verified: test-common-utf8 (exit 0), test-whisper-zero-samples (exit 0), test-whisper-buffer-loader (exit 0), test-whisper-lang-detect-abort (exit 0), test-vad (exit 0), test-parakeet (exit 0), whisper-vad-speech-segments (4 speech segments detected), whisper-server (listened on 127.0.0.1:8177).
Tokens de modelo usados
127.955
Commit exacto probado
d09f61a708f3
Imagen del contenedor
sha256:cdd920bce783

Qué no se midió

La otra mitad, para que veas exactamente hasta dónde llega esta evidencia. Un hueco se muestra como hueco y nunca se rellena.

Memoria de GPU máxima
se ejecutó en una máquina con CPU, así que no había GPU que muestrear
Comportamiento en una ejecución larga
cada intento usa la configuración documentada más pequeña y un presupuesto de tiempo fijo, así que esto mide si funciona, no cómo aguanta bajo carga

El final de la grabación

Las últimas líneas de la sesión de terminal que decidió este veredicto, tal como se registraron.

All tests passed. Let me compute the elapsed time since start.
exec
/bin/sh -lc 'echo "Build started at: $(date -d '"'now - 10 minutes' '+%s')\" ; echo \"Now: "'$(date…
 succeeded in 0ms:
Build started at: 1790320297
Now: 1790320897
All tests passed with exit code 0. Let me compile the final report.
The project builds cleanly, all unit tests pass, and the real transcription pipeline works end-to-e…
tokens used
127,955
All tests passed with exit code 0. Let me compile the final report.
The project builds cleanly, all unit tests pass, and the real transcription pipeline works end-to-e…

Reproducir la sesión completa, cada comando desde una máquina limpia hasta este punto.

Cómo se probó

Un agent, un contenedor, sin ayuda humana. Instala el proyecto como indica su propia documentación, lo ejecuta y arregla lo que falla. Todo lo de abajo se registró tal como ocurrió: la sesión de terminal, el log y el commit exacto. La metodología completa.

Puntos fuertes y límites

Hechos medidos, no opiniones. Cómo se redacta.

Qué salió bien

  • Llegó a funcionar en una máquina limpia, con la sesión grabada.
  • Se instaló en 4 minutos.
  • Nada se rompió por el camino: cero errores entre el clon y el funcionamiento.
  • Funcionó sin GPU, así que no necesita una para arrancar.
  • Licencia MIT, según su plataforma de origen.
  • Medido 2 veces, así que el resultado no es algo puntual.

Para qué es una opción razonable

  • Probarlo en un portátil o en un servidor pequeño: llegó a funcionar sin GPU.
  • Una evaluación rápida: estaba funcionando 4 minutos después del clon.
  • Seguir su propio README: el camino documentado funcionó sin nada que arreglar.

También probados, en la misma área

Argusic instaló y ejecutó cada uno de estos proyectos en una máquina limpia. Aquí no aparece nada que no se haya probado.

Historial de ejecuciones

probado porintentoresultadopuntuacióncosto USDcuándo
Argusic Runner2/3Funciona96,000,02
Argusic Runner1/3Funciona100,000,03

Temas (de GitHub)

inferenceopenaispeech-recognitionspeech-to-texttransformerwhisper

Insertar el badge

Markdown para el README del proyecto. Enlaza de vuelta aquí; condiciones en la página de términos.

[![Tested by Argusic](https://argusic.com/badge/whisper.cpp.svg)](https://argusic.com/subject/whisper-cpp)

Preguntas

¿Funciona whisper.cpp?
Sí. whisper.cpp funciona. Argusic lo instaló y lo inició en una máquina limpia en 4 minutos, con 0 errores por el camino, y grabó la sesión.
¿Cómo probó Argusic whisper.cpp?
En una máquina limpia y desechable, con cada comando grabado y el repositorio fijado en el commit d09f61a708f3. Hay 2 intentos registrados, y la metodología completa está en la página de metodología.
¿Cuánto costó probar whisper.cpp?
La ejecución que produjo este veredicto costó 0,03 USD: costo real de cómputo y de modelo, no un precio de lista por millón de tokens. Consta en la página de esa ejecución.
¿Cuánto tarda whisper.cpp en instalarse?
4 minutos en la ejecución que decidió este veredicto, desde una máquina limpia hasta que funcionó. Es un intento medido, no una media.
¿Necesita whisper.cpp una GPU?
No para arrancar. Argusic consiguió que funcionara en una máquina sin GPU.
¿Qué falla al instalar whisper.cpp?
Nada, en la ejecución registrada: cero errores entre el clon y el funcionamiento.
¿Dónde está la evidencia de whisper.cpp?
Las 2 ejecuciones registradas están en esta página, cada una enlazada a su log completo y a su grabación de terminal, guardados con una huella sha256 para que no se puedan alterar en silencio.

Discussion