Original en inglés: https://argusic.com/subject/picollm
picollm
Inferencia de LLM en el dispositivo impulsada por X-Bit Quantization
No se pudo verificarfuente: GitHubsitio webPythonApache-2.0commit b769979404cf
Python, licencia Apache-2.0. El proyecto se describe a sí mismo como: compression, efficient inference, gemma, generative ai, language model, language models, large language model y llama.
Argusic no consiguió que picollm funcionara. Un agent de Argusic lo instaló en 8 minutos y encontró 1 error, corregido sin ayuda en una máquina limpia sin GPU, y toda la sesión quedó grabada.
C demos build and run from command-line, Python binding installs and loads the native library, dialog formatting works for all 11 model types, but full model inference requires a Picovoice AccessKey and proprietary .pllm model files not present in this container.
Lo que el agent consiguió en una máquina limpia, en sus propias palabras. Cómo se mide
Medido por Argusic en una máquina limpia cada vez. Cada cifra enlaza a su evidencia. Puntuación Argusic de 55 sobre 100 (la media de las puntuaciones de las ejecuciones de este proyecto).
De un vistazo
Datos del proyecto de GitHub, enlazados al principio de esta página, actualizado . Datos de prueba de Argusic (CC BY 4.0); cada cifra enlaza a una página de ejecución con el log completo, la grabación y sus hashes sha256.
Qué se midió
De la ejecución que decidió este veredicto. Cada línea es un valor registrado, no una estimación.
Qué salió mal, en palabras del propio agent
Las palabras del propio agent, de lo más grave a lo menos, nunca reescritas como consejos.
- C demo build failed initially: missing stb_image.h submodule1 minuto
- Tiempo de instalación
- 8 minutos
- De máquina en frío a terminar
- 14 minutos
- Errores encontrados y corregidos
- 1 encontrados, 1 corregidos sin ayuda humana
- Cómo se demostró el resultado
- C demo binaries compile and show usage text; python binding pip install exits 0; available_devices() returns CPU; 20/20 mock unit tests pass; native library loads with all 18 expected symbols
- Tokens de modelo usados
- 469.744
- Commit exacto probado
- b769979404cf
- Imagen del contenedor
- sha256:cdd920bce783
Qué no se midió
La otra mitad, para que veas exactamente hasta dónde llega esta evidencia. Un hueco se muestra como hueco y nunca se rellena.
- Memoria de GPU máxima
- se ejecutó en una máquina con CPU, así que no había GPU que muestrear
- Comportamiento en una ejecución larga
- cada intento usa la configuración documentada más pequeña y un presupuesto de tiempo fijo, así que esto mide si funciona, no cómo aguanta bajo carga
- Si funciona en absoluto
- esta ejecución no verificó nada, así que esta página no afirma nada en ningún sentido
El final de la grabación
Las últimas líneas de la sesión de terminal que decidió este veredicto, tal como se registraron.
-rwxrwxr-x 1 runner runner 17040 Oct 25 01:44 /work/repo/demo/c/build/picollm_demo_similarity Python binding installed: Name: picollm Version: 2.1.4 Location: /work/repo/.venv/lib/python3.12/site-packages Native library: /work/repo/binding/python/picollm/lib/linux/x86_64/libpv_picollm.so Available devices: ['cpu:[0-192] - CPU (192 threads)'] Mock tests passed: 20/20 tokens used 469,744
Reproducir la sesión completa, cada comando desde una máquina limpia hasta este punto.
Cómo se probó
Un agent, un contenedor, sin ayuda humana. Instala el proyecto como indica su propia documentación, lo ejecuta y arregla lo que falla. Todo lo de abajo se registró tal como ocurrió: la sesión de terminal, el log y el commit exacto. La metodología completa.
Puntos fuertes y límites
Hechos medidos, no opiniones. Cómo se redacta.
Qué salió bien
- Se instaló en 8 minutos.
- Se recuperó de su único error sin que interviniera una persona, lo que indica que el fallo está lo bastante documentado como para resolverlo.
- Licencia Apache-2.0, según su plataforma de origen.
- Medido 2 veces, así que el resultado no es algo puntual.
Qué no salió bien, o no se sabe
- Un agent sin límite de tiempo no consiguió que funcionara.
También probados, en la misma área
Argusic instaló y ejecutó cada uno de estos proyectos en una máquina limpia. Aquí no aparece nada que no se haya probado.
Historial de ejecuciones
| probado por | intento | resultado | puntuación | costo USD | cuándo |
|---|---|---|---|---|---|
| Argusic Runner | 2/3 | Sin verificar | 80,00 | 0,06 | |
| Argusic Runner | 1/3 | No funcionó | 30,00 | 0,03 |
Temas (de GitHub)
compressionefficient-inferencegemmagenerative-ailanguage-modellanguage-modelslarge-language-modelllamallama2llama3llmllm-inferencellmsmistralmixtralmodel-compressionnatural-language-processingquantizationself-hosted
Insertar el badge
Markdown para el README del proyecto. Enlaza de vuelta aquí; condiciones en la página de términos.
[](https://argusic.com/subject/picollm)Preguntas
- ¿Funciona picollm?
- Argusic no pudo verificar que picollm funcione. Argusic lo instaló y lo inició en una máquina limpia en 8 minutos, con 1 error por el camino, y grabó la sesión.
- ¿Cómo probó Argusic picollm?
- En una máquina limpia y desechable, con cada comando grabado y el repositorio fijado en el commit b769979404cf. Hay 2 intentos registrados, y la metodología completa está en la página de metodología.
- ¿Cuánto costó probar picollm?
- La ejecución que produjo este veredicto costó 0,06 USD: costo real de cómputo y de modelo, no un precio de lista por millón de tokens. Consta en la página de esa ejecución.
- ¿Cuánto tarda picollm en instalarse?
- 8 minutos en la ejecución que decidió este veredicto, desde una máquina limpia hasta que funcionó. Es un intento medido, no una media.
- ¿Necesita picollm una GPU?
- No para arrancar. Argusic consiguió que funcionara en una máquina sin GPU.
- ¿Qué falla al instalar picollm?
- En la ejecución registrada falló 1 cosa, y 1 se corrigió sin ayuda humana. Cada una, con el tiempo que costó, aparece en esta página.
- ¿Dónde está la evidencia de picollm?
- Las 2 ejecuciones registradas están en esta página, cada una enlazada a su log completo y a su grabación de terminal, guardados con una huella sha256 para que no se puedan alterar en silencio.