Original en inglés: https://argusic.com/subject/llamafactory
LlamaFactory
Ajuste fino unificado y eficiente de 100+ LLMs y VLMs (ACL 2024)
Funcionafuente: GitHubsitio webPythonApache-2.0commit d6bb97ddff5d
Python, licencia Apache-2.0. El proyecto se describe a sí mismo como: agent, ai, deepseek, fine tuning, gemma, gpt, instruction tuning y large language models.
LlamaFactory funciona. Un agent de Argusic lo instaló en 30 minutos y no encontró ningún error en una máquina limpia sin GPU, y toda la sesión quedó grabada.
LLaMA Factory 0.9.6.dev0 is installed with all dependencies, CLI responds to all subcommands, LlamaBoard Web UI serves HTTP 200 on port 7860, and 325 automated tests pass on CPU (GPU-dependent tests skipped).
Lo que el agent consiguió en una máquina limpia, en sus propias palabras. Cómo se mide
Medido por Argusic en una máquina limpia cada vez. Cada cifra enlaza a su evidencia. Puntuación Argusic de 97,3 sobre 100 (la media de las puntuaciones de las ejecuciones de este proyecto).
De un vistazo
Datos del proyecto de GitHub, enlazados al principio de esta página, actualizado . Datos de prueba de Argusic (CC BY 4.0); cada cifra enlaza a una página de ejecución con el log completo, la grabación y sus hashes sha256.
Qué se midió
De la ejecución que decidió este veredicto. Cada línea es un valor registrado, no una estimación.
- Tiempo de instalación
- 30 minutos
- De máquina en frío a terminar
- 14 minutos
- Errores encontrados y corregidos
- 0 encontrados, 0 corregidos sin ayuda humana
- Cómo se demostró el resultado
- pip install -e . succeeded; llamafactory-cli version printed version 0.9.6.dev0; pytest tests/ (254 passed, 14 skipped, 2 xfailed, 4 xpassed) and tests_v1/ (71 passed, 9 skipped, 1 xfailed); curl http://127.0.0.1:7860 returned HTTP 200 from LlamaBoard Web UI
- Tokens de modelo usados
- 119.274
- Commit exacto probado
- d6bb97ddff5d
- Imagen del contenedor
- sha256:cdd920bce783
Qué no se midió
La otra mitad, para que veas exactamente hasta dónde llega esta evidencia. Un hueco se muestra como hueco y nunca se rellena.
- Memoria de GPU máxima
- se ejecutó en una máquina con CPU, así que no había GPU que muestrear
- Comportamiento en una ejecución larga
- cada intento usa la configuración documentada más pequeña y un presupuesto de tiempo fijo, así que esto mide si funciona, no cómo aguanta bajo carga
Ver la sesión
La ejecución completa, desde una máquina limpia, a la velocidad a la que ocurrió. No se ha cortado ni acelerado nada.
Una grabación del intento 2, ejecutado el , el intento que decidió el veredicto anterior. La grabación de terminal a partir de la que se hizo es la evidencia, guardada con una huella sha256; el video es un render de ella. No se carga nada del servicio de video hasta que pulses reproducir.
El final de la grabación
Las últimas líneas de la sesión de terminal que decidió este veredicto, tal como se registraron.
exec /bin/sh -lc 'echo "Total elapsed: $(date -d @$(echo "$(date +%s) - $(stat -c %Y /proc/1/cmdline 2>/… succeeded in 0ms: /bin/sh: 1: bc: not found Total elapsed: 1789360132 cleaned exec /bin/sh -lc 'date +%s' in /work/repo succeeded in 0ms: 1789360137 tokens used 119,274
Reproducir la sesión completa, cada comando desde una máquina limpia hasta este punto.
Cómo se probó
Un agent, un contenedor, sin ayuda humana. Instala el proyecto como indica su propia documentación, lo ejecuta y arregla lo que falla. Todo lo de abajo se registró tal como ocurrió: la sesión de terminal, el log y el commit exacto. La metodología completa.
Puntos fuertes y límites
Hechos medidos, no opiniones. Cómo se redacta.
Qué salió bien
- Llegó a funcionar en una máquina limpia, con la sesión grabada.
- Nada se rompió por el camino: cero errores entre el clon y el funcionamiento.
- Funcionó sin GPU, así que no necesita una para arrancar.
- Licencia Apache-2.0, según su plataforma de origen.
- Medido 3 veces, así que el resultado no es algo puntual.
Qué no salió bien, o no se sabe
- Tardó 30 minutos en instalarse, más lento que la mediana de los 134 proyectos comparables que ha medido Argusic.
De los 135 proyectos de agent que Argusic ha instalado y cronometrado, LlamaFactory fue el 122.º más rápido en llegar a funcionar, y 87 de 135 llegaron a funcionar.
Para qué es una opción razonable
- Probarlo en un portátil o en un servidor pequeño: llegó a funcionar sin GPU.
- Seguir su propio README: el camino documentado funcionó sin nada que arreglar.
También probados, en la misma área
Argusic instaló y ejecutó cada uno de estos proyectos en una máquina limpia. Aquí no aparece nada que no se haya probado.
Historial de ejecuciones
Temas (de GitHub)
agentaideepseekfine-tuninggemmagptinstruction-tuninglarge-language-modelsllamallama3llmloramoenlppeftqloraquantizationqwenrlhftransformers
Insertar el badge
Markdown para el README del proyecto. Enlaza de vuelta aquí; condiciones en la página de términos.
[](https://argusic.com/subject/llamafactory)Preguntas
- ¿Funciona LlamaFactory?
- Sí. LlamaFactory funciona. Argusic lo instaló y lo inició en una máquina limpia en 30 minutos, con 0 errores por el camino, y grabó la sesión.
- ¿Cómo probó Argusic LlamaFactory?
- En una máquina limpia y desechable, con cada comando grabado y el repositorio fijado en el commit d6bb97ddff5d. Hay 3 intentos registrados, y la metodología completa está en la página de metodología.
- ¿Cuánto costó probar LlamaFactory?
- La ejecución que produjo este veredicto costó 0,06 USD: costo real de cómputo y de modelo, no un precio de lista por millón de tokens. Consta en la página de esa ejecución.
- ¿Cuánto tarda LlamaFactory en instalarse?
- 30 minutos en la ejecución que decidió este veredicto, desde una máquina limpia hasta que funcionó. Es un intento medido, no una media.
- ¿Necesita LlamaFactory una GPU?
- No para arrancar. Argusic consiguió que funcionara en una máquina sin GPU.
- ¿Qué falla al instalar LlamaFactory?
- Nada, en la ejecución registrada: cero errores entre el clon y el funcionamiento.
- ¿Cómo se compara LlamaFactory con las alternativas?
- De los 135 proyectos de agent que Argusic ha instalado y cronometrado, LlamaFactory fue el 122.º más rápido en llegar a funcionar, y 87 de 135 llegaron a funcionar.
- ¿Dónde está la evidencia de LlamaFactory?
- Las 3 ejecuciones registradas están en esta página, cada una enlazada a su log completo y a su grabación de terminal, guardados con una huella sha256 para que no se puedan alterar en silencio.