Original en anglais: https://argusic.com/subject/llamafactory
LlamaFactory
Réglage fin unifié et efficace de 100+ LLMs et VLMs (ACL 2024)
Fonctionnesource : GitHubpage d'accueilPythonApache-2.0commit d6bb97ddff5d
Python, sous licence Apache-2.0. Le projet se décrit ainsi : agent, ai, deepseek, fine tuning, gemma, gpt, instruction tuning et large language models.
LlamaFactory fonctionne. Un agent Argusic l'a installé en 30 minutes et n'a rencontré aucune erreur sur une machine propre sans GPU, et toute la session a été enregistrée.
LLaMA Factory 0.9.6.dev0 is installed with all dependencies, CLI responds to all subcommands, LlamaBoard Web UI serves HTTP 200 on port 7860, and 325 automated tests pass on CPU (GPU-dependent tests skipped).
Ce que l'agent a obtenu sur une machine propre, dans ses propres mots. Comment c'est mesuré
Mesuré par Argusic sur une machine vierge, à chaque fois. Chaque chiffre renvoie à ses preuves. Score Argusic de 97,3 sur 100 (la moyenne des scores des exécutions de ce projet).
En un coup d'œil
Données du projet issues de GitHub, avec un lien en haut de cette page, mis à jour le . Données de test d'Argusic (CC BY 4.0) ; chaque chiffre renvoie à une page d'exécution avec le log complet, l'enregistrement et leurs empreintes sha256.
Ce qui a été mesuré
Tiré de l'exécution qui a décidé ce verdict. Chaque ligne est une valeur enregistrée, pas une estimation.
- Temps d'installation
- 30 minutes
- De la machine vierge à la fin
- 14 minutes
- Erreurs rencontrées et corrigées
- 0 rencontrée, 0 corrigée sans aide humaine
- Comment le résultat a été prouvé
- pip install -e . succeeded; llamafactory-cli version printed version 0.9.6.dev0; pytest tests/ (254 passed, 14 skipped, 2 xfailed, 4 xpassed) and tests_v1/ (71 passed, 9 skipped, 1 xfailed); curl http://127.0.0.1:7860 returned HTTP 200 from LlamaBoard Web UI
- Tokens de modèle utilisés
- 119 274
- Commit exact testé
- d6bb97ddff5d
- Image de conteneur
- sha256:cdd920bce783
Ce qui n'a pas été mesuré
L'autre moitié, pour que vous voyiez exactement jusqu'où vont ces preuves. Une lacune est affichée comme une lacune et n'est jamais comblée.
- Pic de mémoire GPU
- cette exécution a eu lieu sur une machine CPU, il n'y avait donc pas de GPU à mesurer
- Comportement sur une longue durée
- chaque tentative utilise les réglages documentés les plus légers et un budget de temps fixe : on mesure donc s'il fonctionne, pas comment il tient sous la charge
Regarder la session
L'exécution complète, depuis une machine propre, à la vitesse réelle. Rien n'est coupé et rien n'est accéléré.
Un enregistrement de la tentative 2, exécutée le , la tentative qui a décidé le verdict ci-dessus. L'enregistrement du terminal dont elle est tirée constitue la preuve, conservée avec une empreinte sha256 ; la vidéo n'en est qu'un rendu. Rien n'est chargé depuis l'hébergeur de la vidéo tant que vous n'appuyez pas sur lecture.
La fin de l'enregistrement
Les dernières lignes de la session de terminal qui a décidé ce verdict, exactement telles qu'elles ont été enregistrées.
exec /bin/sh -lc 'echo "Total elapsed: $(date -d @$(echo "$(date +%s) - $(stat -c %Y /proc/1/cmdline 2>/… succeeded in 0ms: /bin/sh: 1: bc: not found Total elapsed: 1789360132 cleaned exec /bin/sh -lc 'date +%s' in /work/repo succeeded in 0ms: 1789360137 tokens used 119,274
Revoir toute la session, chaque commande depuis une machine propre jusqu'à ce point.
Comment le test a été mené
Un agent, un conteneur, aucune aide humaine. Il installe le projet comme l'indique sa propre documentation, l'exécute et corrige ce qui casse. Tout ce qui suit est enregistré tel que cela s'est passé : la session de terminal, le log et le commit exact. La méthode complète.
Points forts et limites
Des faits mesurés, pas des opinions. Comment ce site est rédigé.
Ce qui s'est bien passé
- A atteint un état de fonctionnement sur une machine propre, avec la session enregistrée.
- Rien n'a cassé en route : zéro erreur entre le clone et le fonctionnement.
- A fonctionné sans GPU, il n'en a donc pas besoin pour démarrer.
- Sous licence Apache-2.0, selon son hébergeur.
- Mesuré 3 fois, le résultat n'est donc pas un cas isolé.
Ce qui ne s'est pas bien passé, ou n'est pas connu
- Installation en 30 minutes, plus lente que la médiane des 134 projets comparables mesurés par Argusic.
Sur les 135 projets agent qu'Argusic a installés et chronométrés, LlamaFactory a été le 122e plus rapide à atteindre un état de fonctionnement, et 87 sur 135 en ont atteint un.
Pour quoi c'est un choix raisonnable
- L'essayer sur un ordinateur portable ou un petit serveur : il a atteint un état de fonctionnement sans GPU.
- Suivre son propre README : la procédure documentée a fonctionné sans rien à corriger.
Également testés, dans le même domaine
Chacun de ces projets a été installé et exécuté par Argusic sur une machine propre. Rien n'apparaît ici sans avoir été testé.
Historique des exécutions
| testé par | tentative | résultat | score | coût USD | date |
|---|---|---|---|---|---|
| Argusic Runner | 3/3 | Fonctionne avec des mocks | 92,00 | 0,15 | |
| Argusic Runner | 2/3 | Fonctionne | 100,00 | 0,06 | |
| Argusic Runner | 1/3 | Fonctionne | 100,00 | 0,24 |
Sujets (depuis GitHub)
agentaideepseekfine-tuninggemmagptinstruction-tuninglarge-language-modelsllamallama3llmloramoenlppeftqloraquantizationqwenrlhftransformers
Intégrer le badge
Markdown pour le README du projet. Il renvoie vers cette page ; conditions sur la page des conditions.
[](https://argusic.com/subject/llamafactory)Questions
- LlamaFactory fonctionne-t-il ?
- Oui. LlamaFactory fonctionne. Argusic l'a installé et lancé sur une machine propre en 30 minutes, en rencontrant 0 erreur en route, et a enregistré la session.
- Comment Argusic a-t-il testé LlamaFactory ?
- Sur une machine vierge et jetable, avec chaque commande enregistrée et le dépôt épinglé au commit d6bb97ddff5d. 3 tentatives sont enregistrées, et la méthode complète se trouve sur la page de méthodologie.
- Combien a coûté le test de LlamaFactory ?
- L'exécution qui a produit ce verdict a coûté 0,06 USD : le coût réel du calcul et du modèle, pas un prix catalogue par million de tokens. Il est enregistré sur la page de cette exécution.
- Combien de temps faut-il pour installer LlamaFactory ?
- 30 minutes lors de l'exécution qui a décidé ce verdict, d'une machine propre à un état de fonctionnement. Il s'agit d'une tentative mesurée, pas d'une moyenne.
- LlamaFactory a-t-il besoin d'un GPU ?
- Pas pour démarrer. Argusic a atteint un état de fonctionnement sur une machine sans GPU.
- Qu'est-ce qui pose problème lors de l'installation de LlamaFactory ?
- Rien, dans l'exécution enregistrée : zéro erreur entre le clone et le fonctionnement.
- Comment LlamaFactory se compare-t-il aux alternatives ?
- Sur les 135 projets agent qu'Argusic a installés et chronométrés, LlamaFactory a été le 122e plus rapide à atteindre un état de fonctionnement, et 87 sur 135 en ont atteint un.
- Où sont les preuves pour LlamaFactory ?
- Les 3 exécutions enregistrées se trouvent sur cette page, chacune avec un lien vers son log complet et son enregistrement du terminal, conservés avec une empreinte sha256 pour qu'ils ne puissent pas être modifiés discrètement.