Original en anglais: https://argusic.com/subject/picollm

picollm

Inférence LLM sur l’appareil propulsée par la quantification X-Bit

Non vérifiablesource : GitHubpage d'accueilPythonApache-2.0commit b769979404cf

Python, sous licence Apache-2.0. Le projet se décrit ainsi : compression, efficient inference, gemma, generative ai, language model, language models, large language model et llama.

Argusic n'a pas réussi à faire fonctionner picollm. Un agent Argusic l'a installé en 8 minutes et a rencontré 1 erreur, corrigée sans aide sur une machine propre sans GPU, et toute la session a été enregistrée.

C demos build and run from command-line, Python binding installs and loads the native library, dialog formatting works for all 11 model types, but full model inference requires a Picovoice AccessKey and proprietary .pllm model files not present in this container.

Ce que l'agent a obtenu sur une machine propre, dans ses propres mots. Comment c'est mesuré

Mesuré par Argusic sur une machine vierge, à chaque fois. Chaque chiffre renvoie à ses preuves. Score Argusic de 55 sur 100 (la moyenne des scores des exécutions de ce projet).

En un coup d'œil

verdict
Non vérifiable
Score Argusic
55 / 100
coût de l'exécution de vérification
0,06 USD (mesuré)
exécutions enregistrées
2
dernier test
étoiles
318
forks
27
issues ouvertes
0
observateurs
10
taille
204 MB
créé le
dernier push

Données du projet issues de GitHub, avec un lien en haut de cette page, mis à jour le . Données de test d'Argusic (CC BY 4.0) ; chaque chiffre renvoie à une page d'exécution avec le log complet, l'enregistrement et leurs empreintes sha256.

Ce qui a été mesuré

Tiré de l'exécution qui a décidé ce verdict. Chaque ligne est une valeur enregistrée, pas une estimation.

Temps perdu à cause de chaque échec lors du test de picollm, tiré de l'exécution enregistrée
Chaque barre est un échec enregistré par l'agent, avec le temps qu'il a coûté. Tiré de cette exécution, et de nulle part ailleurs.

Ce qui s'est mal passé, dans les mots de l'agent

Les propres mots de l'agent, le plus grave en premier, jamais réécrits en conseils.

  • C demo build failed initially: missing stb_image.h submodule1 minute
Temps d'installation
8 minutes
De la machine vierge à la fin
14 minutes
Erreurs rencontrées et corrigées
1 rencontrée, 1 corrigée sans aide humaine
Comment le résultat a été prouvé
C demo binaries compile and show usage text; python binding pip install exits 0; available_devices() returns CPU; 20/20 mock unit tests pass; native library loads with all 18 expected symbols
Tokens de modèle utilisés
469 744
Commit exact testé
b769979404cf
Image de conteneur
sha256:cdd920bce783

Ce qui n'a pas été mesuré

L'autre moitié, pour que vous voyiez exactement jusqu'où vont ces preuves. Une lacune est affichée comme une lacune et n'est jamais comblée.

Pic de mémoire GPU
cette exécution a eu lieu sur une machine CPU, il n'y avait donc pas de GPU à mesurer
Comportement sur une longue durée
chaque tentative utilise les réglages documentés les plus légers et un budget de temps fixe : on mesure donc s'il fonctionne, pas comment il tient sous la charge
S'il fonctionne tout court
cette exécution n'a rien vérifié, donc cette page n'affirme rien dans un sens ni dans l'autre

La fin de l'enregistrement

Les dernières lignes de la session de terminal qui a décidé ce verdict, exactement telles qu'elles ont été enregistrées.

-rwxrwxr-x 1 runner runner  17040 Oct 25 01:44 /work/repo/demo/c/build/picollm_demo_similarity
Python binding installed:
Name: picollm
Version: 2.1.4
Location: /work/repo/.venv/lib/python3.12/site-packages
Native library:
/work/repo/binding/python/picollm/lib/linux/x86_64/libpv_picollm.so
Available devices:
['cpu:[0-192] - CPU (192 threads)']
Mock tests passed: 20/20
tokens used
469,744

Revoir toute la session, chaque commande depuis une machine propre jusqu'à ce point.

Comment le test a été mené

Un agent, un conteneur, aucune aide humaine. Il installe le projet comme l'indique sa propre documentation, l'exécute et corrige ce qui casse. Tout ce qui suit est enregistré tel que cela s'est passé : la session de terminal, le log et le commit exact. La méthode complète.

Points forts et limites

Des faits mesurés, pas des opinions. Comment ce site est rédigé.

Ce qui s'est bien passé

  • Installé en 8 minutes.
  • S'est remis de 1 erreur sans intervention humaine, ce qui indique que les échecs sont assez bien documentés pour être résolus.
  • Sous licence Apache-2.0, selon son hébergeur.
  • Mesuré 2 fois, le résultat n'est donc pas un cas isolé.

Ce qui ne s'est pas bien passé, ou n'est pas connu

  • Un agent sans limite de temps ne l'a pas fait fonctionner.

Également testés, dans le même domaine

Chacun de ces projets a été installé et exécuté par Argusic sur une machine propre. Rien n'apparaît ici sans avoir été testé.

Historique des exécutions

testé partentativerésultatscorecoût USDdate
Argusic Runner2/3Non vérifié80,000,06
Argusic Runner1/3N'a pas fonctionné30,000,03

Sujets (depuis GitHub)

compressionefficient-inferencegemmagenerative-ailanguage-modellanguage-modelslarge-language-modelllamallama2llama3llmllm-inferencellmsmistralmixtralmodel-compressionnatural-language-processingquantizationself-hosted

Intégrer le badge

Markdown pour le README du projet. Il renvoie vers cette page ; conditions sur la page des conditions.

[![Tested by Argusic](https://argusic.com/badge/picollm.svg)](https://argusic.com/subject/picollm)

Questions

picollm fonctionne-t-il ?
Argusic n'a pas pu vérifier que picollm fonctionne. Argusic l'a installé et lancé sur une machine propre en 8 minutes, en rencontrant 1 erreur en route, et a enregistré la session.
Comment Argusic a-t-il testé picollm ?
Sur une machine vierge et jetable, avec chaque commande enregistrée et le dépôt épinglé au commit b769979404cf. 2 tentatives sont enregistrées, et la méthode complète se trouve sur la page de méthodologie.
Combien a coûté le test de picollm ?
L'exécution qui a produit ce verdict a coûté 0,06 USD : le coût réel du calcul et du modèle, pas un prix catalogue par million de tokens. Il est enregistré sur la page de cette exécution.
Combien de temps faut-il pour installer picollm ?
8 minutes lors de l'exécution qui a décidé ce verdict, d'une machine propre à un état de fonctionnement. Il s'agit d'une tentative mesurée, pas d'une moyenne.
picollm a-t-il besoin d'un GPU ?
Pas pour démarrer. Argusic a atteint un état de fonctionnement sur une machine sans GPU.
Qu'est-ce qui pose problème lors de l'installation de picollm ?
1 problème est survenu lors de l'exécution enregistrée, et 1 a été corrigé sans aide humaine. Chacun, avec le temps qu'il a coûté, est listé sur cette page.
Où sont les preuves pour picollm ?
Les 2 exécutions enregistrées se trouvent sur cette page, chacune avec un lien vers son log complet et son enregistrement du terminal, conservés avec une empreinte sha256 pour qu'ils ne puissent pas être modifiés discrètement.

Discussion