Original en anglais: https://argusic.com/subject/switchyard

Switchyard

Switchyard permet aux applications LLM de router le trafic entre modèles et fournisseurs tout en préservant la compatibilité native avec les API OpenAI et Anthropic, ce qui permet une sélection flexible des modèles, des benchmarks et l'optimisation du coût et de la performance.

Fonctionne avec des mockssource : GitHubRustApache-2.0commit 6f4e7749083a

Rust, sous licence Apache-2.0.

Switchyard fonctionne, avec des substituts pour les services dont il dépend. Un agent Argusic l'a installé en 8 minutes et a rencontré 1 erreur, corrigée sans aide sur une machine propre sans GPU, et toute la session a été enregistrée.

switchyard-server builds from source, starts on port 4124, routes requests through the stage_router (auto) algorithm to a mock upstream, and returns correct completions; all Rust unit/integration tests and Python pytest test suite pass

Ce que l'agent a obtenu sur une machine propre, dans ses propres mots. Comment c'est mesuré

Mesuré par Argusic sur une machine vierge, à chaque fois. Chaque chiffre renvoie à ses preuves. Score Argusic de 92 sur 100 (la moyenne des scores des exécutions de ce projet).

En un coup d'œil

verdict
Fonctionne avec des mocks
Score Argusic
92 / 100
coût de l'exécution de vérification
0,03 USD (mesuré)
exécutions enregistrées
1
dernier test
étoiles
3 483
forks
356
issues ouvertes
114
observateurs
12
taille
139 MB
créé le
dernier push

Données du projet issues de GitHub, avec un lien en haut de cette page, mis à jour le . Données de test d'Argusic (CC BY 4.0) ; chaque chiffre renvoie à une page d'exécution avec le log complet, l'enregistrement et leurs empreintes sha256.

Ce qui a été mesuré

Tiré de l'exécution qui a décidé ce verdict. Chaque ligne est une valeur enregistrée, pas une estimation.

Ce qui s'est mal passé, dans les mots de l'agent

Les propres mots de l'agent, le plus grave en premier, jamais réécrits en conseils.

  • Missing libpython3.12-dev system package prevents prefill-router tests from linking (rust-lld: unable to find library -lpython3.12) and prevents cargo test for switchyard-py and switchyard-node
Temps d'installation
8 minutes
De la machine vierge à la fin
10 minutes
Erreurs rencontrées et corrigées
1 rencontrée, 1 corrigée sans aide humaine
Comment le résultat a été prouvé
curl -s http://localhost:4124/v1/chat/completions with mock upstream returned HTTP 200 and correct routed response body
Tokens de modèle utilisés
203 155
Commit exact testé
6f4e7749083a
Image de conteneur
sha256:cdd920bce783

Ce qui n'a pas été mesuré

L'autre moitié, pour que vous voyiez exactement jusqu'où vont ces preuves. Une lacune est affichée comme une lacune et n'est jamais comblée.

Pic de mémoire GPU
cette exécution a eu lieu sur une machine CPU, il n'y avait donc pas de GPU à mesurer
Comportement sur une longue durée
chaque tentative utilise les réglages documentés les plus légers et un budget de temps fixe : on mesure donc s'il fonctionne, pas comment il tient sous la charge
Comportement face aux vrais services
cette exécution n'a été vérifiée qu'avec des services de substitution

La fin de l'enregistrement

Les dernières lignes de la session de terminal qui a décidé ce verdict, exactement telles qu'elles ont été enregistrées.

Selected model IDs: ['auto']
Algorithm: noop
Outcome ID: 01a14de6-ad94-7333-bc74-61c9bf3bccf1
Response: {'id': 'switchyard-noop', 'model': 'auto', 'outputs': [{'role': 'assistant', 'content': […
Python bindings OK
Here's the final verified state of the repository:
All tests pass, the server launches and routes end-to-end. I will now stop the remaining background…
exec
/bin/sh -lc 'pkill -f mock_upstream.py 2>/dev/null; pkill switchyard-server 2>/dev/null; echo "clea…
 exited 143 in 0ms:
tokens used
203,155

Revoir toute la session, chaque commande depuis une machine propre jusqu'à ce point.

Comment le test a été mené

Un agent, un conteneur, aucune aide humaine. Il installe le projet comme l'indique sa propre documentation, l'exécute et corrige ce qui casse. Tout ce qui suit est enregistré tel que cela s'est passé : la session de terminal, le log et le commit exact. La méthode complète.

Points forts et limites

Des faits mesurés, pas des opinions. Comment ce site est rédigé.

Ce qui s'est bien passé

  • Installé en 8 minutes, plus vite que la médiane des 16 projets comparables mesurés par Argusic.
  • S'est remis de 1 erreur sans intervention humaine, ce qui indique que les échecs sont assez bien documentés pour être résolus.
  • Sous licence Apache-2.0, selon son hébergeur.

Ce qui ne s'est pas bien passé, ou n'est pas connu

  • N'a atteint un état de fonctionnement qu'avec des services de substitution : rien ici ne prouve qu'il fonctionne avec les vrais.
  • Mesuré une seule fois jusqu'ici. Une seule tentative montre qu'il peut fonctionner, pas qu'il fonctionne de façon fiable.

Sur les 17 projets Rust qu'Argusic a installés et chronométrés, Switchyard a été le 7e plus rapide à atteindre un état de fonctionnement, et 15 sur 17 en ont atteint un.

Historique des exécutions

testé partentativerésultatscorecoût USDdate
Argusic Runner1/3Fonctionne avec des mocks92,000,03

Intégrer le badge

Markdown pour le README du projet. Il renvoie vers cette page ; conditions sur la page des conditions.

[![Tested by Argusic](https://argusic.com/badge/Switchyard.svg)](https://argusic.com/subject/switchyard)

Questions

Switchyard fonctionne-t-il ?
Switchyard fonctionne, avec des mocks à la place des services externes. Argusic l'a installé et lancé sur une machine propre en 8 minutes, en rencontrant 1 erreur en route, et a enregistré la session.
Comment Argusic a-t-il testé Switchyard ?
Sur une machine vierge et jetable, avec chaque commande enregistrée et le dépôt épinglé au commit 6f4e7749083a. Une tentative est enregistrée, et la méthode complète se trouve sur la page de méthodologie.
Combien a coûté le test de Switchyard ?
L'exécution qui a produit ce verdict a coûté 0,03 USD : le coût réel du calcul et du modèle, pas un prix catalogue par million de tokens. Il est enregistré sur la page de cette exécution.
Combien de temps faut-il pour installer Switchyard ?
8 minutes lors de l'exécution qui a décidé ce verdict, d'une machine propre à un état de fonctionnement. Il s'agit d'une tentative mesurée, pas d'une moyenne.
Switchyard a-t-il besoin d'un GPU ?
Pas pour démarrer. Argusic a atteint un état de fonctionnement sur une machine sans GPU.
Qu'est-ce qui pose problème lors de l'installation de Switchyard ?
1 problème est survenu lors de l'exécution enregistrée, et 1 a été corrigé sans aide humaine. Chacun, avec le temps qu'il a coûté, est listé sur cette page.
Comment Switchyard se compare-t-il aux alternatives ?
Sur les 17 projets Rust qu'Argusic a installés et chronométrés, Switchyard a été le 7e plus rapide à atteindre un état de fonctionnement, et 15 sur 17 en ont atteint un.
Où sont les preuves pour Switchyard ?
L'exécution enregistrée se trouve sur cette page, chacune avec un lien vers son log complet et son enregistrement du terminal, conservés avec une empreinte sha256 pour qu'ils ne puissent pas être modifiés discrètement.

Discussion