Aller au contenu principal

Comparer les réponses de plusieurs LLM locaux via LM Studio

Vous avez installé plusieurs modèles de langage sur un poste ou un serveur local et vous voulez savoir lequel répond le mieux à votre besoin. Le workflow interroge LM Studio pour récupérer la liste des modèles chargés, envoie à chacun le prompt saisi dans le chat, puis calcule un score de lisibilité et quelques statistiques pour chaque réponse. L'adresse du serveur se règle dans le nœud HTTP Request, et l'enregistrement dans Google Sheets reste optionnel.

Déclencheur
Message de chat
Taille
12 nœuds
Outils
Requêtes HTTP (API), OpenAI, Google Sheets

Comment fonctionne ce workflow

  1. 1

    Le nœud Chat Trigger reçoit le prompt saisi dans le chat de n8n.

  2. 2

    Le nœud HTTP Request appelle l'API de LM Studio pour récupérer les identifiants des modèles actuellement chargés.

  3. 3

    Le nœud Split Out sépare cette liste pour traiter chaque modèle à tour de rôle.

  4. 4

    Le nœud Basic LLM Chain envoie le prompt au modèle en cours, via le nœud OpenAI Chat Model pointé vers LM Studio.

  5. 5

    Les nœuds Date & Time et Code notent les heures d'envoi et de réception, puis calculent le score de lisibilité et les statistiques du texte.

  6. 6

    Le nœud Edit Fields met en forme les champs, et le nœud Google Sheets écrit une ligne par réponse dans la feuille.

Quand l'utiliser

  • Choisir le modèle local le plus adapté avant de le déployer pour un usage donné.
  • Vérifier quel modèle produit des réponses courtes et faciles à lire pour un public donné.
  • Garder une trace de plusieurs essais dans une feuille Google Sheets pour les relire ensuite.

À préparer avant l'import

  • LM Studio installé, avec les modèles à tester chargés et le serveur local démarré.
  • L'adresse IP du poste ou du serveur LM Studio, à reporter dans le champ Base URL du nœud HTTP Request.
  • Les identifiants du nœud OpenAI Chat Model dans n8n, configurés pour pointer vers LM Studio.
  • Une feuille Google Sheets avec les en-têtes indiqués dans les notes, si vous gardez l'étape d'enregistrement.
  • Un compte Google connecté à n8n pour le nœud Google Sheets.

Bon à savoir

Supprimez le chat précédent, à côté du bouton Chat, avant chaque nouveau test. Sinon, des réponses anciennes peuvent se mêler à la conversation suivante et fausser la comparaison.

Installer ce template dans n8n

  1. Téléchargez le fichier JSON avec le bouton en haut de la page.
  2. Dans n8n, ouvrez le menu d'un workflow vide, choisissez « Import from File » et sélectionnez le fichier.
  3. Reliez vos propres identifiants à chaque nœud qui en demande un, lancez un test, puis activez le workflow.

Ce template fonctionne sur n8n auto-hébergé comme sur n8n Cloud. Les nœuds IA demandent une version récente de n8n.

Vous voulez ce workflow branché sur vos outils ?

Ce template est un point de départ. Nous l'adaptons à vos règles, à vos comptes et à votre hébergement, puis nous le maintenons.

Voir notre accompagnement n8n