Répondre dans un chat avec un LLM open source via Hugging Face
Vous voulez poser des questions à un modèle open source directement depuis un chat n8n. Le Chat Trigger reçoit le message, et le Basic LLM Chain le place dans un prompt qui se termine par « A: » pour que le modèle sache où commencer sa réponse. Le prompt est envoyé au modèle Mistral-7B-Instruct-v0.1 via le nœud Hugging Face Inference Model, que vous pouvez remplacer. Ce nœud ne prend pas en charge les agents LangChain : pour en utiliser un, branchez le nœud Ollama Chat Model à la place.
- Déclencheur
- Message de chat
- Taille
- 3 nœuds
- Outils
- Hugging Face
Comment fonctionne ce workflow
- 1
Le nœud When chat message received ouvre un chat dans n8n et transmet chaque message saisi.
- 2
Le nœud Basic LLM Chain insère ce message dans un prompt qui demande une réponse polie, avec des emojis.
- 3
Le nœud Hugging Face Inference Model envoie le prompt au modèle Mistral-7B-Instruct-v0.1 hébergé sur Hugging Face.
- 4
La réponse du modèle remonte jusqu'au chat, où elle s'affiche.
Quand l'utiliser
- Tester un modèle open source sur quelques questions avant de l'intégrer à un autre processus.
- Prototyper un petit assistant de chat dont le modèle reste à choisir.
- Essayer différents modèles Hugging Face en changeant seulement leur nom dans le nœud d'inférence.
À préparer avant l'import
- Un compte Hugging Face.
- Un jeton d'accès Hugging Face, à enregistrer comme identifiant dans n8n.
- Le nom d'un modèle disponible en inférence sur Hugging Face, Mistral-7B-Instruct-v0.1 par défaut.
- Une instance n8n où le nœud Chat Trigger est accessible.
Bon à savoir
Changez d'abord le modèle dans le nœud Hugging Face Inference Model si Mistral-7B-Instruct-v0.1 ne répond pas comme prévu. Gardez la fin du prompt, « A: », pour que le modèle sache où commencer sa réponse.
Installer ce template dans n8n
- Téléchargez le fichier JSON avec le bouton en haut de la page.
- Dans n8n, ouvrez le menu d'un workflow vide, choisissez « Import from File » et sélectionnez le fichier.
- Reliez vos propres identifiants à chaque nœud qui en demande un, lancez un test, puis activez le workflow.
Ce template fonctionne sur n8n auto-hébergé comme sur n8n Cloud. Les nœuds IA demandent une version récente de n8n.
Autres templates : Développement & Outils
- Revue de code automatique d'une merge request GitLab avec OpenAIUn webhook GitLab déclenche une revue de code rédigée par OpenAI sur la merge request concernée.
- Laisser un agent OpenAI appeler une API HTTP dans n8nUn agent OpenAI qui interroge une API HTTP et s'en sert pour répondre, lancé à la main.
- Comparer les réponses de plusieurs LLM locaux via LM StudioEnvoie un même prompt à chaque modèle chargé dans LM Studio et compare leurs réponses, avec un score de lisibilité pour chacune.
- Générer une page HTML depuis une requête avec OpenAIGénère une page HTML à partir d'une requête utilisateur, en passant par une sortie JSON structurée d'OpenAI.
- Préparer Supabase et Postgres pour un agent IAUn agent IA Google Gemini relié à Supabase, avec sa mémoire de conversation stockée dans PostgreSQL.
- Résumer les erreurs de workflow par IA et les envoyer par GmailUn workflow qui résume par IA chaque erreur d'un autre workflow et vous l'envoie par e-mail.
Vous voulez ce workflow branché sur vos outils ?
Ce template est un point de départ. Nous l'adaptons à vos règles, à vos comptes et à votre hébergement, puis nous le maintenons.
Voir notre accompagnement n8n