Combiner un LLM avec un workflow d'automatisation ouvre des cas d'usage impossibles avant. Le LLM agit comme un cerveau au cœur du workflow.
1. Ce que le LLM apporte
Dans une automatisation classique, les décisions sont prises par des règles fixes (if/else, regex, conditions). Limites :
Ne gère pas l'ambiguïté
Ne comprend pas le langage naturel
Inflexible face aux nouveaux cas
Avec un LLM :
Classification sémantique (« cet email est-il une plainte ? »)
Extraction depuis du texte libre (« quel produit est mentionné dans cet email ? »)
Rédaction contextualisée (« écris une réponse personnalisée »)
Résumé automatique
Décision nuancée
2. Patterns d'usage du LLM dans un workflow
a) LLM en classifier
Trigger : email reçu
→ LLM : classer en {SAV, Commercial, Spam, Autre}
→ Si SAV → créer ticket
→ Si Commercial → notifier sales
→ Si Spam → archiver
→ Si Autre → passer la main à un humain
Un LLM placé en classifieur : l'email entrant part en SAV pour créer un ticket, en commercial pour notifier les vendeurs, en spam pour être archivé, et vers un humain quand le LLM répond AUTRE
b) LLM en extracteur structuré
Trigger : facture PDF reçue
→ OCR → texte brut
→ LLM : extraire { vendor, amount, date, items[] } en JSON
→ Créer entrée dans la compta
c) LLM en rédacteur
Trigger : nouveau client signé
→ LLM : rédiger un email de bienvenue personnalisé avec son nom, son secteur, ses objectifs (depuis le CRM)
→ Envoi via SMTP
d) LLM en orchestrateur
Trigger : ticket support reçu
→ LLM : analyser le ticket
→ LLM décide :
- Réponse simple → générer + envoyer
- Question technique → router vers Niveau 2
- Plainte → escalader manager
3. Outils pour ajouter du LLM à ses workflows
Modules OpenAI / Anthropic / Gemini dans Make/n8n/Zapier
Modules "HTTP request" pour appeler n'importe quelle API LLM
OpenRouter : un endpoint unique pour appeler tous les LLMs
API de classification spécialisée (Hugging Face, Replicate…)
4. Prompt dans un workflow : bonnes pratiques
Dans un workflow, le prompt doit être stable et fiable :
Rôle : tu es un classifieur d'emails.
Contexte : nous sommes une PME e-commerce.
Tâche : classe cet email dans une catégorie.
Format : réponds avec UNIQUEMENT un mot parmi : SAV, COMMERCIAL, SPAM, AUTRE.
Ne donne aucune explication.
Email :
---
{email_body}
---
Toujours :
Forcer un format de sortie strict (JSON, mot unique…)
Donner des exemples si la tâche est ambiguë (few-shot)
Spécifier les cas limites ("Si tu ne sais pas, réponds AUTRE")
Tester le prompt sur 20-50 cas réels avant production
5. Coût et performance
Chaque appel LLM coûte (selon le modèle, 0,001€ à 0,10€ par appel typique)
Volume × coût × marge = bilan ROI
Pour les workflows à très haut volume, considérer un modèle plus petit (Haiku, GPT-4o-mini) ou un classifier dédié moins cher
6. Gérer l'incertitude
Un LLM n'est pas 100% fiable. Pour les workflows critiques :
Vote majoritaire : appeler 3 fois, prendre la réponse majoritaire
Confidence threshold : demander à l'LLM de noter sa confiance, ne valider que si haute
Human-in-the-loop : si confiance basse, escalade humaine
Fallback : si le LLM échoue, règle simple par défaut
7. Logs et monitoring
Logger chaque appel LLM :
Input
Output
Coût
Latence
Erreurs éventuelles
Permet de mesurer la qualité, le coût et de détecter les dérives.