Terme défini
Hallucination
Quand un LLM génère du contenu plausible mais factuellement faux, fabriqué, ou non supporté par ses sources.
Les hallucinations sont la principale mode de défaillance des LLMs en production : statistiques inventées, mauvaises citations, dates fausses, lois inexistantes. La mitigation se fait en couches : grounding via RAG, output validators, citation checking, et human review sur les cas à faible confiance. Le hallucination rate sur claims factuels devrait être <1% en production ; au-dessus, le workflow casse la confiance.
Termes liés
Grounding
Ancrer la sortie d'un modèle dans un matériel source vérifiable pour réduire les hallucinations.
RAG (Retrieval-Augmented Generation)
Génération ancrée dans des sources documentaires récupérées plutôt que dans la mémoire paramétrique seule du modèle.
Guardrails
Validateurs déterministes qui encapsulent un modèle pour bloquer les entrées malveillantes et imposer la conformité de sortie.
Prompt injection
Attaque où l'input malveillant manipule le LLM pour ignorer ses instructions ou exécuter des actions non voulues.
On utilise ça chaque semaine
Réserver un appel de 30 min
Réservez un appel de 30 min et on vous montre comment Hallucination apparaît dans un engagement réel qu'on opère.
Réserver un appel de 30 min