Terme défini
NIST AI RMF
Framework volontaire du NIST américain pour gérer les risques des systèmes IA sur tout leur cycle de vie.
Le NIST AI Risk Management Framework fournit une approche structurée pour identifier, mesurer, gérer et gouverner les risques IA. Il définit quatre fonctions : Govern, Map, Measure, Manage. On référence le NIST AI RMF en scopant les engagements risk-compliance, particulièrement pour les industries régulées.
Référence: NIST AI RMF
Termes liés
Grounding
Ancrer la sortie d'un modèle dans un matériel source vérifiable pour réduire les hallucinations.
Hallucination
Quand un LLM génère du contenu plausible mais factuellement faux, fabriqué, ou non supporté par ses sources.
Guardrails
Validateurs déterministes qui encapsulent un modèle pour bloquer les entrées malveillantes et imposer la conformité de sortie.
Prompt injection
Attaque où l'input malveillant manipule le LLM pour ignorer ses instructions ou exécuter des actions non voulues.
On utilise ça chaque semaine
Réserver un appel de 30 min
Réservez un appel de 30 min et on vous montre comment NIST AI RMF apparaît dans un engagement réel qu'on opère.
Réserver un appel de 30 min