Terme défini
Gouvernance IA
Politiques, processus et contrôles qui rendent un système IA auditable et accountable.
La gouvernance IA couvre les pratiques opérationnelles qui permettent aux dirigeants de défendre un workflow IA devant les risk officers, auditeurs et clients : sources approuvées, prompt versioning, logging, reviewer queues, model risk assessment, fallback paths, et propriétaires nommés pour les décisions à haut risque. On utilise le NIST AI RMF et les OECD AI Principles comme frameworks de référence.
Référence: NIST AI Risk Management Framework
Termes liés
NIST AI RMF
Framework volontaire du NIST américain pour gérer les risques des systèmes IA sur tout leur cycle de vie.
Model card
Documentation décrivant l'usage prévu, les limitations, l'évaluation et les risques d'un modèle.
Audit log
Enregistrement immuable de chaque inference call, action et décision reviewer dans un système IA.
Grounding
Ancrer la sortie d'un modèle dans un matériel source vérifiable pour réduire les hallucinations.
On utilise ça chaque semaine
Réserver un appel de 30 min
Réservez un appel de 30 min et on vous montre comment Gouvernance IA apparaît dans un engagement réel qu'on opère.
Réserver un appel de 30 min