Definierter Begriff
NIST AI RMF
Freiwilliges Framework des US-NIST zum Management von Risiken in KI-Systemen über den gesamten Lebenszyklus.
Das NIST AI Risk Management Framework bietet einen strukturierten Ansatz zur Identifikation, Messung, Verwaltung und Governance von KI-Risiken. Es definiert vier Funktionen: Govern, Map, Measure, Manage. Wir referenzieren NIST AI RMF beim Scoping von Risk-Compliance-Engagements, besonders für regulierte Branchen.
Referenz: NIST AI RMF
Verwandte Begriffe
Grounding
Modell-Output an verifizierbares Quellmaterial verankern, um Halluzinationen zu reduzieren.
Halluzination
Wenn ein LLM plausibel klingenden, aber faktisch falschen, erfundenen oder durch seine Quellen nicht gestützten Inhalt generiert.
Guardrails
Deterministische Validatoren, die ein Modell umhüllen, um bösartige Eingaben zu blockieren und Output-Konformität durchzusetzen.
Prompt-Injection
Angriff, bei dem bösartiger Input einen LLM manipuliert, Anweisungen zu ignorieren oder unbeabsichtigte Aktionen auszuführen.
Wir nutzen das jede Woche
30-Minuten-Gespräch buchen
Buchen Sie ein 30-Minuten-Gespräch und wir zeigen Ihnen, wie NIST AI RMF in einem laufenden Engagement aussieht.
30-Minuten-Gespräch buchen