Definierter Begriff
Grounding
Modell-Output an verifizierbares Quellmaterial verankern, um Halluzinationen zu reduzieren.
Grounding bedeutet, dass jeder Claim, den ein Modell produziert, zu einer abgerufenen Quellpassage zurückverfolgt werden kann. Gegroundete Outputs zitieren Quellen, verweigern Antworten, wenn Quellen unzureichend sind, und flaggen Antworten mit niedriger Confidence. Grounding ist die stärkste Verteidigung gegen Halluzinationen in kundenorientierten KI-Workflows.
Verwandte Begriffe
RAG (Retrieval-Augmented Generation)
Generierung verankert in abgerufenen Quelldokumenten statt nur in der parametrischen Modell-Memory.
Halluzination
Wenn ein LLM plausibel klingenden, aber faktisch falschen, erfundenen oder durch seine Quellen nicht gestützten Inhalt generiert.
Guardrails
Deterministische Validatoren, die ein Modell umhüllen, um bösartige Eingaben zu blockieren und Output-Konformität durchzusetzen.
Prompt-Injection
Angriff, bei dem bösartiger Input einen LLM manipuliert, Anweisungen zu ignorieren oder unbeabsichtigte Aktionen auszuführen.
Wir nutzen das jede Woche
30-Minuten-Gespräch buchen
Buchen Sie ein 30-Minuten-Gespräch und wir zeigen Ihnen, wie Grounding in einem laufenden Engagement aussieht.
30-Minuten-Gespräch buchen