Definierter Begriff
Halluzination
Wenn ein LLM plausibel klingenden, aber faktisch falschen, erfundenen oder durch seine Quellen nicht gestützten Inhalt generiert.
Halluzinationen sind der primäre Failure-Mode von LLMs in Produktion: erfundene Statistiken, falsche Zitate, falsche Daten, nicht existierende Gesetze. Die Mitigation erfolgt in Schichten: Grounding durch RAG, Output-Validatoren, Citation-Checking und Human-Review für Fälle mit niedriger Confidence. Die Halluzinationsrate bei faktischen Claims sollte in Produktion <1% sein; darüber bricht der Workflow das Vertrauen.
Verwandte Begriffe
Grounding
Modell-Output an verifizierbares Quellmaterial verankern, um Halluzinationen zu reduzieren.
RAG (Retrieval-Augmented Generation)
Generierung verankert in abgerufenen Quelldokumenten statt nur in der parametrischen Modell-Memory.
Guardrails
Deterministische Validatoren, die ein Modell umhüllen, um bösartige Eingaben zu blockieren und Output-Konformität durchzusetzen.
Prompt-Injection
Angriff, bei dem bösartiger Input einen LLM manipuliert, Anweisungen zu ignorieren oder unbeabsichtigte Aktionen auszuführen.
Wir nutzen das jede Woche
30-Minuten-Gespräch buchen
Buchen Sie ein 30-Minuten-Gespräch und wir zeigen Ihnen, wie Halluzination in einem laufenden Engagement aussieht.
30-Minuten-Gespräch buchen