Definierter Begriff
Transformer
Die neuronale Netzwerkarchitektur, die modernen LLMs zugrunde liegt, basierend auf Self-Attention.
Der Transformer (Vaswani et al., 2017) ersetzte RNNs als dominante NLP-Architektur. Seine Schlüsselinnovation — der Self-Attention-Mechanismus — lässt das Modell alle Input-Tokens gegen alle anderen parallel gewichten. Alle Frontier-LLMs in 2026 sind Transformer; Variationen liegen bei Scale, Training-Data und Alignment.
Verwandte Begriffe
LLM (Large Language Model)
Ein großes Sprachmodell, trainiert auf massiven Textkorpora, fähig zu Generierung und Reasoning über Text.
Context-Window
Maximale Menge an Tokens (Input + Output), die ein LLM in einem einzigen Call verarbeiten kann.
Frontier-Modell
Das höchstkapazitive Modell, das ein Anbieter zur Verfügung stellt, optimiert für Reasoning mit hohem Einsatz.
Foundation-Modell
Großes vortrainiertes Modell, das die Basis für alle KI-Anwendungen einer Modellfamilie bildet.
Wir nutzen das jede Woche
30-Minuten-Gespräch buchen
Buchen Sie ein 30-Minuten-Gespräch und wir zeigen Ihnen, wie Transformer in einem laufenden Engagement aussieht.
30-Minuten-Gespräch buchen