Definierter Begriff
LoRA (Low-Rank Adaptation)
Parameter-effiziente Fine-Tuning-Methode, die kleine Adapter statt des vollen Modells trainiert.
LoRA friert die Foundation-Modell-Gewichte ein und trainiert kleine Low-Rank-Matrizen, die das Verhalten modifizieren. Adapter sind 10-100MB (vs 200GB+ für volle Gewichte), trainieren in Stunden vs Tagen und können zur Inference-Zeit getauscht werden. Die Standard-Fine-Tuning-Methode für Produktions-Teams in 2026.
Verwandte Begriffe
Fine-Tuning
Ein vortrainiertes Foundation-Modell auf aufgabenspezifischen Daten anpassen, um die Performance auf einer engen Aufgabe zu verbessern.
Context-Window
Maximale Menge an Tokens (Input + Output), die ein LLM in einem einzigen Call verarbeiten kann.
Frontier-Modell
Das höchstkapazitive Modell, das ein Anbieter zur Verfügung stellt, optimiert für Reasoning mit hohem Einsatz.
Foundation-Modell
Großes vortrainiertes Modell, das die Basis für alle KI-Anwendungen einer Modellfamilie bildet.
Wir nutzen das jede Woche
30-Minuten-Gespräch buchen
Buchen Sie ein 30-Minuten-Gespräch und wir zeigen Ihnen, wie LoRA (Low-Rank Adaptation) in einem laufenden Engagement aussieht.
30-Minuten-Gespräch buchen