Fine-Tuning
Fine-Tuning bezeichnet das Nachtrainieren eines bereits trainierten Sprachmodells mit einem kleineren, spezifischen Datensatz, damit es eine engere Aufgabe besser erfüllt oder einen bestimmten Ton beziehungsweise Fachwortschatz annimmt.
In der Praxis
Für die meisten Unternehmen ist RAG – das gezielte Einspeisen relevanter Dokumente zum Zeitpunkt der Anfrage – oder gutes Prompt-Engineering eine praktikablere Alternative zum Fine-Tuning, da beides günstiger und leichter aktuell zu halten ist. Fine-Tuning lohnt sich eher bei sehr spezifischen, wiederkehrenden Aufgaben mit stabilen Anforderungen und ausreichend Trainingsdaten.