Small Language Model (SLM)
Ein Small Language Model ist ein Sprachmodell mit deutlich weniger Parametern als die großen, universell einsetzbaren Sprachmodelle – typischerweise im Bereich weniger Milliarden Parameter. Die Anbieter der großen Modelle veröffentlichen deren Parameterzahlen in der Regel nicht, sodass sich der Abstand nur ungefähr beziffern lässt. SLMs sind meist auf bestimmte Aufgaben oder Domänen spezialisiert, benötigen weniger Rechenleistung und lassen sich dadurch auch lokal auf Laptops, Smartphones oder Firmenservern betreiben statt zwingend über Cloud-APIs.
In der Praxis
SLMs eignen sich besonders für klar abgegrenzte Aufgaben wie Klassifizierung, Zusammenfassungen oder Kundenservice-Antworten zu einem begrenzten Themenfeld, bei denen ein großes Modell überdimensioniert wäre. Vorteile sind geringere Kosten pro Anfrage, schnellere Antwortzeiten und mehr Datenkontrolle, weil Daten das eigene System nicht verlassen müssen. Der Nachteil: Bei offenen, breiten Fragestellungen und komplexem Weltwissen sind SLMs meist weniger leistungsfähig als große Foundation Models und benötigen für gute Ergebnisse oft gezieltes Fine-Tuning auf die eigene Domäne.