Was KI kann und was sie nur zu können scheint
Sprachmodelle sagen das plausibelste nächste Wort voraus und optimieren damit auf Plausibilität, nicht auf Wahrheit. Stark sind sie, wo Sprache geformt wird und das Material von Ihnen kommt: zusammenfassen, umformulieren, übersetzen, entwerfen. Schwach sind sie, wo die Antwort selbst das Wissen ist: Zahlen, Namen, Quellen. Erfundene Antworten klingen dabei genauso überzeugend wie richtige. Für den Betrieb folgt daraus: Aufgaben mit Material laufen lassen, Aufgaben ohne Material prüfen, und vom Ton einer Antwort nie auf ihre Richtigkeit schließen.
Diese Lektion ist Station 1 des KI-Grundkurses. Sie braucht kein Vorwissen und etwa zehn Minuten. Am Ende wissen Sie, warum dasselbe Werkzeug brillant zusammenfasst und zugleich Quellen erfindet.
Wie arbeitet ein Sprachmodell?
Ein Sprachmodell hat riesige Textmengen gelesen. Daraus sagt es das jeweils plausibelste nächste Wort voraus. Es versteht nicht wie ein Mensch und schlägt nicht in einer Datenbank nach. Es rechnet mit Wahrscheinlichkeit, nicht mit Wahrheit.
Das klingt nach einer technischen Fußnote, erklärt aber fast alles im Alltag. Plausibel und wahr fallen oft zusammen, deshalb sind die Antworten so oft brauchbar. Sie fallen aber nicht immer zusammen, und das Modell merkt den Unterschied selbst nicht.
Die Aussage dieser Lektion in drei Sätzen:
Ein Sprachmodell sagt das jeweils plausibelste nächste Wort voraus. Es optimiert auf Plausibilität, nicht auf Wahrheit. Deshalb klingen richtige und falsche Antworten gleich überzeugend, und deshalb bleibt die Prüfung durch einen Menschen Teil jeder ernsthaften Nutzung.
Wofür ist es dadurch stark?
Stark ist das Werkzeug überall dort, wo Sprache geformt werden muss und das Wissen schon da ist: zusammenfassen, umformulieren, übersetzen, ordnen, Entwürfe schreiben. Das Material liefern Sie, das Modell liefert die Form.
An diesen Aufgaben scheitert wenig, weil die Wahrheit schon im Material steckt. Ein Protokoll, das Sie einfügen, muss das Modell nicht wissen, nur verdichten.
Wo irrt es souverän?
Schwach ist es überall dort, wo die Antwort selbst das Wissen ist: Zahlen, Namen, Termine, Rechtsfragen, Quellen. Fehlt dem Modell die Information, entsteht trotzdem eine flüssige Antwort, denn irgendein nächstes Wort ist immer plausibel.
Dieses Erfinden hat einen Namen: Halluzination. Es ist kein seltener Defekt, sondern die Kehrseite derselben Mechanik, die das Zusammenfassen so gut macht. Wie oft es passiert, hängt von Modell, Aufgabe und Formulierung ab. Eine allgemeingültige Quote gibt es nicht. Gemessene Werte gelten immer nur für einen bestimmten Test, nie für Ihren Fall.
Was heißt das für den Betrieb?
Zwei Konsequenzen reichen für den Anfang. Erstens: Aufgaben mit Material funktionieren, Aufgaben ohne Material brauchen Kontrolle. Zweitens: Je überzeugender eine Antwort klingt, desto weniger sagt der Ton über ihre Richtigkeit.
Übung: fünf Minuten am eigenen Fall
Stellen Sie dem Werkzeug Ihrer Wahl zwei Fragen. Erstens eine mit Material: fügen Sie eine längere E-Mail ein und lassen Sie sie in drei Sätzen zusammenfassen. Zweitens eine ohne Material: fragen Sie nach drei Fachbetrieben Ihrer Branche in Ihrem Bezirk, mit Adresse. Schalten Sie dafür die Websuche des Werkzeugs aus, falls vorhanden – mit Websuche prüfen Sie das Netz, nicht das Modell.
Vergleichen Sie die Ergebnisse mit der Wirklichkeit. Die erste Antwort ist meist gut, die zweite oft teilweise erfunden. Genau diesen Unterschied sollten Sie ab jetzt im Kopf haben. Weiter geht es mit Lektion 2: den sechs Bausteinen einer guten Anweisung.
