KI-Antworten prüfen, bevor sie rausgehen
KI-Antworten prüft man mit drei Handgriffen. Erstens die genannte Quelle selbst aufrufen, denn Sprachmodelle erfinden auch Quellenangaben. Zweitens die Gegenfrage stellen: Was spricht gegen diese Antwort? Drittens Zahlen nie ungeprüft übernehmen; jede Zahl, die den Betrieb verlässt, braucht eine Primärquelle. Eine Bestätigung durch das Modell selbst prüft nichts. Die drei Handgriffe kosten Minuten und finden die häufigen und teuren Fehler, wenn auch nicht alle.
Diese Lektion ist Station 5 des KI-Grundkurses und die dritte von drei Lektionen; dazwischen liegen zwei Werkzeuge. Sie behandelt den Handgriff, der über den Wert aller anderen entscheidet: das Prüfen, bevor etwas den Betrieb verlässt.
Warum reicht gesunder Menschenverstand nicht?
Weil das übliche Warnsignal fehlt. Bei Menschen verrät sich Unsicherheit im Ton. Ein Sprachmodell kann sicher klingen und falsch liegen – sein Ton verrät nichts. Erfundenes und Richtiges kommen in derselben souveränen Verpackung. Wer nach Gefühl prüft, prüft die Verpackung.
Handgriff eins: die Quelle selbst aufrufen
Sprachmodelle erfinden auch Quellenangaben, formal korrekt aussehende mit plausiblen Titeln. Eine Quellenangabe ist deshalb keine Prüfung, sondern eine Einladung dazu. Aufrufen, nachsehen, ob es die Quelle gibt und ob die Aussage dort wirklich steht.
Wichtig ist die Reihenfolge: erst die Quelle lesen, dann übernehmen. Umgekehrt wandert die erfundene Zahl ins Angebot und die Prüfung findet nie statt.
Handgriff zwei: die Gegenfrage stellen
Fragen Sie das Modell nach der Gegenposition: „Was spricht gegen diese Antwort? Was müsste wahr sein, damit sie falsch ist?“ Das ist keine echte Prüfung, aber ein guter Fehlerdetektor. Auffällig oft nennt die Gegenfrage genau die schwache Stelle.
Was dagegen nichts prüft: das Modell um Bestätigung der eigenen Antwort zu bitten. Es bestätigt sie viel zu oft, auch wenn sie falsch ist.
Die Aussage dieser Lektion in zwei Sätzen:
KI-Antworten prüft man mit drei Handgriffen: die genannte Quelle selbst aufrufen, die Gegenfrage stellen und Zahlen nie ungeprüft übernehmen. Eine Bestätigung durch das Modell selbst ist keine Prüfung, und der überzeugende Ton einer Antwort sagt nichts über ihre Richtigkeit.
Handgriff drei: Zahlen nie ungeprüft übernehmen
Für Zahlen gilt die strengste Regel, weil sie am teuersten irren: Preise, Mengen, Fristen, Paragrafen. Jede Zahl, die den Betrieb verlässt, hat eine Primärquelle oder sie bleibt draußen.
Eine Grenze benennen wir offen: Diese drei Handgriffe finden nicht jeden Fehler. Sie finden die häufigen und die teuren, und sie kosten zusammen wenige Minuten. Mehr Sicherheit gibt es nur mit Fachwissen im jeweiligen Gebiet.
Übung: einmal absichtlich hereinfallen
Fragen Sie das Werkzeug nach einer Statistik zu Ihrer Branche, samt Quelle. Schalten Sie dafür die Websuche des Werkzeugs aus, falls vorhanden – mit Websuche prüfen Sie das Netz, nicht das Modell. Rufen Sie die Quelle auf. Prüfen Sie beides: Gibt es die Quelle, und steht die Zahl dort?
Wenn beides stimmt, haben Sie gut gewählt. Wenn nicht, haben Sie einen erfundenen Beleg entdeckt, bevor er in einem Angebot gelandet ist. Danach sind Sie bereit für den Wissens-Check, den Abschluss des Kurses.
