KI-Halluzination
Eine KI-Halluzination ist eine von einem Sprachmodell erzeugte Aussage, die faktisch falsch oder frei erfunden ist, dabei aber sprachlich genauso überzeugend und selbstsicher formuliert wird wie eine korrekte Antwort.
In der Praxis
Halluzinationen entstehen unter anderem, wenn zu einem Thema wenige, widersprüchliche oder unklare Quellen im Trainings- beziehungsweise Retrieval-Material vorliegen. Klare, eindeutig formulierte und mit Quellen belegte Inhalte auf der eigenen Website senken das Risiko, dass ein KI-System falsche Aussagen über das eigene Unternehmen oder Fachgebiet verbreitet.