Halluzination
Eine KI-Halluzination ist eine plausibel klingende, aber sachlich falsche oder unbelegte Ausgabe eines generativen Modells.
Sprachmodelle erzeugen Antworten aus gelernten Mustern und Kontext. Sie können dabei Daten, Zitate oder Quellen erfinden und dennoch sehr sicher formulieren. Fachlich spricht das NIST auch von „Confabulation“.
Praktische Bedeutung
Behauptungen müssen an belastbaren Quellen geprüft werden, besonders wenn daraus Entscheidungen folgen.
Gesellschaftliche Bedeutung
Erfundene Belege können falsches Vertrauen erzeugen und Fehlinformationen verbreiten.
Ein einfaches Beispiel
Eine Antwort nennt eine Studie mit passendem Titel, die in Wirklichkeit nicht existiert.
Nicht verwechseln mit
Ein Fehler ist nicht immer eine Halluzination; veraltete Daten oder eine missverstandene Frage können ebenfalls die Ursache sein.
Verwandte Begriffe
Weiterlesen im Magazin
Quellen und weiterführende Links
Redaktionell verantwortlich: David Schmitt · KI-Unterstützung bei Recherche und Formulierung.
Veröffentlicht: · Aktualisiert: