KI-Halluzination
Im Kontext der KI ist eine Halluzination eine selbstbewusste Antwort, die von einem großen Sprachmodell generiert wird und nicht mit seinen Trainingsdaten oder realen Fakten übereinstimmt. Sie tritt auf, wenn das Modell Informationen „erfindet“, um Wissenslücken zu schließen, oft weil maßgebliche, strukturierte Quelldaten fehlten oder unklar waren.
Warum Halluzinationen ein Markenrisiko darstellen
KI-Halluzinationen stellen ernsthafte Risiken für Unternehmen dar. Ein LLM erfindet möglicherweise einen gefälschten Rabattcode für Ihren Shop, gibt Ihre Rückgaberichtlinie falsch wieder, schreibt eine Funktion eines Mitbewerbers Ihrem Produkt zu oder nennt einen veralteten Preis. Diese Erfindungen schädlichen das Kundenvertrauen und können rechtliche Haftungsansprüche nach sich ziehen. Die Ursache liegt meist in fehlenden oder schlecht strukturierten Daten – wenn eine KI keine klaren, maßgeblichen Informationen finden kann, füllt sie Lücken mit probabilistischen Schätzungen. Die primäre Verteidigung sind strukturierte Daten über JSON-LD und Wissensgraphen. Indem Sie Fakten explizit in maschinenlesbaren Formaten deklarieren, geben Sie KI-Modellen klare, überprüfbare Informationen an die Hand, die sie zitieren können, anstatt sie zu zwingen, Antworten zu halluzinieren.
Faktische KI-Antwort vs. Halluzination
Auswirkungen in der realen Welt
Benutzer fragt Chatbot nach eingestelltem Produkt
KI halluziniert: "Produkt X verfügbar, 49,99 €"
Kunde bestellt, entdeckt die Wahrheit, fordert Rückerstattung
Produktschema enthält "Verfügbarkeit": "Eingestellt"
KI gibt korrekt an: "Produkt X eingestellt"
Der Kunde erhält genaue Informationen und prüft Alternativen