KI-Halluzination
Im Kontext von KI ist eine Halluzination eine zuversichtliche Antwort, die von einem großen Sprachmodell generiert wird und nicht mit seinen Trainingsdaten oder Fakten aus der realen Welt übereinstimmt. Sie tritt auf, wenn das Modell Informationen "erfindet", um Wissenslücken zu füllen, oft weil maßgebliche, strukturierte Quelldaten fehlten oder unklar waren.
Warum Halluzinationen ein Markenrisiko darstellen
KI-Halluzinationen stellen ernste Risiken für Unternehmen dar. Ein LLM könnte einen gefälschten Rabattcode für Ihr Geschäft erfinden, Ihre Rückgaberichtlinien falsch zitieren, einem Konkurrenzprodukt eine Funktion Ihres Produkts zuschreiben oder einen veralteten Preis angeben. Diese Fälschungen beschädigen das Kundenvertrauen und können rechtliche Haftung schaffen. Die Ursache sind meist fehlende oder schlecht strukturierte Daten – wenn eine KI keine klaren, autoritativen Informationen finden kann, füllt sie Lücken mit probabilistischen Vermutungen. Die primäre Verteidigung ist strukturierte Daten über JSON-LD und Wissensgraphen. Indem Sie Fakten explizit in maschinenlesbaren Formaten deklarieren, geben Sie KI-Modellen klare, überprüfbare Informationen zum Zitieren, anstatt sie zu zwingen, Antworten zu halluzinieren.
Faktische KI-Antwort vs. Halluzination
Auswirkungen in der Praxis
Benutzer fragt Chatbot nach eingestelltem Produkt
KI halluziniert: "Produkt X verfügbar, 49,99 $ "
Kunde bestellt, entdeckt Wahrheit, fordert Rückerstattung
Produktschema enthält "Verfügbarkeit": "Eingestellt"
KI gibt korrekt an: "Produkt X eingestellt"
Kunde erhält genaue Informationen, prüft Alternativen