Manchmal geben KI-Sprachmodelle falsche Antworten. Das ist oft nur lästig, kann aber in kritischen Anwendungsbereichen wie der Medizin oder dem Rechtswesen fatale Folgen haben. Dieses als „Halluzinationen“ bezeichnete Phänomen ist eines der hartnäckigsten Probleme bei der Entwicklung sicherer und vertrauenswürdiger KI-Anwendungen. Nur wenn wir eine klare Vorstellung von den Möglichkeiten und Grenzen von KI-Modellen haben, können wir sichere Anwendungen entwickeln. In diesem Vortrag werden wir aktuelle Erkenntnisse zu KI-Halluzinationen vorstellen, die Grenzen einer technischen Perspektive auf das Phänomen diskutieren und aktuelle Strategien zum Umgang damit vorstellen.