Programm

Prof. Ritter entwickelt mit ihrem Team digitale Zwillinge von menschlichen Gehirnen. Sie erfahren, zu welchen kognitive Leistungen diese Gehirnzwillinge fähig sein und welche Rolle sie in Zukunft in der Medizin spielen könnten.

Sektorübergreifende Kooperationen haben das Potenzial, nachhaltige technologische Innovationen voranzubringen und umzusetzen. Besonders in gemeinwohlorientierten Projekten können KI-Anwendungen erheblichen Nutzen stiften. Eine der wichtigen Herausforderungen ist dabei die Entwicklung und Implementierung passender KI-Governance-Ansätze, welche die sektorübergreifende Zusammenarbeit sowie das Gemeinwohl stärken. Hierzu zählen Richtlinien ebenso wie standardisierte Normen, aber auch freiwillige Handlungsprinzipien. Ein zentraler Bestandteil der KI-Governance ist der europäische AI Act, der allgemeingültige Regeln zur Anwendung von KI umfasst. Neben dem AI Act gibt es weitere GovernanceAnsätze, die den Fokus auf Innovation und Wettbewerbsfähigkeit legen oder Leitlinien für verantwortungsvolle KI-Nutzung etablieren, wie z. B. die Initiative Partnership on AI. Diese und ähnliche Initiativen unterstützen sektorübergreifende Kooperationen und stärken die Menschenzentrierung der KI-Entwicklung und den Verbraucherschutz. 
Das Panel geht u.a. der Frage nach, wie wir sicherstellen können, dass Innovationen im Einklang mit gesellschaftlichen und ethischen Prinzipien entwickelt und genutzt werden und welche Rolle sektorübergreifende Innovationen dabei spielen können. Die Initiative Civic Coding möchte gemeinsam mit Dr. Alexander Goschew (DIN) und Philipp Mahlow (HIIG) insbesondere die Entwicklung und Implementierung passender KI-Governance-Ansätze anschauen und diskutieren, wie gemeinwohlorientierte Innovationen durch sie gestärkt werden können. 

Manchmal geben KI-Sprachmodelle falsche Antworten. Das ist oft nur lästig, kann aber in kritischen Anwendungsbereichen wie der Medizin oder dem Rechtswesen fatale Folgen haben. Dieses als „Halluzinationen“ bezeichnete Phänomen ist eines der hartnäckigsten Probleme bei der Entwicklung sicherer und vertrauenswürdiger KI-Anwendungen. Nur wenn wir eine klare Vorstellung von den Möglichkeiten und Grenzen von KI-Modellen haben, können wir sichere Anwendungen entwickeln. In diesem Vortrag werden wir aktuelle Erkenntnisse zu KI-Halluzinationen vorstellen, die Grenzen einer technischen Perspektive auf das Phänomen diskutieren und aktuelle Strategien zum Umgang damit vorstellen.