Programm

Digitalpolitischer Austausch mit allen demokratischen Bundestagsfraktionen.

Sektorübergreifende Kooperationen haben das Potenzial, nachhaltige technologische Innovationen voranzubringen und umzusetzen. Besonders in gemeinwohlorientierten Projekten können KI-Anwendungen erheblichen Nutzen stiften. Eine der wichtigen Herausforderungen ist dabei die Entwicklung und Implementierung passender KI-Governance-Ansätze, welche die sektorübergreifende Zusammenarbeit sowie das Gemeinwohl stärken. Hierzu zählen Richtlinien ebenso wie standardisierte Normen, aber auch freiwillige Handlungsprinzipien. Ein zentraler Bestandteil der KI-Governance ist der europäische AI Act, der allgemeingültige Regeln zur Anwendung von KI umfasst. Neben dem AI Act gibt es weitere GovernanceAnsätze, die den Fokus auf Innovation und Wettbewerbsfähigkeit legen oder Leitlinien für verantwortungsvolle KI-Nutzung etablieren, wie z. B. die Initiative Partnership on AI. Diese und ähnliche Initiativen unterstützen sektorübergreifende Kooperationen und stärken die Menschenzentrierung der KI-Entwicklung und den Verbraucherschutz. 
Das Panel geht u.a. der Frage nach, wie wir sicherstellen können, dass Innovationen im Einklang mit gesellschaftlichen und ethischen Prinzipien entwickelt und genutzt werden und welche Rolle sektorübergreifende Innovationen dabei spielen können. Die Initiative Civic Coding möchte gemeinsam mit Dr. Alexander Goschew (DIN) und Philipp Mahlow (HIIG) insbesondere die Entwicklung und Implementierung passender KI-Governance-Ansätze anschauen und diskutieren, wie gemeinwohlorientierte Innovationen durch sie gestärkt werden können. 

What is AI’s true cost? This keynote explores the full impact of AI on resources, ecosystems, and society. Learn why immediate action is essential to foster sustainable AI innovation rooted in fairness, safety, and environmental responsibility.

In this upcoming dialogue, Sudhir Ethiraj, Global Head of Cybersecurity Office and CEO BU CSS at TÜV SÜD and moderator Anne Blickhan Senior Consultant at Agora Strategy will explore foundational concepts aimed at advancing secure and trustworthy AI systems. They will discuss the significance of concepts like Security by Default and Trustworthiness of AI, delving into details about these two approaches and how they can be combined to improve the cybersecurity of AI systems.In addition, they will discuss how to build trust in AI, especially in scenarios where reliability and transparency are critical. They also aim to address the challenges companies from various industries and sizes encounter in navigating the complex global regulatory landscape surrounding cybersecurity and AI. Join the dialogue to learn more about their engagement within the Charter of Trust and how the initiative helps unite industry experts in setting best practices for cybersecurity and promoting secure AI standards across sectors. 

Manchmal geben KI-Sprachmodelle falsche Antworten. Das ist oft nur lästig, kann aber in kritischen Anwendungsbereichen wie der Medizin oder dem Rechtswesen fatale Folgen haben. Dieses als „Halluzinationen“ bezeichnete Phänomen ist eines der hartnäckigsten Probleme bei der Entwicklung sicherer und vertrauenswürdiger KI-Anwendungen. Nur wenn wir eine klare Vorstellung von den Möglichkeiten und Grenzen von KI-Modellen haben, können wir sichere Anwendungen entwickeln. In diesem Vortrag werden wir aktuelle Erkenntnisse zu KI-Halluzinationen vorstellen, die Grenzen einer technischen Perspektive auf das Phänomen diskutieren und aktuelle Strategien zum Umgang damit vorstellen.

Das Zentrum für Vertrauenswürdige Künstliche Intelligenz (ZVKI) beschäftigt sich seit 2021 in zahlreichen Veröffentlichungen und Erhebungen mit dem Begriff der „Vertrauenswürdigkeit“ von Technologie und KI-Systemen. In seinem kurzen Impuls stellt Matthieu Binder in Frage ob die häufig geforderte Sicherheit und Transparenz vom KI-Systemen und die Existenz von Recht und Normen wirklich genügen können um bei Verbraucher- und Nutzer*innen nachhaltiges Vertrauen zu schaffen. Denn die an Technologie gestellten Anforderungen gehen typischerweise über Legalität und Norm hinaus. In seinem Beitrag fordert Matthieu Binder von Unternehmen mehr Mut zu digitaler Ethik und präsentiert einen operationalisierten Prozess zur ethisch-reflektierten Auseinandersetzung beim Einsatz von KI-Anwendungen und der Konzeption von KI-Governance-Strukturen.

Unternehmen stehen vor der Herausforderung, Künstliche Intelligenz (KI) verantwortungsvoll und vertrauenswürdig in ihre Prozesse zu integrieren. Dabei wird deutlich, dass praxistaugliche Qualitätsstandards für den KI-Einsatz dringend erforderlich sind, um Vertrauen zu schaffen und die Risiken für alle Beteiligten zu minimieren. MISSION KI, ein Hebelprojekt der Bundes-Digitalstrategie, setzt genau hier an. Ein Ziel des Projekts ist es, einen freiwilligen und sektorübergreifenden Mindeststandard für KI-Anwendungen mit geringem Risiko zu entwickeln. Dieser Standard soll sicherstellen, dass KI-Anwendungen qualitativ hochwertig und zuverlässig sind, ohne die Innovationskraft der Unternehmen zu beeinträchtigen. Simon Boffen stellt die zentralen Ziele, Ansätze und die Methodik hinter diesem Standard vor. Er zeigt auf, wie Unternehmen durch die Nutzung vertrauenswürdiger KI nicht nur ihre Effizienz steigern, sondern auch ihre Wettbewerbsposition nachhaltig stärken können.

Im Schatten des großen AI Booms wächst mit Quantencomputing die nächste Zukunftstechnologie heran - verbunden mit dem Versprechen, gewisse komplexe Berechnungen deutlich schneller als bisher lösen zu können. Johann Schmidt vom DLR Projektträger gibt einen kurzen Überblick über den aktuellen Stand der Entwicklung im Bereich Quantencomputing und legt dar, wo Kontaktstellen zur Künstlichen Intelligenz bestehen. Untermalt durch Beispiele aus der wissenschaftlichen Begleitung des BMWK Technologieprogramms "Quanten-Computing - Anwendungen für die Wirtschaft" wird klar, dass AI von Quantencomputern, aber Quantencomputer auch von AI profitieren können.

Die systematische Prüfung von KI-Systemen benötigt einen strukturierten Ansatz, der sowohl einen übergreifenden, allgemeinen Rahmen zur horizontalen Strukturierung des Feldes „KI-Prüfung“ als auch spezifische, konkrete Testmethoden zur tatsächlichen Prüfung verschiedener KI-Systeme bietet. Darüber hinaus ist es wichtig, diese beiden Aspekte vertikal miteinander zu verknüpfen, um ihre kohärente Zusammenarbeit sicherzustellen. Der Vortrag stellt die inhaltlichen Kerngedanken einer AI Assessment Matrix vor, die genau auf diese Bedürfnisse eingeht. Diese Matrix ist Kernbestandteil des AI Assessment Frameworks, das vom TÜV AI.Lab derzeit entwickelt wird.