Programm

Unternehmen stehen vor der Herausforderung, Künstliche Intelligenz (KI) verantwortungsvoll und vertrauenswürdig in ihre Prozesse zu integrieren. Dabei wird deutlich, dass praxistaugliche Qualitätsstandards für den KI-Einsatz dringend erforderlich sind, um Vertrauen zu schaffen und die Risiken für alle Beteiligten zu minimieren. MISSION KI, ein Hebelprojekt der Bundes-Digitalstrategie, setzt genau hier an. Ein Ziel des Projekts ist es, einen freiwilligen und sektorübergreifenden Mindeststandard für KI-Anwendungen mit geringem Risiko zu entwickeln. Dieser Standard soll sicherstellen, dass KI-Anwendungen qualitativ hochwertig und zuverlässig sind, ohne die Innovationskraft der Unternehmen zu beeinträchtigen. Simon Boffen stellt die zentralen Ziele, Ansätze und die Methodik hinter diesem Standard vor. Er zeigt auf, wie Unternehmen durch die Nutzung vertrauenswürdiger KI nicht nur ihre Effizienz steigern, sondern auch ihre Wettbewerbsposition nachhaltig stärken können.

In this upcoming dialogue, Sudhir Ethiraj, Global Head of Cybersecurity Office and CEO BU CSS at TÜV SÜD and moderator Anne Blickhan Senior Consultant at Agora Strategy will explore foundational concepts aimed at advancing secure and trustworthy AI systems. They will discuss the significance of concepts like Security by Default and Trustworthiness of AI, delving into details about these two approaches and how they can be combined to improve the cybersecurity of AI systems.In addition, they will discuss how to build trust in AI, especially in scenarios where reliability and transparency are critical. They also aim to address the challenges companies from various industries and sizes encounter in navigating the complex global regulatory landscape surrounding cybersecurity and AI. Join the dialogue to learn more about their engagement within the Charter of Trust and how the initiative helps unite industry experts in setting best practices for cybersecurity and promoting secure AI standards across sectors. 

Digitalpolitischer Austausch mit allen demokratischen Bundestagsfraktionen.

Sektorübergreifende Kooperationen haben das Potenzial, nachhaltige technologische Innovationen voranzubringen und umzusetzen. Besonders in gemeinwohlorientierten Projekten können KI-Anwendungen erheblichen Nutzen stiften. Eine der wichtigen Herausforderungen ist dabei die Entwicklung und Implementierung passender KI-Governance-Ansätze, welche die sektorübergreifende Zusammenarbeit sowie das Gemeinwohl stärken. Hierzu zählen Richtlinien ebenso wie standardisierte Normen, aber auch freiwillige Handlungsprinzipien. Ein zentraler Bestandteil der KI-Governance ist der europäische AI Act, der allgemeingültige Regeln zur Anwendung von KI umfasst. Neben dem AI Act gibt es weitere GovernanceAnsätze, die den Fokus auf Innovation und Wettbewerbsfähigkeit legen oder Leitlinien für verantwortungsvolle KI-Nutzung etablieren, wie z. B. die Initiative Partnership on AI. Diese und ähnliche Initiativen unterstützen sektorübergreifende Kooperationen und stärken die Menschenzentrierung der KI-Entwicklung und den Verbraucherschutz. 
Das Panel geht u.a. der Frage nach, wie wir sicherstellen können, dass Innovationen im Einklang mit gesellschaftlichen und ethischen Prinzipien entwickelt und genutzt werden und welche Rolle sektorübergreifende Innovationen dabei spielen können. Die Initiative Civic Coding möchte gemeinsam mit Dr. Alexander Goschew (DIN) und Philipp Mahlow (HIIG) insbesondere die Entwicklung und Implementierung passender KI-Governance-Ansätze anschauen und diskutieren, wie gemeinwohlorientierte Innovationen durch sie gestärkt werden können. 

Das Zentrum für Vertrauenswürdige Künstliche Intelligenz (ZVKI) beschäftigt sich seit 2021 in zahlreichen Veröffentlichungen und Erhebungen mit dem Begriff der „Vertrauenswürdigkeit“ von Technologie und KI-Systemen. In seinem kurzen Impuls stellt Matthieu Binder in Frage ob die häufig geforderte Sicherheit und Transparenz vom KI-Systemen und die Existenz von Recht und Normen wirklich genügen können um bei Verbraucher- und Nutzer*innen nachhaltiges Vertrauen zu schaffen. Denn die an Technologie gestellten Anforderungen gehen typischerweise über Legalität und Norm hinaus. In seinem Beitrag fordert Matthieu Binder von Unternehmen mehr Mut zu digitaler Ethik und präsentiert einen operationalisierten Prozess zur ethisch-reflektierten Auseinandersetzung beim Einsatz von KI-Anwendungen und der Konzeption von KI-Governance-Strukturen.

Die systematische Prüfung von KI-Systemen benötigt einen strukturierten Ansatz, der sowohl einen übergreifenden, allgemeinen Rahmen zur horizontalen Strukturierung des Feldes „KI-Prüfung“ als auch spezifische, konkrete Testmethoden zur tatsächlichen Prüfung verschiedener KI-Systeme bietet. Darüber hinaus ist es wichtig, diese beiden Aspekte vertikal miteinander zu verknüpfen, um ihre kohärente Zusammenarbeit sicherzustellen. Der Vortrag stellt die inhaltlichen Kerngedanken einer AI Assessment Matrix vor, die genau auf diese Bedürfnisse eingeht. Diese Matrix ist Kernbestandteil des AI Assessment Frameworks, das vom TÜV AI.Lab derzeit entwickelt wird.