Programm

Das Zentrum für Vertrauenswürdige Künstliche Intelligenz (ZVKI) beschäftigt sich seit 2021 in zahlreichen Veröffentlichungen und Erhebungen mit dem Begriff der „Vertrauenswürdigkeit“ von Technologie und KI-Systemen. In seinem kurzen Impuls stellt Matthieu Binder in Frage ob die häufig geforderte Sicherheit und Transparenz vom KI-Systemen und die Existenz von Recht und Normen wirklich genügen können um bei Verbraucher- und Nutzer*innen nachhaltiges Vertrauen zu schaffen. Denn die an Technologie gestellten Anforderungen gehen typischerweise über Legalität und Norm hinaus. In seinem Beitrag fordert Matthieu Binder von Unternehmen mehr Mut zu digitaler Ethik und präsentiert einen operationalisierten Prozess zur ethisch-reflektierten Auseinandersetzung beim Einsatz von KI-Anwendungen und der Konzeption von KI-Governance-Strukturen.

Sektorübergreifende Kooperationen haben das Potenzial, nachhaltige technologische Innovationen voranzubringen und umzusetzen. Besonders in gemeinwohlorientierten Projekten können KI-Anwendungen erheblichen Nutzen stiften. Eine der wichtigen Herausforderungen ist dabei die Entwicklung und Implementierung passender KI-Governance-Ansätze, welche die sektorübergreifende Zusammenarbeit sowie das Gemeinwohl stärken. Hierzu zählen Richtlinien ebenso wie standardisierte Normen, aber auch freiwillige Handlungsprinzipien. Ein zentraler Bestandteil der KI-Governance ist der europäische AI Act, der allgemeingültige Regeln zur Anwendung von KI umfasst. Neben dem AI Act gibt es weitere GovernanceAnsätze, die den Fokus auf Innovation und Wettbewerbsfähigkeit legen oder Leitlinien für verantwortungsvolle KI-Nutzung etablieren, wie z. B. die Initiative Partnership on AI. Diese und ähnliche Initiativen unterstützen sektorübergreifende Kooperationen und stärken die Menschenzentrierung der KI-Entwicklung und den Verbraucherschutz. 
Das Panel geht u.a. der Frage nach, wie wir sicherstellen können, dass Innovationen im Einklang mit gesellschaftlichen und ethischen Prinzipien entwickelt und genutzt werden und welche Rolle sektorübergreifende Innovationen dabei spielen können. Die Initiative Civic Coding möchte gemeinsam mit Dr. Alexander Goschew (DIN) und Philipp Mahlow (HIIG) insbesondere die Entwicklung und Implementierung passender KI-Governance-Ansätze anschauen und diskutieren, wie gemeinwohlorientierte Innovationen durch sie gestärkt werden können. 

Die systematische Prüfung von KI-Systemen benötigt einen strukturierten Ansatz, der sowohl einen übergreifenden, allgemeinen Rahmen zur horizontalen Strukturierung des Feldes „KI-Prüfung“ als auch spezifische, konkrete Testmethoden zur tatsächlichen Prüfung verschiedener KI-Systeme bietet. Darüber hinaus ist es wichtig, diese beiden Aspekte vertikal miteinander zu verknüpfen, um ihre kohärente Zusammenarbeit sicherzustellen. Der Vortrag stellt die inhaltlichen Kerngedanken einer AI Assessment Matrix vor, die genau auf diese Bedürfnisse eingeht. Diese Matrix ist Kernbestandteil des AI Assessment Frameworks, das vom TÜV AI.Lab derzeit entwickelt wird.