Programm

Das Zentrum für Vertrauenswürdige Künstliche Intelligenz (ZVKI) beschäftigt sich seit 2021 in zahlreichen Veröffentlichungen und Erhebungen mit dem Begriff der „Vertrauenswürdigkeit“ von Technologie und KI-Systemen. In seinem kurzen Impuls stellt Matthieu Binder in Frage ob die häufig geforderte Sicherheit und Transparenz vom KI-Systemen und die Existenz von Recht und Normen wirklich genügen können um bei Verbraucher- und Nutzer*innen nachhaltiges Vertrauen zu schaffen. Denn die an Technologie gestellten Anforderungen gehen typischerweise über Legalität und Norm hinaus. In seinem Beitrag fordert Matthieu Binder von Unternehmen mehr Mut zu digitaler Ethik und präsentiert einen operationalisierten Prozess zur ethisch-reflektierten Auseinandersetzung beim Einsatz von KI-Anwendungen und der Konzeption von KI-Governance-Strukturen.

Prof. Ritter entwickelt mit ihrem Team digitale Zwillinge von menschlichen Gehirnen. Sie erfahren, zu welchen kognitive Leistungen diese Gehirnzwillinge fähig sein und welche Rolle sie in Zukunft in der Medizin spielen könnten.

Die systematische Prüfung von KI-Systemen benötigt einen strukturierten Ansatz, der sowohl einen übergreifenden, allgemeinen Rahmen zur horizontalen Strukturierung des Feldes „KI-Prüfung“ als auch spezifische, konkrete Testmethoden zur tatsächlichen Prüfung verschiedener KI-Systeme bietet. Darüber hinaus ist es wichtig, diese beiden Aspekte vertikal miteinander zu verknüpfen, um ihre kohärente Zusammenarbeit sicherzustellen. Der Vortrag stellt die inhaltlichen Kerngedanken einer AI Assessment Matrix vor, die genau auf diese Bedürfnisse eingeht. Diese Matrix ist Kernbestandteil des AI Assessment Frameworks, das vom TÜV AI.Lab derzeit entwickelt wird.

Im Schatten des großen AI Booms wächst mit Quantencomputing die nächste Zukunftstechnologie heran - verbunden mit dem Versprechen, gewisse komplexe Berechnungen deutlich schneller als bisher lösen zu können. Johann Schmidt vom DLR Projektträger gibt einen kurzen Überblick über den aktuellen Stand der Entwicklung im Bereich Quantencomputing und legt dar, wo Kontaktstellen zur Künstlichen Intelligenz bestehen. Untermalt durch Beispiele aus der wissenschaftlichen Begleitung des BMWK Technologieprogramms "Quanten-Computing - Anwendungen für die Wirtschaft" wird klar, dass AI von Quantencomputern, aber Quantencomputer auch von AI profitieren können.

Unternehmen stehen vor der Herausforderung, Künstliche Intelligenz (KI) verantwortungsvoll und vertrauenswürdig in ihre Prozesse zu integrieren. Dabei wird deutlich, dass praxistaugliche Qualitätsstandards für den KI-Einsatz dringend erforderlich sind, um Vertrauen zu schaffen und die Risiken für alle Beteiligten zu minimieren. MISSION KI, ein Hebelprojekt der Bundes-Digitalstrategie, setzt genau hier an. Ein Ziel des Projekts ist es, einen freiwilligen und sektorübergreifenden Mindeststandard für KI-Anwendungen mit geringem Risiko zu entwickeln. Dieser Standard soll sicherstellen, dass KI-Anwendungen qualitativ hochwertig und zuverlässig sind, ohne die Innovationskraft der Unternehmen zu beeinträchtigen. Simon Boffen stellt die zentralen Ziele, Ansätze und die Methodik hinter diesem Standard vor. Er zeigt auf, wie Unternehmen durch die Nutzung vertrauenswürdiger KI nicht nur ihre Effizienz steigern, sondern auch ihre Wettbewerbsposition nachhaltig stärken können.

Manchmal geben KI-Sprachmodelle falsche Antworten. Das ist oft nur lästig, kann aber in kritischen Anwendungsbereichen wie der Medizin oder dem Rechtswesen fatale Folgen haben. Dieses als „Halluzinationen“ bezeichnete Phänomen ist eines der hartnäckigsten Probleme bei der Entwicklung sicherer und vertrauenswürdiger KI-Anwendungen. Nur wenn wir eine klare Vorstellung von den Möglichkeiten und Grenzen von KI-Modellen haben, können wir sichere Anwendungen entwickeln. In diesem Vortrag werden wir aktuelle Erkenntnisse zu KI-Halluzinationen vorstellen, die Grenzen einer technischen Perspektive auf das Phänomen diskutieren und aktuelle Strategien zum Umgang damit vorstellen.

In this upcoming dialogue, Sudhir Ethiraj, Global Head of Cybersecurity Office and CEO BU CSS at TÜV SÜD and moderator Anne Blickhan Senior Consultant at Agora Strategy will explore foundational concepts aimed at advancing secure and trustworthy AI systems. They will discuss the significance of concepts like Security by Default and Trustworthiness of AI, delving into details about these two approaches and how they can be combined to improve the cybersecurity of AI systems.In addition, they will discuss how to build trust in AI, especially in scenarios where reliability and transparency are critical. They also aim to address the challenges companies from various industries and sizes encounter in navigating the complex global regulatory landscape surrounding cybersecurity and AI. Join the dialogue to learn more about their engagement within the Charter of Trust and how the initiative helps unite industry experts in setting best practices for cybersecurity and promoting secure AI standards across sectors.