Gemeinsam haben Expert*innen des Think Tank iRights.Lab, der Fraunhofer-Institute AISEC und IAIS sowie der Freien Universität Berlin das neue »Zentrum für vertrauenswürdige Künstliche Intelligenz« ins Leben gerufen. Das vom Bundesministerium der Justiz und für Verbraucherschutz (BMJV) geförderte Projekt soll Verbraucherinteressen stärken und als Schnittstelle zwischen Wissenschaft, Wirtschaft, Politik und Zivilgesellschaft über alle relevanten Aspekte von Künstlicher Intelligenz (KI) informieren.

Systeme der Künstlichen Intelligenz (KI) sind fester Bestandteil unseres Alltags geworden. Wir nutzen sie intuitiv und selbstverständlich. Gleichzeitig gibt es oft noch Vorbehalte und Skepsis gegenüber der Technologie. Um Unternehmen, Politik und Verbraucher*innen dabei zu unterstützen, den Nutzen von KI eigenverantwortlich beurteilen zu können, arbeiten die Fraunhofer-Institute für Angewandte und Integrierte Sicherheit AISEC sowie für Intelligente Analyse- und Informationssysteme IAIS an technischen Grundlagen für diskriminierungsfreie, faire, sichere und robuste KI-Systeme. Ihre Kompetenzen bringen sie nun auch in das neu gegründete Zentrum für vertrauenswürdige Künstliche Intelligenz ein.

Ziel des Zentrums ist es, Verbraucher*innen dazu zu befähigen, die Vor- und Nachteile von KI abzuwägen, Folgen abzuschätzen sowie souverän und selbstbestimmt Entscheidungen zur Nutzung von KI-Systemen zu treffen. Denn neben der technisch vertrauenswürdigen Gestaltung und systematischen Zertifizierung der Systeme ist ein souveräner Umgang mit den Technologien unerlässlich, um das Vertrauen der Menschen in KI-Anwendungen zu stärken.

Das vom Bundesministerium für Justiz und Verbraucherschutz (BMJV) geförderte Projekt soll im Wesentlichen vier Ziele erfüllen:

• Aufklärung und Information der Verbraucher*innen durch fundierte Hintergrundinformationen und Leitfäden zu den Chancen und Risiken von Künstlicher Intelligenz
• Bereitstellung technischer Lösungen und Zertifizierungsschemata zum Nachweis der Anforderungen an eine vertrauenswürdige KI, damit Verbraucher*innen ein höheres Maß an Informiertheit und Selbstbestimmtheit im Kontext digitaler Dienste erhalten
• Wissenschaftliche Begleitung bei der Entwicklung neuer Anforderungen an den Rechtsrahmen zum Schutz von Verbraucher*innen und Erarbeitung konkreter Handlungsempfehlungen für Entscheidungsträger*innen in Politik, Zivilgesellschaft und Wirtschaft (z.B. Entwickler*innen von KI-Systemen)
• Entwicklung von Schemata und Konzepten zur Evaluation, um zu überprüfen, ob Systeme die Anforderungen an eine vertrauenswürdige KI erfüllen

Das Fraunhofer AISEC unterstützt das Projekt mit seiner langjährigen Erfahrung im Bereich KI insbesondere in den Schwerpunkten diskriminierungsfreie KI, privacy-preserving Machine Learning, prüfbare Robustheit sowie Zuverlässigkeit von KI-Systemen.

Angriffe auf Systeme der Künstlichen Intelligenz, sogenannte Adversarial Attacks, nehmen in den letzten Jahren deutlich zu. Ein Fokus der Forschungsarbeit am Fraunhofer AISEC liegt deshalb auf der Robustheit von Künstlicher Intelligenz. Ein weiterer Fokus liegt im Bereich Privacy: Die Systeme sollen nachvollziehbar arbeiten und personenbezogene Daten schützen. Beides sind wichtige Schritte auf dem Weg zu zertifizierbarer KI.

Das Fraunhofer IAIS bringt seine Expertise in der Entwicklung von KI-Prüfverfahren und Zertifizierungsmöglichkeiten ein. Damit ergänzen sich die Aktivitäten zu zertifizierbarer KI von Fraunhofer IAIS und Fraunhofer AISEC ideal in diesem Projekt.

Neben den Fraunhofer-Instituten ist die Freie Universität Berlin an dem Projekt beteiligt. Die Gesamtkoordination übernimmt der Think Tank iRights.Lab.