Sensible-KI

BMWi-gefördertes Projekt erforscht sichere und vertrauenswürdige Künstliche Intelligenz für mobile Anwendungen und eingebettete Systeme

Pressemitteilung / 26. April 2021

Das Projekt SENSIBLE-KI erforscht Lösungen, um Angriffe auf KI-Systeme im mobilen und eingebetteten Kontext zu erschweren oder komplett zu verhindern.
© Fraunhofer AISEC
Das Projekt SENSIBLE-KI erforscht Lösungen, um Angriffe auf KI-Systeme im mobilen und eingebetteten Kontext zu erschweren oder komplett zu verhindern.

Im Projekt SENSIBLE-KI erforschen Partner aus Wirtschaft und Forschung unter der Leitung des Fraunhofer-Instituts für Angewandte und Integrierte Sicherheit AISEC Lösungen, um Systeme der Künstlichen Intelligenz (KI) in mobilen Anwendungen und eingebetteten Systemen sicher und vertrauenswürdig zu gestalten.

Methoden der Künstlichen Intelligenz kommen bereits in einer Vielzahl von Anwendungen zum Einsatz, beispielsweise in intelligenten Assistenzprogrammen oder in biometrischen Verifikationsverfahren. Bisher stehen noch keine einheitlichen Herangehensweisen zur Absicherung der KI-Systeme in mobilen und eingebetteten Systemen zur Verfügung, was zu Sicherheitslücken führen kann.

Im Projekt SENSIBLE-KI, das bereits am 01. März 2021 erfolgreich gestartet ist und vom Bundesministerium für Wirtschaft und Energie BMWi gefördert wird, werden Methoden entwickelt, um den Schutz von KI-Systemen und der von ihnen verarbeiteten Daten sicherzustellen, und gleichzeitig eine sichere Übertragung der KI-Modelle auf mobile Endgeräte zu ermöglichen. Dafür werden Lösungen entwickelt, um Angriffe auf KI-Systeme im mobilen und eingebetteten Kontext zu erschweren oder komplett zu verhindern.

Konkret kommen Hardware-basierte Trusted-Computing-Verfahren sowie Software-basierte Mechanismen zum Einsatz, die einerseits die Authentizität und Integrität, andererseits aber auch die Vertraulichkeit und Nachprüfbarkeit der Machine-Learning-(ML)-Modelle sicherstellen.

Kompetenz aus Industrie und Forschung

Um innovative Lösungen zur Absicherung von mobilen und eingebetteten KI-Systemen zu entwickeln und prototypisch umzusetzen, haben sich im Projekt SENSIBLE-KI Partner aus Wirtschaft und Forschung zusammengeschlossen.

Das Fraunhofer-Institut für Angewandte und Integrierte Sicherheit AISEC leitet das Projekt und verfügt über umfassende Expertise in den Bereichen Künstliche Intelligenz, eingebettete Systeme und Hardware-basierte Kryptografie.

Zu den weiteren Partnern des Projekts zählen außerdem die Bundesdruckerei GmbH, die Hochschule Darmstadt, sowie die neXenio GmbH. Die Bundesdruckerei und neXenio unterstützen das Projekt mit ihrem großen Erfahrungsschatz im Bereich digitaler Identitäten und biometrischer Zugangssysteme. Die Hochschule Darmstadt kann wissenschaftliche Erkenntnisse in den Bereichen Biometrie und Maschinelles Lernen in das Projekt einbringen.

Das Projekt greift nicht nur auf das Expertenwissen aus der Cybersicherheitsforschung und der Industrie zurück, sondern setzt gleichzeitig auf eine breite Entwickler-Community aus verschiedenen Branchen und Domänen. So wird sichergestellt, dass die entwickelten Ansätze und Methoden auch den Schutz liefern, der in der Praxis benötigt wird.

Das Projekt wird vom Bundesministerium für Wirtschaft und Energie gefördert. Das Gesamtprojektvolumen beträgt ca. 850.000 Euro über 3 Jahre.