SuKI - Sicherheit für und mit Künstlicher Intelligenz

Die zunehmende Vernetzung und Digitalisierung stellen immer neue Herausforderungen an die IT-Sicherheit. Auf der einen Seite bietet künstliche Intelligenz (KI) vielfältige Chancen, wie zum Beispiel eine einfachere Aggregation von Informationen, niedrigschwelligere Nutzungsangebote oder die Vermeidung von Gefahren durch menschliches Fehlverhalten. Gleichzeitig wird es immer wichtiger, die Sicherheit von KI geeignet zu überprüfen. Oft lassen sich Fragen zur sinnvollen Anwendung von KI, der sicheren Adaption von Algorithmen, der Nachweisbarkeit der Privatheit der Daten, zum geeigneten Modellschutz oder zur Robustheit noch nicht zufriedenstellend beantworten. Hier setzt das SuKI-Projekt an, um über fünf Jahre hinweg angewandte Forschung an der Schnittstelle zwischen künstlicher Intelligenz und IT-Sicherheit voranzubringen.

Die Forschungsabteilung Cognitive Security Technologies koordiniert das Projekt federführend.

Wie ist das Projekt aufgebaut?#

Ziel des Projektes ist der Auf- und Ausbau von Kompetenzfeldern an der Schnittstelle zwischen IT-Sicherheit und künstlicher Intelligenz am Fraunhofer AISEC. Zahlreiche Abteilungen des Fraunhofer AISEC sind in dieses Projekt involviert. Unterstützt wird das Vorhaben über fünf Jahre mit fünf Millionen Euro durch den Freistaat Bayern.

Das Projekt gliedert sich in vier Grundlagenprojekte:

  • Adversarial Machine Learning und Deepfakes,
  • Anomalieerkennung,
  • Eingebettete KI und Privacy sowie
  • KI-gestützte Sicherheitstechnologien.

Gemeinsam mit Industriepartnern sollen konkrete Anwendungen entwickelt werden, z.B. in den Bereichen Lagebilderstellung, Sicherheit in der Mobilität und künstliche Intelligenz zur Sicherheitsüberprüfung.

Was leistet SuKI?#

Bereits im Sommer 2018 wurde von der Bundesregierung eine KI-Strategie verabschiedet, die eine Basis dafür schaffen soll, Deutschland und Europa an die Spitze der Erforschung von künstlicher Intelligenz zu bringen.

Zu den definierten Zielen zählen unter anderem:

  • Wir wollen Deutschland und Europa zu einem führenden KI-Standort machen und so zur Sicherung der künftigen Wettbewerbsfähigkeit Deutschlands beitragen.
  • Die Potenziale von KI sollen Lebens- und Arbeitsbereiche sicherer, effizienter und nachhaltiger gestalten.
  • KI in Deutschland soll von einem hohen Niveau an IT-Sicherheit flankiert werden.

SuKI bündelt unter der Leitung der Abteilung Cognitive Security Technologies das Fachwissen und die Expertise im Bereich Künstliche Intelligenz mit den Kompetenzen und Vorarbeiten aus den Bereichen Hardware Security, Service und Application Security, Product Protection and Industrial Security sowie Secure Operating Systems. Hieraus entstehen vielfältige Werkzeuge, beispielsweise zur Analyse der Robustheit von Modellen, zur automatischen Erkennung von Deepfake-Inhalten, zur Anomalieerkennung bei heterogenen Daten, zur Analyse von Privatheit bei Modellen der KI sowie zur teil-automatisierten Erkennung und Behebung von Sicherheitsschwachstellen.

Welche Angebote bietet SuKI Industriepartnern?#

Für interessierte Unternehmen gibt es mehrere Möglichkeiten, mit uns zu kooperieren:

  • Bei der Anpassung und Integration unserer Lösung in die teils sehr spezifischen Einsatzumgebungen.
  • Bei der Sicherheitsbewertung von KI-Modellen.
  • Bei der Erstellung von KI-Modellen und ihrer Einbettung in sicherheitskritische Infrastrukturen.
  • Bei der gemeinsamen Erarbeitung verschiedener Einsatzbereiche für KI-Modelle: Beratung von der Erstellung des Datensatzes bis zum Robustheitstest im Einsatz.
Sollten Sie Fragen rund um das Projekt oder die Kooperationsmöglichkeiten in diesem Bereich haben, kontaktieren Sie uns jederzeit gerne via Email.

Sicherheit für und mit Künstlicher Intelligenz#

Datenschutz und Datenverarbeitung

Wir setzen zum Einbinden von Videos den Anbieter YouTube ein. Wie die meisten Websites verwendet YouTube Cookies, um Informationen über die Besucher ihrer Internetseite zu sammeln. Wenn Sie das Video starten, könnte dies Datenverarbeitungsvorgänge auslösen. Darauf haben wir keinen Einfluss. Weitere Informationen über Datenschutz bei YouTube finden Sie in deren Datenschutzerklärung unter: http://www.youtube.com/t/privacy_at_youtube

In diesem Video erfahren Sie mehr über die Grundlagenforschung und die interdisziplinäre Zusammenarbeit am Fraunhofer AISEC und erhalten umfassende Informationen zum Projekt SuKI - Sicherheit für und mit Künstlicher Intelligenz.

Weitere Informationen#

Pressemitteilung

Sicherheit für und mit Künstlicher Intelligenz

StM Aiwanger überreicht Zuwendungsbescheid zur Förderung von Künstlicher Intelligenz am Fraunhofer AISEC

Angewandte Forschung

Cognitive Security Technologies

Forschung an der Schnittstelle zwischen Künstlicher Intelligenz (KI) und IT-Sicherheit