Künstliche Intelligenz

Safety und Security von vornherein mitdenken

Künstliche Intelligenz (KI) ermöglicht in vielen Anwendungsbereichen eine signifikante Verbesserung bekannter Funktionen und Dienste. Darüber hinaus können durch KI auch neue Produkte und Dienstleistungen konzipiert und umgesetzt werden (z.B. in der Produktion, Mobilität, dem Bereich Smart City / Region und der Energiewirtschaft). Diese Entwicklungen adressieren vielfach auch sicherheitskritische Bereiche – z.B. dort, wo Menschen in der Produktion direkt mit robotischen Systemen interagieren oder wir Straßenfahrzeuge umfassend automatisieren möchten. Gerade in solchen Fällen sind Fragestellungen der Betriebs- und Angriffssicherheit hochgradig relevant.
Auch wenn Safety und Security zwei verschiedene Handlungsfelder sind, sollten sie stets integriert betrachtet werden. Während der System-entwicklung und auch der Systemnutzung sind sie entsprechend zu adressieren. In vorgeschlagenen Lösungen sollten sie sich „by-design“
widerspiegeln. Der Vortrag zeigt Beispiele für konkrete Problembereiche bei Einsatz von KI auf und skizziert Ansätze zur Betrachtung von Safety und Security in KI-zentrierten Engineering-Prozessen.

Prof. Dr. rer. nat. Frank Köster
Gründungsdirektor des DLR-Instituts für KI-Sicherheit in Ulm und Sankt Augustin. Forschungsschwerpunkte: KI-Engineering, sichere verteilte Dateninfrastrukturen, fortschrittliche KI-Ausführungsumgebungen u. Quantencomputing, ethische, rechtliche und gesellschaftliche Aspekte von KI.
Auch Professor an der Universität Oldenburg und insbesondere auch Pate für die Domäne Mobilität innerhalb von GAIA-X.