Die Umsetzung ethischer und rechtlicher Prinzipien für Künstliche Intelligenz in der Verteidigung

Airbus Defence and Space, der deutsche Partner des drei Länder umfassenden, größten europäischen Rüstungsprojekts »Future Combat Air System« (FCAS), hat das Fraunhofer FKIE und die DMI Solutions mit der Entwicklung eines Explainable AI (XAI)-Demonstrators beauftragt. Das Projekt wird zusammen mit der FCAS-Expertenkommission für die verantwortungsvolle Nutzung neuer Technologien realisiert.

Fraunhofer FKIE und DMI Solutions werden gemeinsam mit ehemaligen Kampfflugzeugpiloten, Airbus-Engineering-Experten sowie Vertretern der Airbus/Fraunhofer FKIE-Expertengruppe für die verantwortungsvolle Nutzung neuer Technologien in einem FCAS den vielseitigen Einsatz von Künstlicher Intelligenz in einem breiteren ethischen und rechtlichen Kontext aufzeigen. Ziel ist es, den Grundstein für die zukünftige Zertifizierung, Zulassung und ethische Anerkennung von FCAS zu legen.

Prof. Dr. Wolfgang Koch, Abteilungsleiter und Chief Scientist am Fraunhofer FKIE: »Die entscheidende Frage ist: Wie konkretisiert und operationalisiert man ethische und rechtliche Anforderungen bei der technischen Gestaltung von FCAS? Im ersten Schritt bringen wir den Piloten mit einem echten AI/XAI System in einem simulierten Targeting Cycle zusammen und lassen ihn interaktiv ‘ethisch orientierte‘ neue Technologien erleben.«

Bert van Heukelom, Geschäftsführer von Data Machine Intelligence Solutions, fügt hinzu: »KI-basierte Empfehlungen für den menschlichen Benutzer müssen aussagekräftig dargestellt werden, damit sie richtig verstanden und akzeptiert werden. Wir freuen uns, im Rahmen dieses europäischen Prestigeprojekts mit dem Fraunhofer FKIE zusammenzuarbeiten.«

Erste Ergebnisse des Projekts sollen im vierten Quartal 2021 präsentiert werden.