Blicksteuerung mit unbemannten, robotischen Plattformen

Der Blick eines Menschen ist die Basis unserer sozialen Kooperation. Bereits seit Jahrtausenden nutzen wir unseren Blick für Kommunikation und Interaktion mit anderen Menschen. Warum nutzen wir ihn nicht auch für die Kooperation mit technischen Systemen? Unser Blick hat eine Richtung, eine Bewegung und eine Aussage. Diese Eigenschaften lassen sich als Eingabemedium für technische Systeme nutzbar machen. Im zivilen Bereich ist dieser Ansatz bereits auf dem Vormarsch, aber wie kann dieses Konzept im militärischen Bereich die Zukunft bestimmen? Zum Beispiel durch Nutzung in einem Aufklärungsszenario mit ferngesteuerten Roboterplattformen.

Gaze Based Cooperation (GaBaCo)

© Fraunhofer FKIE
Zielsystem des »StrAsRob«-Assistenz- und Automationssystems.

Zielsetzung dieser Studie war und ist es ein Explorationstool für Augmented-Reality-Elemente weiterzuentwickeln, mit dem das Potenzial von AR-Systemen für neue Kampfsysteme, wie z. B. das Main Ground Combat System (MGCS), systematisch ausgelotet werden kann. Dazu sollen Anwendungsfälle, Benutzerschnittstellen, Symbologie-Muster, Weiterentwicklung der Explorationsmethodik und Durchführung von Explorationen im Feld als Themenschwerpunkte für ein AR-Gesamtsystem bearbeitet werden.

Darüber hinaus wurden die Ergebnisse als Basis für eine „Cooperative Demonstration of Technology“ (CDT) im Rahmen der NATO-Gruppe AVT 334, in der sowohl WTD 91 als auch das FKIE (in der Rolle des Co-Chairs) beteiligt sind, genutzt. Die Demonstrationen fanden am 3. + 4. Mai 2022 in Meppen und am 11. Mai 2023 in Bad Fallingbostel statt.

Da die Kombinationsmöglichkeiten der Gestaltungsdimensionen wie Form, Farbe, Interaktionsmodalität, etc. so vielfältig sind, ist es praktisch unmöglich, alle möglichen Lösungen und Kombinationen vollständig durch Experimente zu validieren. Um funktionierende und praktikable Lösungen mittels AR zu erreichen, bietet sich das Vorgehensparadigma der (Mensch-System-)Exploration an. Solch eine Exploration wurde u. a. im Technologieträger JODAA (Joint Operational Demonstrator for Advanced Applications) durchgeführt werden.

© Fraunhofer FKIE
Stark vereinfachte Darstellung der Kooperation zwischen Mensch-Maschine-Systemen. Gezeigt wird, wie Mensch und Automation die Situation wahrnehmen, Absichten bilden und in Handlung umsetzen, die bei geeigneter Interaktion kooperativ sein kann.
© Fraunhofer FKIE
Zeitlicher und situativer Use Case »Hindernissen ausweichen im Folgemodus«: Der militärische Kraftfahrer des Führungsfahrzeugs (MKF FÜ) führt entweder ein Brems- oder, sofern möglich und präferiert, ein Ausweichmanöver durch. Die Automation des Folgefahrzeugs (Autom. FO) überprüft ebenfalls, ob ein Ausweichmanöver möglich ist, und führt andernfalls einen Nothalt durch. In letzterem Fall kann die Fahrt erst nach einem Eingriff des militärischen Kraftfahrers des Folgefahrzeugs (MKF FO) fortgesetzt werden.

Das Vorgehen orientiert sich an der bereits bewährten Abfolge von Anforderungsanalyse, Technologierecherche, Anpassung der Testplattform, Exploration der Gestaltungsmöglichkeiten, Auswahl, Beschaffung, Installation und Anpassungen der Technologien, sowie der Dokumentation. Dabei wird insbesondere Wert daraufgelegt, von Anfang an einsatzerfahrene Soldaten mit einzubeziehen, im Zusammenspiel mit diesen Nutzern, Bedarfsträger und weiteren Stakeholdern Konzepte explorativ zu gestalten, die vielversprechendsten Varianten in Software und Hardware zu implementieren, sodass sie erfahrbar werden und im JODAA getestet und demonstriert werden können. Eine (Mensch-System-)Exploration ist dabei eine systemische und systematische Erkundung von neuen Soldat-Maschine-Systemen, in Analogie zu Erkundungen und Aufklären im Gefecht und den Exploratory Teams der NATO-STO. Dazu wird gemeinsam mit Partizipanten die Menge möglicher Lösungen systematisch so weit eingegrenzt, dass genauere Untersuchungen ermöglicht werden, ohne für den Nutzer wichtige Aspekte aus dem Blick zu verlieren. 

© Fraunhofer FKIE
»StrAsRob«-Simulatoraufbau: Totale hinter dem Fahrer.
© Fraunhofer FKIE
Seitliche Ansicht des Simulatoraufbaus mit Pedalerie, Lenkrad und grafischem Display als Benutzerschnittstelle.

Nachdem die Möglichkeit geschaffen wurde, AR-Symboliken zu explorieren und zu gestalten, wurde eine Untersuchung für die Übertragung der AR-Technologien und Methoden, die in der NATO-Gruppe AVT-290 und dem Vorgängerprojekten ARiE I & II (Augmented Reality im Einsatz) erarbeitet wurden, in landgestützten Plattformen durchgeführt.

Als Basisfahrzeug wurde hier der F&T Demonstrator GTK BOXER JODAA durch das BAAINBw ausgewählt. Dazu wurde in einem Workshop am FKIE im Auftrage des BAAINBw ein relevantes Szenario mit verschiedenen Anwendungsfällen für AR beschrieben. Darauffolgend wurde die Exploration Sandbox weiterentwickelt und die entsprechenden Schnittstellen mit dem Führungsinformationssystem (englisch Battle Management System, BMS) in Zusammenarbeit mit Rheinmetall Land Systems und Diehl Defence geschaffen (Abbildung 4). Das BMS sorgt für einen Informationsaustausch zwischen verschieden Einheiten der NATO.

Zusammen mit Vertretern der WDT 91, FKIE und des Zentrum Kraftfahrwesen Bundeswehr wurde ein Workshop zum Thema „Blue Team Tracking“ durchgeführt. Dabei wurden Kleinlagen (Vignetten), angelehnt an die NATO RTG AVT-290 etablierten Anwendungsfälle, entwickelt. Wobei die Vignetten eine Konvoifahrt mit Kontaktverlust eines Fahrzeuges und anschließender Rettungsmission sowie eine Konvoifahrt zur Zielzone darstellen.

Über mehrere Wochen wurden die durch die Abteilung Systemergonomie des FKIE entwickelten Systeme in das Forschungsfahrzeug JODAA integriert, getestet und die Untersuchung zusammen mit den Projektpartnern vorbereitet. Anschließend wurden die entwickelten Szenare in einer Untersuchung mit Probanden durchgespielt und abgefahren (s. Abbildung 5). An mehreren Stellen im Szenario wurde die Darstellungsform der Augmented Reality Symbole diskutiert und entsprechend der Kommentare der Besatzung mit Hilfe der Exploration Sandbox UI in Echtzeit abgeändert. Die Erfahrungen und Meinungen der Probanden wurden durch Fragebögen im Anschluss abgefragt. In abschließenden Workshops vor Ort wurden die Ergebnisse gesammelt und weitere Anmerkungen der Probanden aufgenommen. Im Nachgang wurden aus den Rückmeldungen der Probanden eine allgemeine Darstellungsform erarbeitet, Erweiterungspotential identifiziert und Optimierungen herausgearbeitet.

 

F. Flemisch et al., »Shared control is the sharp end of cooperation: Framework of joint action, shared control and human machine cooperation«, in Cognition, Technology & Work, Special Issue »Shared and cooperative control of safety critical systems.« F. Flemisch et al. Eds., 2019.

J. Wasser, M. Bloch, K. Bielecki, D. Vorst, D. Lopez, M. Baltzer and F. Flemisch, »Gaze based interaction for object classification in recon-naissance missions using highly automated platforms«, in 4th International Conference on Intelligent Human Systems Integration: Integrating People and Intelligent Systems, Palermo, Italy, February 2021.

Flemisch, F., Baltzer, M., Sadeghian, S., Meyer, R., Lopez Hernandez, D., Baier, R.: Making HSI more intelligent: Human Systems Exploration versus Experiment for the Integration of Humans and Artificial Cognitive Systems; 2nd conference on Intelligent Human Systems Integration IHSI San Diego 2019

Flemisch, F., Preutenborbeck, M., Baltzer, Marcel., Wasser, J., Kehl, C., Grünwald, R., Pastuszka, H., Dahlmann, A. (2022). Human Systems Exploration for Ideation and Innovation in Potentially Disruptive Defense and Security Systems. 10.1007/978-3-031-06636-8_5.

Baltzer, M., Altendorf, E., Meier, S., Flemisch, F.: Mediating the interaction between human and automation during the arbitration processes in cooperative guidance and control of highly automated vehicles: Basic concept and first study. In: (ed.) Stanton, N., Landry, S., Bucchianico, G. D., and Vallicelli, A. Advances in Human Aspects of Transportation Part I. AHFE Conference, 2014.

Baltzer, M. C. A., López, D., Flemisch, F.: Towards an interaction pattern language for human machine cooperation and cooperative movement. Cognition, Technology & Work. 21, 593–606, 2019.

NATO Joint Military Symbology APP-6(D) 2017. https://litpolukrbrig.wp.mil.pl/u/APP-6D_JOINT_MILITARY_SYMBOLOGY._16_October_2017.pdf.