Exploration Sandbox for Augmented Reality (ESAR)

Exploration Sandbox for Augmented Reality (ESAR)

© Fraunhofer FKIE
Zielsystem des »StrAsRob«-Assistenz- und Automationssystems.

Zielsetzung dieser Studie war und ist es ein Explorationstool für Augmented-Reality-Elemente weiterzuentwickeln, mit dem das Potenzial von AR-Systemen für neue Kampfsysteme, wie z. B. das Main Ground Combat System (MGCS), systematisch ausgelotet werden kann. Dazu sollen Anwendungsfälle, Benutzerschnittstellen, Symbologie-Muster, Weiterentwicklung der Explorationsmethodik und Durchführung von Explorationen im Feld als Themenschwerpunkte für ein AR-Gesamtsystem bearbeitet werden.

Darüber hinaus wurden die Ergebnisse als Basis für eine „Cooperative Demonstration of Technology“ (CDT) im Rahmen der NATO-Gruppe AVT 334, in der sowohl WTD 91 als auch das FKIE (in der Rolle des Co-Chairs) beteiligt sind, genutzt. Die Demonstrationen fanden am 3. + 4. Mai 2022 in Meppen und am 11. Mai 2023 in Bad Fallingbostel statt.

Da die Kombinationsmöglichkeiten der Gestaltungsdimensionen wie Form, Farbe, Interaktionsmodalität, etc. so vielfältig sind, ist es praktisch unmöglich, alle möglichen Lösungen und Kombinationen vollständig durch Experimente zu validieren. Um funktionierende und praktikable Lösungen mittels AR zu erreichen, bietet sich das Vorgehensparadigma der (Mensch-System-)Exploration an. Solch eine Exploration wurde u. a. im Technologieträger JODAA (Joint Operational Demonstrator for Advanced Applications) durchgeführt werden.

© Fraunhofer FKIE
Stark vereinfachte Darstellung der Kooperation zwischen Mensch-Maschine-Systemen. Gezeigt wird, wie Mensch und Automation die Situation wahrnehmen, Absichten bilden und in Handlung umsetzen, die bei geeigneter Interaktion kooperativ sein kann.
© Fraunhofer FKIE
Zeitlicher und situativer Use Case »Hindernissen ausweichen im Folgemodus«: Der militärische Kraftfahrer des Führungsfahrzeugs (MKF FÜ) führt entweder ein Brems- oder, sofern möglich und präferiert, ein Ausweichmanöver durch. Die Automation des Folgefahrzeugs (Autom. FO) überprüft ebenfalls, ob ein Ausweichmanöver möglich ist, und führt andernfalls einen Nothalt durch. In letzterem Fall kann die Fahrt erst nach einem Eingriff des militärischen Kraftfahrers des Folgefahrzeugs (MKF FO) fortgesetzt werden.

Das Vorgehen orientiert sich an der bereits bewährten Abfolge von Anforderungsanalyse, Technologierecherche, Anpassung der Testplattform, Exploration der Gestaltungsmöglichkeiten, Auswahl, Beschaffung, Installation und Anpassungen der Technologien, sowie der Dokumentation. Dabei wird insbesondere Wert daraufgelegt, von Anfang an einsatzerfahrene Soldaten mit einzubeziehen, im Zusammenspiel mit diesen Nutzern, Bedarfsträger und weiteren Stakeholdern Konzepte explorativ zu gestalten, die vielversprechendsten Varianten in Software und Hardware zu implementieren, sodass sie erfahrbar werden und im JODAA getestet und demonstriert werden können. Eine (Mensch-System-)Exploration ist dabei eine systemische und systematische Erkundung von neuen Soldat-Maschine-Systemen, in Analogie zu Erkundungen und Aufklären im Gefecht und den Exploratory Teams der NATO-STO. Dazu wird gemeinsam mit Partizipanten die Menge möglicher Lösungen systematisch so weit eingegrenzt, dass genauere Untersuchungen ermöglicht werden, ohne für den Nutzer wichtige Aspekte aus dem Blick zu verlieren. 

© Fraunhofer FKIE
»StrAsRob«-Simulatoraufbau: Totale hinter dem Fahrer.
© Fraunhofer FKIE
Seitliche Ansicht des Simulatoraufbaus mit Pedalerie, Lenkrad und grafischem Display als Benutzerschnittstelle.

Nachdem die Möglichkeit geschaffen wurde, AR-Symboliken zu explorieren und zu gestalten, wurde eine Untersuchung für die Übertragung der AR-Technologien und Methoden, die in der NATO-Gruppe AVT-290 und dem Vorgängerprojekten ARiE I & II (Augmented Reality im Einsatz) erarbeitet wurden, in landgestützten Plattformen durchgeführt.

Als Basisfahrzeug wurde hier der F&T Demonstrator GTK BOXER JODAA durch das BAAINBw ausgewählt. Dazu wurde in einem Workshop am FKIE im Auftrage des BAAINBw ein relevantes Szenario mit verschiedenen Anwendungsfällen für AR beschrieben. Darauffolgend wurde die Exploration Sandbox weiterentwickelt und die entsprechenden Schnittstellen mit dem Führungsinformationssystem (englisch Battle Management System, BMS) in Zusammenarbeit mit Rheinmetall Land Systems und Diehl Defence geschaffen (Abbildung 4). Das BMS sorgt für einen Informationsaustausch zwischen verschieden Einheiten der NATO.

Zusammen mit Vertretern der WDT 91, FKIE und des Zentrum Kraftfahrwesen Bundeswehr wurde ein Workshop zum Thema „Blue Team Tracking“ durchgeführt. Dabei wurden Kleinlagen (Vignetten), angelehnt an die NATO RTG AVT-290 etablierten Anwendungsfälle, entwickelt. Wobei die Vignetten eine Konvoifahrt mit Kontaktverlust eines Fahrzeuges und anschließender Rettungsmission sowie eine Konvoifahrt zur Zielzone darstellen.

Über mehrere Wochen wurden die durch die Abteilung Systemergonomie des FKIE entwickelten Systeme in das Forschungsfahrzeug JODAA integriert, getestet und die Untersuchung zusammen mit den Projektpartnern vorbereitet. Anschließend wurden die entwickelten Szenare in einer Untersuchung mit Probanden durchgespielt und abgefahren (s. Abbildung 5). An mehreren Stellen im Szenario wurde die Darstellungsform der Augmented Reality Symbole diskutiert und entsprechend der Kommentare der Besatzung mit Hilfe der Exploration Sandbox UI in Echtzeit abgeändert. Die Erfahrungen und Meinungen der Probanden wurden durch Fragebögen im Anschluss abgefragt. In abschließenden Workshops vor Ort wurden die Ergebnisse gesammelt und weitere Anmerkungen der Probanden aufgenommen. Im Nachgang wurden aus den Rückmeldungen der Probanden eine allgemeine Darstellungsform erarbeitet, Erweiterungspotential identifiziert und Optimierungen herausgearbeitet.

 

Logo Zuwendungsgeber, z. B. »Gefördert durch BMBF«-Logo-Variante, Name & Verlinkung Projektpartner

Verweise

Bielecki, K., Bloch, M., López, D., Schmidt, R., Stolz, S., Wasser, J., . . . Flemisch, F. (2020). Augmented Reality im Einsatz II (ARiE II). Tech. rep., BAAINBw.
 

Bielecki, K., Vorst, D., Wasser, J., Lopez, D., Baltzer, M., & Flemisch, F. (2020). Systronics 2020 – JODAA.