AI Lab TRUST. Mensch-KI-Systeme: Interaktionsgestaltung für Interieurs autonomer Fahrsysteme im ÖV

Zusammenfassung Im Rahmen des Forschungsprojekts „AI Lab TRUST“ wurden Grundlagen für eine Integration von Menschen und künstlicher Intelligenz (KI) erarbeitet, in der KI Systeme in der Lage sind, Kontexte zu verstehen, sich zu erklären und für den Menschen transparent in ihren Entscheidungen zu werden. Besonderer Fokus wurde auf das Thema Vertrauen in der Mensch-KI-Interaktion gesetzt, das bei der Nutzung von Autonomous-Vehicle (AV) im öffentlichen Personennahverkehr (ÖPNV) eine zentrale Rolle für deren Akzeptanz spielt. Das Forschungsteam entwickelte ein theoretisches Modell, das den Prozess der Vertrauensbildung in der Interaktion zwischen Mensch und KI systematisch und quantifizierbar beschreibt. Es wurden Designfaktoren identifiziert, die das Vertrauen in diese Interaktion positiv beeinflussen. Das Modell wurde mit dem Layered Trust Modell von Hoff und Bashir und den Designprinzipien der ISO-Norm 9241 erweitert, um den Einfluss des Designs auf die Vertrauensbildung zu bestimmen. In einem VR-Experiment wurde ein Ringdisplay entwickelt, um die Kommunikation zwischen Mensch und KI in einem autonomen Shuttle während eines Bremsvorgangs zu unterstützen. Es konnte ein Informationsfluss bezüglich der Absichten der KI hergestellt werden, der aufmerksam, konsistent und selbsterklärend wahrgenommen wurde.