Verständliche Künstliche Intelligenz in Assistenzsystemen an Mensch-System-Schnittstellen

Zusammenfassung Jedes digitale System, das Menschen interaktiv unterstützt, sei es bei der Datenanalyse, bei der Erstellung von Diagnosen, bei der Steuerung von Prozessen, bei der Suche nach bisher nicht bekannten Lösungen, wobei auch immer, braucht Künstliche Intelligenz (KI). In der Praxis sind Daten im Allgemeinen unvollständig und dynamisch. Wenn die KI Interpretationen anbietet oder Vorschläge macht, dann sind alle diese Äußerungen der KI hypothetisch. Anders kann es nicht sein. Die KI lernt und wird immer besser – ein immer hilfreicherer Assistent. Menschen brauchen Transparenz der KI. Im Prozess der Interaktion müssen sie nachfragen, was die KI gemacht hat und warum. Oft genügt nicht eine einfache Antwort auf eine einfache Frage, denn sowohl das Lösen von Problemen als auch das Lernen der KI ist ein Prozess über der Zeit. Verständlichkeit der KI erfordert Erklärungsdialoge. Benötigt wird, was man im Englischen als Explainable Artificial Intelligence (XAI) bezeichnet. Erklärbare KI – kurz XAI – kann die Fragen beantworten, woher sie ihre Hypothesen holt, warum sie eine Hypothese behält oder warum sie eine Hypothese verwirft und wie sie zu einer aktuellen Hypothese gekommen ist. Jede lernende KI kann so konstruiert werden, dass sie ihr Verhalten gut erklärt. Im Gegensatz zur XAI gibt es KI-Ansätze, die in der Fachliteratur als Blackbox by Nature bezeichnet werden, ein Zustand, der überwunden werden muss. Der Schlüssel zu XAI, zu erklärbaren KI-Assistenten, ist Explainability by Design.