Aus Versehen verzerrt

Zusammenfassung Künstlich intelligente Systeme sind aus unserem Alltag nicht mehr wegzudenken. Sie beeinflussen uns stärker, als es vielen Menschen bewusst ist. Neuartige Methoden des Maschinellen Lernens, insbesondere vielschichtige, künstliche neuronale Netze, haben in den letzten Jahren neuen Produktkategorien wie Sprachassistenten, selbstfahrenden Autos oder Chatbots zu erheblicher Verbreitung verholfen. Vielen Firmen, aber auch Endnutzern ist dabei nicht bewusst, dass diese Systeme nicht frei von Vorurteilen und anfällig gegenüber speziellen Manipulationsversuchen sind, man bezeichnet dies als Bias-Effekte. In unserem Beitrag, „Aus Versehen verzerrt“, hinterfragen wir den Hype um Künstliche Intelligenz (KI) als Heilbringer einer digitalen und automatisierten Gesellschaft kritisch. Anhand aktueller Studien, relevanter Expertenaussagen und einem detaillierten Praxisbeispiel verdeutlichen wir, dass neben der Leistungsfähigkeit künstlich intelligenter Systeme andere Qualitätsmerkmale wie die Robustheit gegenüber Diskriminierungstendenzen und ungewolltem Fehlverhalten eine wichtige Rolle einnehmen werden.