Wissenschaft - Unentdeckte Fehlerquelle bei KI führt zu Dominoeffekt
Was haben ein Pferd namens Hans und eine Künstliche Intelligenz gemeinsam? Die Antwort: Beide treffen richtige Vorhersagen, nutzen für die Entscheidung aber irrelevante oder unerwartete Muster. Dieses Phänomen trägt den Namen Clever-Hans Effekt. Mehr dazu von dem Informatiker Prof. Dr. Klaus-Robert Müller von der TU Berlin.
Anfang des 20. Jahrhunderts erregte das Pferd Hans großes Aufsehen, da es angeblich rechnen und zählen konnte. Der eigentliche Trick dabei: Hans konnte erfolgreich die entsprechenden Signale seines Besitzers lesen, um auf die richtige Antwort zu kommen. Genauso treffen auch KI-Modelle richtige Vorhersagen, was allerdings zu einem verheerenden Domino-Effekt führt. Wie sind die Forschenden darauf gekommen und kann man diesen Fehler beheben?