Wozu Automatisierung fähig ist: Weil sein Ex-Boss eine Eingabe nicht richtig erledigt hatte, meldete das System den Mann ab und listete ihn als Ex-Mitarbeiter.
Alles begann, als die Zutrittskarte eines Morgens plötzlich nicht mehr funktionierte. Das kann schon einmal vorkommen, daher ging Ibrahim Diallo zu seinem Manager, um das zu melden. Seine direkte Vorgesetzte versprach ihm, sich sofort um eine neue Zutrittskarte zu kümmern.
Doch damit begann sein Alptraum erst. An seinem Arbeitsplatz stellte er fest, dass er aus allen System ausgesperrt war und nicht mehr auf seine Arbeitsdokumente zugreifen konnte. Daneben stand der Zusatz „inaktiv“. Wenig später kamen auch mehrere Security-Leute, die ihn aus dem Büro „freundlich rausbegleiteten“. Seine Vorgesetzte sowie der Firmenboss standen laut dem Bericht hilflos daneben und konnten nichts tun.
Automatisiertes System
Was war passiert? Das Computersystem hat Diallo automatisiert gefeuert, wie BBC berichtet. Es waren erst acht Monate seines Dreijahresvertrags abgelaufen und daher war dieser unerwartete Rauswurf doch sehr merkwürdig.
Die Firma brauchte dann drei Wochen, um herauszufinden, was passiert war. Sein alter Boss, der in Pension geschickt wurde, hatte im System vergessen, einen bestimmten Befehl zu erteilen, damit das Arbeitsverhältnis weiter aufrecht bleibt. Das Computersystem hat Diallo daraufhin als „Ex-Mitarbeiter“ gelistet und den Abmelde-Prozess automatisiert ins Leben gerufen.
Abgeführt „wie ein Dieb“
Nach den drei Wochen ohne Bezahlung und praktisch ohne Job hätte Diallo wieder bei der Firma weitermachen können. Doch er konnte dort nicht mehr richtig Fuß fassen. Er musste seinen Arbeitskollegen erklären, was passiert war und diese haben sich darauf von ihm distanziert. Außerdem konnte er nicht vergessen, dass er von Sicherheitsmitarbeitern „wie ein Dieb“ abgeführt worden war. Er suchte sich einen anderen Job.
Der Fall zeigt jedoch, was passieren kann, wenn ein Computersystem automatisiert Entscheidungen umsetzt, die Fehler beinhalten. In dem Fall hat eine falsche Eingabe dazu geführt, dass Diallo gefeuert worden war und wochenlang keinen Lohn erhalten hat. „Das wird noch ein Lehrbeispiel für die Mensch-Maschine-Beziehung“, so der KI-Experte Dave Coplin.
Nicht der erste Fall
In den USA hat die Mathematikerin Cathy O’Neil bereits mehrere, ähnliche Beispiele gesammelt und in einem Buch „Weapons of Mass Destruction: Wie sie Wahlen manipulieren, Berufschancen zerstören und unsere Gesundheit gefährden“ zusammengefasst. So wurden etwa in den USA bereits engagierte Lehrer gefeuert, weil sie laut System bestimmte Quoten nicht erfüllen konnten. Diese Quoten waren aber fehlberechnet worden.
