18.11.2020
AMS-Algorithmus: „Seit Corona ist Datenbasis wertlos“
Durch die Corona-Krise haben die Daten in dem AMS-System kaum noch Aussagekraft, sagen Forscher.
Der AMS-Algorithmus gilt bereits seit seiner Präsentation vor mehr als zwei Jahren als heiß umstritten. Derzeit befindet er sich auch nicht im Einsatz, weil die Datenschutzbehörde diesen untersagt hat. Still wird es um den Algorithmus deshalb aber auch während der Corona-Krise nicht.
Forscherinnen und Forscher des Instituts für Technikfolgen-Abschätzung (ITA) der Österreichischen Akademie der Wissenschaften und der TU Wien haben im Auftrag der Arbeiterkammer OÖ eine 120-seitige Studie zum AMS-Algorithmus durchgeführt (PDF). „Dabei hatten wir aber keinen Zugriff auf die Daten selbst, bekamen aber einige interne Papiere des AMS zu dessen Überlegungen“, sagt Florian Cech, einer der Studienautoren vom Centre for Informatics and Society an der TU Wien, im Gespräch mit der futurezone.
Alte Daten unbrauchbar durch die Krise
Eines der Ergebnisse der Studie ist, dass der Algorithmus im Zuge der Corona-Krise für die Zukunft praktisch unbrauchbar geworden ist. „Die Datenbasis ist für die mittelfristige Verwendung wertlos“, sagt Cech. Seit der Corona-Krise seien die Arbeitsmarktchancen in vielen Branchen nicht mehr vergleichbar mit dem, was davor Realität gewesen sei, so der Forscher. Das liege daran, dass bei dem System aus vergangenen Daten für die Zukunft geschlossen werden soll.
„Doch nicht nur durch eine Krise wie diese haben sich die Bedingungen schlichtweg verändert. Auch wenn es zu lokalen Gesetzesänderungen kommt, oder eine Riesen-Firma mit einem großen Standort in Konkurs geht, hat das massive Auswirkungen und es kann mit so einem Algorithmus zu verzerrten Ergebnissen kommen“, so Cech. Deshalb müsse man bereits die Grundidee des Systems hinterfragen.
Negative, soziale Auswirkungen
Doch die Forscher haben den AMS-Algorithmus nicht nur aus technischer Sicht analysiert, sondern auch aus sozialpolitischer. Und hier zeigen sich ebenfalls deutliche Gefahren. Der AMS-Algorithmus teilt Menschen nämlich in drei Gruppen ein: die mit guten Arbeitsmarktchancen, mit mittleren Chancen und mit schlechten. Dazu werden Parameter wie Alter, Geschlecht, Wohnort, Betreuungspflichten herangezogen. Dies führt laut der Studie zu sozialer Ungleichheit und Diskriminierung.
„Eine Kategorisierung in Arbeitssuchende mit „hohen“, „mittleren“ und „niedrigen“ Arbeitsmarktchancen hat negative, soziale Auswirkungen“, sagt Doris Allhutter, Forscherin am ITA, zur futurezone. „Menschen werden dadurch demotiviert oder finden sich mit ihrem Schicksal ab. Das ist eine Richtung, in die wir uns als Gesellschaft nicht bewegen wollen“, so Allhutter.
Nicht so effizient wie gedacht
uch das eigentliche Ziel des AMS-Algorithmus könnte mit dem geschaffenen System verfehlt werden, heißt es in der Studie und seitens der Autoren. Das Ziel des AMS-Algorithmus ist wirtschaftliche Effizienz. Die Fördergelder, die eingesetzt werden, sollen richtig verteilt werden. Berater sollen anhand des ihnen angezeigten Score rascher beurteilen können, ob jemand bestimmte Maßnahmen erhalten soll, oder nicht. „Es ist naiv zu glauben, dass sich dadurch nicht der gesamte Beratungsprozess verändern wird“, sagt Astrid Mager, Forscherin am ITA.
„Berater müssen mit diesem Score interagieren. Entweder sie übernehmen ihn unhinterfragt, oder sie brauchen mehr Zeit für eine Beurteilung. Auf jeden Fall verschiebt sich das Beratungsgespräch dadurch, alles dreht sich nur noch um den Score. Es geht weg von der individuellen Biografie einer Person, hin zu einem Wert, auf den man reduziert wird. Natürlich hat das große Auswirkungen“, so Mager. Die Forscherin geht davon aus, dass, dadurch mehr Beratungszeit notwendig werde, und nicht weniger, wie es seitens des AMS vorgesehen ist. „Das System wird damit nicht einmal dem eigenen Anspruch gerecht“, so Mager.
„Es gibt keine Lösung“
Ist der AMS-Algorithmus also für die Katz? „Eine einfache Lösung, mit der man all die von uns aufgezeigten Probleme beheben kann, gibt es nicht“, sagt Allhutter. Man müsse allerdings bereits bei der Ausschreibung eines solchen Projekts Antidiskriminierung mitdenken, so Allhutter. Der AMS-Algorithmus wurde ausschließlich von Statistikern und Mathematikern entwickelt und es war keine sozialwissenschaftliche Perspektive eingebunden. „Wenn man so einen Algorithmus einsetzt, sind daran auch sehr viele politischen Entscheidungen geknüpft, etwa darüber, welche Gruppe gefördert wird. Das System ist daher eine klare Dienstleistungsrationalisierung, aber die Serviceorientierung des AMS bleibt damit völlig auf der Strecke“, so Mager.
An der veröffentlichten Studie mitgewirkt haben zudem die beiden Forscher Fabian Fischer und Gabriel Grill. Vom AMS gab es bislang keine offizielle Stellungnahme zur Kritik der Forscher. Eine Anfrage der futurezone dazu läuft.
Mehr Budget für Personal gefordert
Der Auftraggeber der Studie, die AK OÖ, fordert anstelle des AMS-Algorithmus andere Maßnahmen, um Arbeitslose zu unterstützen. So soll es einen Rechtsanspruch auf bedarfsgerechte Maßnahmen geben und mehr Geld für mehr Personal. „Kein Algorithmus kann ein zu knapp bemessenes AMS-Budget kaschieren“, so Kalliauer. Um gerade jetzt in der Krise Jobs zu schaffen, bräuchte es ein Konjunkturprogramm.
Bis auf weiteres bleibt der AMS-Algorithmus sowieso abgedreht.
Doch das AMS hat gegen die Entscheidung der Datenschutzbehörde, mit der das Computersystem gestoppt wurde, Berufung eingelegt. Damit geht die Causa als nächstes ans Bundesverwaltungsgericht.
https://futurezone.at/netzpolitik/ams-algorithmus-sollte-ganz-abgedreht-werden/401009924
Quelle https://futurezone.at/netzpolitik/ams-algorithmus-seit-corona-ist-datenbasis-wertlos/401101638