25. Februar 2020 https://www.derstandard.at/story/2000114974300/ams-algorithmus-forscher-warnen-vor-diskriminierung-und-bemaengeln-fehlende-transparenz
Im Juli dürfte der Algorithmus, mit dem das Arbeitsmarktservice Jobsuchende in drei Gruppen einteilt, in Echtbetrieb gehen. Einige Wissenschafter äußern Bedenken,
Von wegen nur ein Algorithmus: Mit 96 Modellen werden die Chancen von Arbeitssuchenden beim AMS berechnet.
Ein Computersystem spaltet die Geister. Seit im Oktober 2018 bekanntgeworden ist, dass das Arbeitsmarktservice (AMS) künftig einen Algorithmus dazu nutzen will, die Jobchancen von Arbeitslosen zu bewerten, wird über das Für und Wider des Systems gestritten. Die Gegner orten einen „Dammbruch“ und warnen vor einer Art Vorherrschaft computerbasierter Systeme.
Weil noch dazu das Geschlecht und die Staatsbürgerschaft bei der Chancenbewertung durch den Computer eine Rolle spielen, steht auch der Vorwurf der Diskriminierung im Raum. Beim AMS dagegen ist von überzogener Kritik die Rede: Der Algorithmus werde nur die Realität am Arbeitsmarkt abbilden. Und letztlich werde weiterhin nicht der Computer, sondern ein AMS-Berater alle Entscheidungen treffen.
Wer hat nun recht? Eine Bewertung dieser Frage ist auch deshalb schwer, weil mehrere Metiers betroffen sind. Es geht ebenso um komplexe arbeitsmarktpolitische Fragen wie um die Rolle algorithmischer Systeme.
Eine Gruppe von Wissenschaftern von der TU Wien und der Akademie der Wissenschaften hat den bisher vielleicht umfassendsten Anlauf unternommen, um den Algorithmus und seine Wirkungen zu analysieren.
Debatte über Transparenz
In dem soeben erschienenen Paper („Algorithmic Profiling of Job Seekers in Austria: How Austerity Politics Are Made Effective“) äußern die Autoren starke Bedenken gegen den AMS-Algorithmus. Das Ganze beginnt bei der Transparenz, die es laut Paper entgegen dem Versprechen des AMS nicht vollständig geben soll.
Zur Erinnerung: Das Programm wird Arbeitslose in jene mit guten, mittleren und schlechten Jobchancen einteilen. Personen mit guten Arbeitsmarktchancen sind jene, bei denen mit 66-prozentiger Wahrscheinlichkeit angenommen wird, dass sie es binnen sieben Monaten schaffen, Beschäftigung für drei Monate zu finden.
Kunden mit schlechten Chancen sind jene, bei denen die Wahrscheinlichkeit, dass die Betroffenen binnen 24 Monaten sechs Monate in Beschäftigung gebracht werden können, bei weniger als 25 Prozent liegt. Alle anderen zählen zur Gruppe mit mittlerer Perspektive.
In die Bewertung der Chancen fließen viele Variablen ein: so etwa der Wohnort des Jobsuchenden, die bisherige Karriere, die höchste abgeschlossene Ausbildung, aber eben auch das Geschlecht. Jede Variable hat bei der Wahrscheinlichkeitsrechnung ein anderes Gewicht. Aber es gibt 96 verschiedene Modelle mit unterschiedlichen Gewichtungen. Bei der Berechnung der kurzfristigen Jobchancen haben die erwähnten einzelnen Variablen ein anderes Gewicht als bei der langfristigen Beurteilung. Je nachdem, wie lange jemand arbeitslos ist, verändert sich die Gewichtung weiter.
Rolle des Geschlechts
Die Annahmen sind auch je nachdem anders, ob es vollständige Daten aus der Vergangenheit des Arbeitslosen gibt oder nicht. Alles in allem ergibt das die 96 erwähnten Modelle.
Detailliert publiziert hat das AMS die Gewichtung aller Variablen zunächst nur beim kurzfristigen Modell. Zuletzt hatte es das AMS im Rahmen der Anfrage der NGO Epicenter Works abgelehnt, alle Variablen für das langfristige Modell zu veröffentlichen. Da nicht volle Transparenz gegeben sei, sei die Folgenabschätzung in einigen Bereichen nicht möglich, so die Autoren des Papers.
Das führt zur Frage, ob Diskriminierung vorliegt: AMS-Chef Johannes Kopf betont immer wieder, dass der Algorithmus Frauen keinesfalls benachteilige, auch wenn die Jobchancen von Frauen vom System schlechter bewertet werden als jene von Männern. Frauen würden überproportional dem Segment mit mittleren Arbeitsmarktchancen zugewiesen und seien bei der Gruppe mit niedrigen Arbeitsmarktchancen unterrepräsentiert, so Kopf.
Aus der Analyse zum Algorithmus lässt sich der Schluss ziehen: Da es um 96 Modelle geht, lässt sich das mit der Diskriminierung so einfach nicht sagen. Es müsste in allen Fällen analysiert werden, wie Frauen abschneiden.
Kritik wird im Paper aber auch an diversen Variablen geübt: Diese würden zu stark auf Eigenschaften der Arbeitslosen abstellen, ganz so, als sei es vor allem eine individuelle Frage, ob jemand einen Job findet. Während Alter, Geschlecht, Ausbildung vom Algorithmus berücksichtigt werden, fließe das wirtschaftliche Umfeld nur oberflächlich ein.
Nur das Individuum zählt?
So fließt zwar die Lage am Arbeitsmarkt bei der Chancenberechnung mit ein. Diese Variable berücksichtigt aber nur, wie viele Menschen in einer AMS-Region einen neuen Job finden und wie viele ihre Stelle verlieren. Das sei aber nur eine sehr grobe Berücksichtigung ökonomischer Faktoren, so die Forscher, darunter Doris Allhutter von der Akademie der Wissenschaften und Florian Cech von der TU.
Die Berufsgruppe, in der ein Betroffener eine Stelle sucht, werde dagegen nur oberflächlich berücksichtigt: Das Programm kennt nur die Einteilung, ob jemand in der Industrie oder im Dienstleistungssektor arbeiten will. Fazit der Forscher: Der Algorithmus sei kein objektives Programm, viele Werturteile und Bewertungen, über die gesellschaftlich diskutiert werden müsste, seien eingeflossen.
Berücksichtigt wurden für die Analyse des Algorithmus diverse Dokumente des AMS selbst, die zwischen Oktober 2018 und Herbst 2019 publiziert worden waren. Aktuell gibt es ein ähnliches Forschungsprojekt der Studienautoren im Auftrag der Arbeiterkammer Oberösterreich.
1,8 Millionen Euro an Kosten
Etwa 1,8 Millionen Euro lies sich das AMS seinen Algorithmus kosten, wie aus einer parlamentarischen Anfragebeantwortung von Arbeitsministerin Christine Aschbacher (ÖVP) hervorging, über die der „Kurier“ am Dienstag berichtete. Die jährlichen Kosten für Wartung und Pflege des Systems liegen bei 61.000 Euro.
Das AMS will den Algorithmus ab Juli im Echtbetrieb nutzen. Dann soll auch unterschiedlich gefördert werden, je nachdem, in welche der drei Kategorien ein Arbeitsloser eingeteilt wird.
Nachlese zum AMS-Algorithmus:
„Arbeitslose landen auf dem Abstellgleis“: Scharfe Kritik am AMS-Algorithmus
Johannes Kopf: „Frauen profitieren vom AMS-Algorithmus“