Automatisierte Diskriminierung
Österreichs Jobcenter richten künftig mit Hilfe von Software über Arbeitslose
In Österreich teilt ab nächstem Jahr ein Algorithmus alle Jobsucher in Kategorien. Wer schlecht abschneidet, dem werden Zukunftschancen verbaut. Die Behörden bejubeln das als Effizienzsteigerung mit modernsten technischen Mitteln. Experten warnen hingegen vor automatisierter Diskriminierung.
220.000 Menschen sind nach neuesten Zahlen in Österreich arbeitslos. Damit möglichst viele davon schnell wieder einen Job finden, finanziert der Staat ähnlich wie in Deutschland Maßnahmen zur Weiterbildung. Wer eine solche Schulung bezahlt bekommt, entscheidet das Arbeitsmarktservice (AMS), das österreichische Gegenstück zu den Jobcentern in Deutschland. Bereits ab Januar hilft den Beratern des AMS ein algorithmisches Empfehlungssystem, wie nun bekannt wurde.
Die Software teilt künftig Arbeitssuchende in drei Gruppen ein: Hohe Chancen, mittlere Chancen, niedrige Chancen. Wer in letzterer Kategorie landet, kriegt eher keine teure Ausbildung bezahlt. Die Arbeitsvermittler erhoffen sich von von der Software raschere Entscheidungen – mehr Effizienz für weniger Geld. „Wir setzen derzeit öfter geförderte Beschäftigungsprojekte bei ganz Schwachen ein und sind dann oft unglücklich, dass wir zu sehr hohen Kosten im Vergleich relativ wenige Arbeitsaufnahmen bei dieser Personengruppe haben“, sagt Behördenchef Johannes Kopf. Die Software soll dabei helfen, die „Schwachen“ in billigere Kurzzeitprogramme zu stecken. „Die Technik trifft keine Entscheidung, sondern weist nur die Arbeitsmarktchancen aus“, betont Kopf. Ab Januar 2019 testen die Arbeitsämter die Software der Firma Synthesis Forschung. Ab 2020 soll sie regulär zum Einsatz kommen.
► Alte und Ausländer abgestuft
Das algorithmische Entscheidungssystem stützt sich auf Daten zu Beruf, Ausbildung und bisherige Jobs. Es bezieht aber auch Alter, Geschlecht und Nationalität ein. Unter-25-Jährige kommen nie in die schlechteste Kategorie, für sie gilt in Österreich eine Ausbildungsgarantie. Alte und Nicht-Österreicher hingegen gelten als häufiger von Arbeitslosigkeit gefährdet und werden vom algorithmischen Entscheidungssystem darum schlechter eingestuft. Das stellt aus Sicht des AMS aber keine Benachteiligung der Betroffenen dar. Eine Diskriminierung läge nur dann vor, wenn die Software direkt selbst entscheide, sagt AMS-Pressesprecherin Beate Sprenger auf Anfrage von netzpolitik.org. Das sei aber nicht der Fall: „Die Letztentscheidung hat der Berater.“
Ohnehin gibt es für die Angaben der Software keine Gewähr: Das algorithmische Entscheidungssystem hat nach offiziellen Angaben eine Trefferquote von 85 Prozent – das heißt, jede siebte seiner Entscheidungen ist falsch.
► Von Kunden zu Verdächtigen
Datenexperte Wolfie Christl sieht das Programm als Schritt hin zu einem System, in dem sozial Schwache und Benachteiligte mehr und mehr von Algorithmen und Maschinen verwaltet werden. Aus zahlreichen Untersuchungen sei bekannt, dass Empfehlungen der Software von Menschen kaum verändert würden. „Einerseits macht der Glaube an die heilige Quantifizierung blind, andererseits werden sich AMS-BetreuerInnen für jede ‚Hochstufung‘ rechtfertigen und erklären müssen, warum sie etwas besser wissen wollen als der Computer“, sagt Christl. In einem derartigen System würden Arbeitslose nicht wie bisher als Kunden, sondern pauschal als Verdächtige behandelt.
Arbeitnehmervertretern äußern bereits Skepsis an dem System. Gernot Mitterer, ein Arbeitsmarktexperte der Arbeiterkammer, sieht die Gefahr eines automatischen Richterspruchs über Beschäftigungslose. „Wir bemühen uns daher, wirksame Vorkehrungen gegen eine Dominanz des Algorithmus in der täglichen Arbeit in den AMS-Geschäftsstellen beim Roll-out dieses ‚Profilings‘ zu verankern“, schrieb Mitterer auf Anfrage von netzpolitik.org per E-Mail.
Der Experte verweist auf die große Arbeitslast von AMS-Mitarbeitern, die schneller zu Fehlentscheidungen führt. In Österreich müsse ein Jobcenter-Berater mehr als 250 Arbeitslose mit längerer als dreimonatiger Arbeitslosigkeit betreuen. In Deutschland liege dieses Verhältnis etwa bei 1:100. Das algorithmische Entscheidungssystem dürfe persönliche Beratung höchstens ergänzen, nicht ersetzen.
► Unsoziale Big-Data-Maßnahmen
Österreich setzte zuletzt bereits unsoziale Maßnahmen. Die rechte Regierung in Wien führte zuletzt den 12-Stunden-Tag ein u. lockerte deutlich die Rechte von Beschäftigten. Zugleich verpflichtete die Regierung die Krankenkassen dazu, in sensiblen Gesundheitsdaten nach möglichem Missbrauch von Kassenleistungen zu fahnden.
International sorgte zuletzt Amazon mit seinem umstrittenem Umgang mit Arbeiternehmerdaten für Aufregung. Der Onlinehandel- und Datenkonzern, der nach einem legendären Stamm von Kriegerinnen benannt ist, musste die Diskriminierung von Frauen durch sein durch Künstliche Intelligenz-gestützten Rekrutierungsystem eingestehen. Amazon schaffte das experimentelle Tool inzwischen wieder ab. Die Bedenken gegen von Algorithmen gelenkten sozialen Systemen bleiben aber bestehen.
Quelle https://kritisches-netzwerk.de/forum/oesterreich-automatisierte-diskriminierung-algorithmus