25 Juni 2020
Netzpolitik
Datenschützer: AMS-Algorithmus „muss sofort abgeschaltet werden“
Das System sei intransparent, kontraproduktiv und verstärke bestehende Diskriminierung, so die Kritik
Offiziell wird der AMS-Algorithmus 2021 eingeführt werden, doch seine Einstufungen sind schon heute für die Berater einsehbar, berichtet Epicenter Works.
Die Kosten und Mittel, die das Arbeitsmarktservice (AMS) aufwendet, um Menschen ohne Beruf wieder in den Arbeitsmarkt zu bekommen, werden regelmäßig zum Politikum. Auf der Suche nach Sparpotenzial sollen auch technologische Möglichkeiten ausgeschöpft werden. Zu diesem Zweck hat das AMS sich um 1,8 Millionen Euro einen Algorithmus entwickeln lassen, der über die Angebote für die einzelnen Jobsuchenden mitentscheiden soll.
Bürgerrechtlern und Datenschützern ist dieser Algorithmus schon länger ein Dorn im Auge. Epicenter Works hat nun gemeinsam mit anderen Organisationen eine Kampagne gestartet. „Der AMS-Algorithmus muss sofort abgeschaltet werden“, fordert man.
Das Kampagnenvideo zu „Stoppt den AMS-Algorithmus“.
Drei Kategorien, unterschiedliche Fördermittel
Das Programm soll künftig Arbeitslose hinsichtlich ihrer Jobchancen in drei Kategorien einteilen, was sich auf die Planung weiterer Mittel auswirkt. Bei Kandidaten, bei denen der Algorithmus mit hoher Wahrscheinlichkeit (66 Prozent) davon ausgeht, dass sie ohnehin binnen sieben Monaten wieder eine Anstellung über wenigstens 90 Tage finden (Kategorie H), will man Kosten sparen.
Jene mit mittleren Chancen (Kategorie B) sollen am stärksten gefördert werden und etwa bevorzugt Plätze bei direkt über das AMS abgewickelten Weiterbildungen erhalten. Für Menschen mit schlechten Aussichten (Kategorie N) – eine Chance von weniger als 25 Prozent, binnen zwei Jahren einen Job über zumindest ein halbes Jahr zu finden – sind wiederum verringerte Mittel vorgesehen. Bei einer Aufstellung des AMS im Jahr 2018 bescheinigte man vier Prozent der aktuell Jobsuchenden hohe Chancen auf eine Anstellung und 32 Prozent niedrige Chancen. Die mittlere Gruppe (Kategorie M) stellt mit 64 Prozent den Löwenanteil. Die Berater des Arbeitsmarktservice sollen jedoch auf Basis der persönlichen Gespräche manuell die Einstufung ändern können.
Mangelhafte Gestaltung
Zahlreiche Schwächen ortet etwa Andreas Czak von Epicenter Works bei der Software der Vermittlungsstelle. Beispielsweise kenne der Algorithmus nur männliches und weibliches Geschlecht, berücksichtige aber weder Inter- noch Transsexualität, was seiner Einschätzung nach rechtswidrig sei. Die Berücksichtigung des Wohnorts mache zudem bei der Entscheidung über Förderungen keinen Sinn. Und die Einteilung hinsichtlich der Staatsbürgerschaft in nur drei Kategorien – Österreicher, EU-Bürger, Nicht-EU-Bürger – sei ebenfalls nicht zielführend, denn damit würde das System etwa zwischen einem Schweizer und einer Person aus Asien nicht differenzieren.
Überhaupt mangle es dem System an Transparenz. Nur wenige der 96 verwendeten Modelle seien bekannt. Der Algorithmus sei wie „ein riesiger Eisberg, und der Großteil ist unter Wasser“, so Czak. Auf so einem Wege dürfe nicht über die Schicksale von Menschen entschieden werden. Problematisch sei zudem, dass den Betreuern bereits die Einschätzungen des Algorithmus angezeigt werden, obwohl das System offiziell erst 2021 eingeführt werden soll. Ursprünglich hätten die AMS-Mitarbeiter im Umgang damit verpflichtend geschult werden sollen, was sich jedoch auch durch die Corona-Pandemie verschoben hat.
Sozial Schwache als Versuchskaninchen
Barbara Blaha vom Momentum-Institut kritisiert die Zielsetzung des Algorithmus. Dieser solle es ermöglichen, „möglichst viele Arbeitslose mit möglichst wenigen Mitarbeitern zu betreuen“. Schon vor dessen Entwicklung sei die Betreuungsquote beim AMS bei einem Berater für 200 Jobsuchende gelegen. Diese müsse mindestens doppelt so hoch sein, da eine bessere Betreuungsdichte nachweislich förderlich für den Erfolg bei der Wiedereingliederung von Menschen in den Arbeitsmarkt sei.
Doch eine Aufstockung der AMS-Personalressourcen sei politisch nicht opportun, kritisiert Blaha. Es sei auch kein Wunder, dass ein solcher Algorithmus an Arbeitslosen getestet werde, handle es sich dabei doch um eine schwache Gruppe, die sich politisch nicht wehren könne. Gleichzeitig sieht sie durch die Software einen gestiegenen Druck auf die Betreuer. Diese könnten zwar entgegen den Empfehlungen des Systems entscheiden, was häufig aber wohl nicht passieren werde, um gegenüber Vorgesetzten nicht in Rechtfertigungsnot zu kommen.
In Polen gescheitert
Alternativen zum aktuellen Ansatz erkennt auch Benjamin Wagner, Forscher vom Institut für Informationssysteme und Gesellschaft an der Wirtschaftsuniversität Wien. Es benötige mehr Transparenz und vor allem externe Kontrolle.
Ähnliche Algorithmen hätten auch schon in anderen Ländern für Probleme gesorgt, beispielsweise Schweden, Australien und Polen. Fehlentscheidungen seien kaum nachvollziehbar und somit nicht korrigierbar. Das polnische System wurde letztlich wieder abgeschaltet, da es sich als nicht grundrechtskonform erwiesen hatte.
Die Kampagne „Stoppt den AMS-Algorithmus“ richtet sieben Forderungen an die zuständige Ministerin Christine Aschbacher (ÖVP). Das Arbeitsmarktservice solle mehr Ressourcen erhalten und auf Menschen statt Software vertrauen. Es sei zielführender, Fähigkeiten zu fördern, statt Schwächen zu bestrafen. Eine Einstufung durch den Algorithmus solle nur bei expliziter Einwilligung Betroffener erfolgen. Die Entwicklung des Algorithmus und ähnlicher Software habe außerdem transparent gestaltet und die fertigen Produkte einer Risikoevaluation unterzogen zu werden.
Online sammelt man nun Unterschriften für das Anliegen. Zudem lädt man dazu ein, per Onlineformular ein Auskunftsbegehren gemäß Datenschutzgrundverordnung an das AMS zu stellen. Darüber kann man auch die eigene algorithmische Einstufung erfahren. Diese liegt für alle Personen vor, die ab 2019 einmal als arbeitslos gemeldet waren. Alternativ können auch die Berater des AMS Auskunft über die eigene Algorithmusbewertung geben. (gpi, 25.6.2020)