August 2020
Datenschutzbehörde kippt umstrittenen AMS-Algorithmus
Die Datenschutzbehörde hebelt den Einsatz des Algorithmus zur Bewertung von Arbeitsmarktchancen aus. Möglich sei die Einführung nur auf einer gesetzlichen Grundlage
Das AMS muss umplanen.
Wien – Es war eines der großen Reformprojekte der AMS-Führung und sollte die Beratung von Arbeitslosen deutlich effizienter machen: der stets umstrittene Algorithmus, mit dem Arbeitssuchende je nach ihren Chancen am Jobmarkt in drei Kategorien eingeteilt worden sind.
Doch aus dem Algorithmus wird jetzt nichts oder genauer gesagt, nur dann, wenn der Nationalrat eine entsprechende gesetzliche Regelung erlässt. Das geht aus einer Entscheidung der Datenschutzbehörde hervor. Die Behörde hat amtswegig eine Prüfung des Algorithmus eingeleitet und nun per Bescheid entschieden, dass der Algorithmus den Vorgaben der Datenschutzgrundverordnung (DSGVO) in mehreren Punkten nicht entspricht.
Die Entscheidung liegt dem STANDARD vor, als Erster hatte der „Kurier“ darüber berichtet.
Profiling braucht klare gesetzliche Grundlage
Die Datenschutzbehörde sieht gleich zwei grundlegende Probleme. Beim AMS-Algorithmus werden verschiedene personenbezogene Informationen ausgewertet, anhand derer die Chancen am Jobmarkt beurteilt werden. Dazu gehören unter anderem Alter, Geschlecht, Wohnort, bisherige Karriere, Ausbildung, Staatsbürgerschaft. Aus dem errechnet das Programm, ob die Chancen für eine Rückkehr auf den Jobmarkt hoch, mittel oder niedrig sind.
Dieser Vorgang ist laut Datenschutzbehörde klar als „Profiling“ zu werten. Für ein solches Profiling sei eine explizite gesetzliche Ermächtigung notwendig. Die allgemeine Ermächtigung, die derzeit existiert und dem AMS erlaubt, personenbezogene Daten zu verarbeiten, reiche da nicht aus.
Welche Rolle spielen die Berater?
Das zweite Problem: Interne Regelungen bestimmen zwar beim AMS, dass über die Einteilung letztlich immer ein Mensch entscheidet. Auch wenn der Computer jemanden in die Gruppe mit niedrigen Chancen einstuft, kann der Berater anders entscheiden. Doch laut Datenschutzbehörde könnten sich Betroffene „nicht rechtswirksam auf diesen Umstand berufen“ und auch keine Kontrolle der getroffenen Entscheidung verlangen. Zudem könne nicht verhindert werden, dass die Ergebnisse aus der Algorithmusbewertung „routinemäßig“ übernommen werden, wie die Datenschutzbehörde schreibt.
In manchen Regionen Österreichs, besonders im Osten, dauere eine durchschnittliche Beratung bloß zehn Minuten. In einem solchen Fall, wenn also automatisierte Entscheidungen im Einzelfall 1:1 übernommen werden, müssen laut Datenschutzgrundverordnung für Betroffene besondere Schutzmechanismen getroffen werden. Das habe das AMS intern gemacht – aber auch hier fehle eine notwendige gesetzliche Regelung, wie etwa Menschen im Fall einer Beschwerde ihr Recht durchsetzen können.
Sprich: Die Datenschutzbehörde sieht kein grundsätzliches Problem mit dem Algorithmus, verlangt nur eine klare rechtliche Regelung. Das wird heikel: Während die ÖVP das Projekt unterstützt, kamen von grünen Politikern in der Vergangenheit immer kritische Töne. Die Sozialpartner sind in der Frage ebenfalls eher gespalten, Arbeitgeber sind tendenziell für das neue System, die Arbeitnehmer dagegen.
Im Testbetrieb war der Algorithmus bereits seit 2018, AMS-Berater haben die Ergebnisse bei Kundenberatungen gesehen. Geplant wäre gewesen, die Einteilung ab 2020 auch verbindlich zu machen. Wegen Corona wurde die Einführung auf 2021 verschoben. Das hätte unter anderem dazu geführt, dass Menschen mit schlechter Perspektive am Jobmarkt künftig für zwölf Monate nicht vom AMS betreut, sondern an neue Betreuungseinrichtungen verwiesen worden wären.
Umkämpfte System
Hier soll es ein Angebot geben, das auf die persönliche Stabilisierung der Betroffenen abzielt und nicht unbedingt zum Ziel hat, die Menschen sofort wieder auf einen Arbeitsplatz zu vermitteln. Im Rahmen der Testphase wurden Menschen in diesem Bereich Kurse für Bewegung angeboten, aber auch Sozialtreffs oder Deutschkurse. Weil hier allerdings nicht alle klassischen Förderinstrumente der Arbeitsmarktpolitik offenstehen, sprachen Kritiker von Einsparungen bei Jobsuchenden mit ohnehin ganz schlechten Karten.
Zu Kritik hat vor allem aber geführt, dass zum Beispiel Frauen eine automatisch schlechtere Bewertung durch das System gegeben wurde, ebenso nicht österreichischen Staatsbürgern. Das sei Diskriminierung, so das Argument. Gegenargument der AMS-Führung um Johannes Kopf war stets: Hier werde nur die Realität abgebildet.
Die Datenschutzbehörde hat nun den Einsatz des Systems ab 1.1.2021 untersagt, sofern bis dahin keine gesetzliche Grundlage geschaffen wird. Das AMS prüft den Bescheid und will gegebenenfalls berufen.
Postings —
Gut so, wenn das AMS den Langzeitarbeitslosen 50+ ihre Hoffnungs- und Chancenlosigkeit auf dem Arbeitsmarkt per KI mitteilen und die Verantwortung dafür auf unfehlbare Technik abwälzen wollte.
Endlich!
Hurra weg mit diesem schwachsinn!
Das wird gut sein, wenn dieser von vorne herein diskriminierende Schmarren so nicht kommt.
Dieser offensichtlich nicht gesetzeskonforme Algorithmus wurde sicher nicht gratis erstellt und implementiert. Irgendwelche Konsequenzen sind natürlich nicht zu erwarten. Das AMS kann tun und lassen was es will, ein Fass ohne Boden und zweifelhafter Effizienz.
Das wichtigste Kriterium ist das Alter
Egal wie der Rest ist, ist das Alter >40 wird man schon als schwer vermittelbar eingestuft.
Bumm!
Und wie viele Millionen wurden da wieder verbraten, nur weil man unfähig ist, vorher rechtliche Gegebenheiten abzuklären.
