26.12.2019
AMS, Post und Polizei: Die österreichischen Tech-Flops des Jahres
Die AMS sortiert Arbeitslose algorithmisch, die Post ihre Kunden nach politischen Vorlieben: Die größten Flops des Technologie-Jahres 2019.
Die Digitalisierung ist 2019 auch zunehmend bei österreichischen Unternehmen und Behörden angekommen. Beim Umgang mit und der Sensibilität für die Möglichkeiten und Gefahren neuer Technologien, wie künstliche Intelligenz, Bilderkennung und Big Data, gibt es aber noch Luft nach oben. Das AMS, die Post und die Polizei – in gewisser Weise durchaus Stützen der Republik – bewiesen jedenfalls keine gute Hand. Wenig überzeugend bei ihren Digitalisierungsbemühungen agierte auch die Bundesregierung. Die Behörden-App Digitales Amt fiel durch Pannen auf und bei den Nutzern durch.
Algorithmus sortiert Arbeitslose
Das Arbeitsmarktservice will Arbeitslose von einem Algorithmus sortieren lassen. Bekannt gegeben wurde das zwar schon 2018, im vergangenen Jahr wurde der Einsatz künstlicher Intelligenz beim AMS beschlossen. Mitte nächsten Jahres soll dann der Betrieb der Software starten.
Worum geht es genau? Künftig sollen Arbeitslose in drei Gruppen eingeteilt und mit entsprechender Intensität gefördert werden. Und zwar in jene mit niedrigen, mittleren und hohen Chancen am Arbeitsmarkt. Grundlage für die algorithmische Entscheidung sind eine Reihe von Kriterien, darunter Geschlecht, Betreuungspflichten, Alter und Herkunft. Punkteabzüge bekommen etwa Frauen, Frauen mit Betreuungspflichten, Menschen über 30 oder Menschen aus Nicht-EU-Ländern. Wer dabei die algorithmische Arschkarte ziehen wird, lässt sich leicht ausrechnen. Immerhin gibt es für die Absolvierung einer Lehre und im geringen Ausmaß auch für Matura oder höhere Ausbildung Pluspunkte.
Während AMS-Chef Johannes Kopf darauf verweist, dass es gewisse Gruppen am Arbeitsmarkt eben schwieriger haben, sprechen Kritiker von Diskriminierung und dem Einzementieren bestehender gesellschaftlicher Vorurteile. Auch den Hinweis des AMS, dass der Algorithmus die AMS-Betreuer lediglich unterstützen soll und die Entscheidung über die tatsächlichen Chancen am Arbeitsmarkt von den Betreuern getroffen werden, lassen Kritiker nicht gelten. Oft genug nämlich, das zeigen Studien, hinterfragen Menschen von Maschinen getroffenen Entscheidungen nicht.
Polizei setzt auf Gesichtserkennung
Software zur Gesichtserkennung ist nicht zu Unrecht umstritten. Die Technologie bietet beängstigende Möglichkeiten zur Überwachung. Auch die österreichische Polizei will auf Gesichtserkennung nicht verzichten und hat im vergangenen Jahr eine Software gekauft, die bereits im Bundeskriminalamt getestet wird.
Bei schweren Straftaten, beispielsweise einem Bank- oder Tankstellenraub, kann dabei die Polizei aus den davon aufgenommenen Bildern von Überwachungskameras Fotos generieren lassen. Die Software sucht die Bilddatei auf bestimmte Merkmale aus dem Gesichtsfeld ab und gleicht sie mit Bildern von bereits in der erkennungsdienstlichen Evidenz gespeicherten Personen ab. In dieser Referenzdatenbank befinden sich derzeit Bilder von 580.000 Personen.
In Vergleich zu anderen Anwendungen der Technologie ist das harmlos. Dennoch kann einem bei der neuen Beweismethode mulmig werden. Abgesehen davon, dass Gesichtserkennung – wie viele Untersuchungen zeigen – fehleranfällig ist, wird damit auch in Österreich die Tür zum staatlichen Einsatz der Technologie aufgestoßen. Wohin das führen kann, sehen wir in China, wo Gesichtserkennung unter anderem genutzt wird, um Minderheiten zu identifizieren und zu diskriminieren.
Post sammelte Daten über politische Vorlieben
Die Österreichische Post muss angesichts der zunehmenden Konkurrenz schauen, wo sie bleibt und versucht ihr Glück seit mittlerweile fast 20 Jahren auch im Datenhandel. Anfang des Jahres wurde bekannt, dass das Unternehmen, das sich mehrheitlich im Staatsbesitz befindet, auch Daten zu den politischen Vorlieben seiner Kunden sammelte und verkaufte. Bei rund 2,2 Millionen Österreichern wurde die sogenannte „Parteiaffinität“ erhoben. Das geschah laut der Post auf Basis von Wahrscheinlichkeitsrechnungen, in die etwa Wahlergebnisse und Hochrechnungen zu Zählsprengeln einflossen, die dann mit Alter, Geschlecht und Wohnort abgeglichen wurden.
Das hat die Post nicht einmal gut gemacht. Denn laut zahlreichen Betroffenen, die Auskunft über die über sie gesammelten Daten erfragten, trafen die Ergebnisse nicht zu. An der Tatsache, dass die Post, wie die Datenschutzbehörde befand, „durch die Verarbeitung von personenbezogenen Daten über die vermeintliche politische Affinität von Betroffenen“ gegen die Datenschutzgrundverordnung (DSGVO) verstoßen hat, ändert das nichts. Dafür fasste sie Ende Oktober eine Verwaltungsstrafe in Höhe von 18 Millionen Euro aus, die allerdings beeinsprucht wurde und noch nicht rechtskräftig ist. Nicht mehr genommen werden kann der Post hingegen der Datenschutz-Negativpreis „Big Brother Award“, der ihr für das Datensammeln verliehen wurde.
Quelle https://futurezone.at/digital-life/das-sind-die-oesterreichischen-flops-des-jahres-2019/400706064