Beim sechszehnten und letzten Stopp unseres AlgoRail durch Europa berichtet Nicolas Kayser-Bril von Udbetaling Danmark, die seit 2012 staatliche Sozialleistungen auszahlt. Dabei setzt die Organisation auf Datenanalysen statt persönlicher Gespräche und erfährt deswegen viel Kritik von Bürger:innen und dem dänischen Rat für Datenethik, die Eingriffe in die Privatsphäre beklagen. 

Mitte der 2000er Jahre leitete die dänische Regierung eine ehrgeizige Reorganisation der Kommunalverwaltung ein. Die Zahl der Gemeinden wurde von 271 auf 98 reduziert. Dabei wurde auch die Organisation Udbetaling Danmark (UDK) geschaffen, die von der Agentur für Digitalisierung des Finanzministeriums geleitet wird. Sie sollte die Zahlungen von Sozialleistungen wie die Rente, Wohngeld und Mutterschutzunterstützung zentralisieren, die von den Kommunen verantwortet werden.

Zurzeit ist niemand unser dieser Nummer erreichbar

2012 nahm UDK den Betrieb auf und seitdem hat sich der Service auf ein Minimum reduziert. Die gesamte Kommunikation mit den Leistungsberechtigten ist nur noch über das Telefonat möglich – persönliche Treffen wurden abgeschafft.

Die Sachbearbeiter:innen, die früher für die Kommunen arbeiteten, wurden bei der Gründung der UDK wieder eingestellt. Ihre Arbeit veränderte sich aber grundlegend: Statt einen Schwerpunkt auf die Leistungsberechtigten zu legen, galt der Fokus nun den Daten. Im Jahr 2013 begann die Organisation damit, Daten über ihre zwei Millionen Begünstigten mit externen Datenbanken anderer Verwaltungen wie der Steuerbehörde, dem Jobcenter und den Unternehmensregistern zu verknüpfen. Dadurch konnten viele Prozesse automatisiert werden. So wird bei der Beantragung von Leistungen automatisch vorher überprüft, ob das Einkommensniveau und Vermögen der Antragssteller:innen niedrig genug sind.

Dies ermöglichte es UDK auch, Kontrollen durchzuführen und so zum Beispiel zu überprüfen, ob sich die Situation von Leistungsempfänger:innen geändert hat. Seit 2015 kann UDK auch auf Daten von Mitgliedern aus dem gleichen Haushalt oder der Familie der Leistungsempfänger:innen zugreifen, um Unregelmäßigkeiten aufzudecken. Die Daten stammen aus dem Melderegister, dem Wohnungsregister oder von den Steuerbehörden.

91 Anzeigen bei der Polizei

In den Jahren 2017 und 2018 enthüllten Kontrollen von UDK und den Kommunen, dass eine halbe Milliarde Dänische Kronen (ca. 70 Millionen Euro) irrtümlich gezahlt worden waren. Im Jahr 2017 meldeten UDK und die Kommunen insgesamt 91 Personen wegen Sozialbetrugs bei der Polizei.

Im Jahr 2018 versuchte die dänische Regierung, UDK Zugang zum Stromverbrauch von Sozialhilfeempfänger:innen und ihnen nahestehenden Personen zu verschaffen. Dies sollte der UDK helfen, Betrugsfälle besser aufzudecken. Der Gesetzentwurf wurde schließlich nach einem öffentlichen Aufschrei zurückgezogen.

Staatliche Fehler erkennen

Es bleibt unklar, ob die automatisierten Kontrollen der UDK ausschließlich darauf ausgerichtet sind, Betrugsfälle zu entdecken, oder auch darauf, ob die zustehenden Leistungen auch ausgezahlt werden. Im Jahr 2013 wurde zum Beispiel festgestellt, dass 300.000 Rentner:innen um mehrere hundert dänische Kronen pro Monat betrogen wurden. Die Gesamtsumme lief sich auf 700 Millionen Kronen (ca. 94 Millionen Euro) pro Jahr.

Während die Regierung argumentierte, der Fehler sei nicht vorsätzlich begangen worden, nannten es andere „legalisierten Sozialbetrug“. Im Jahr 2015 führte eine weitere Unregelmäßigkeit dazu, dass 325.000 Haushalte zu niedrige Wohngeldzahlungen erhielten – dieser Fehler ließ sich direkt der UDK zuschreiben. Es hatte eine in einem Gesetz gefundene Bestimmung umgesetzt, bevor das dänische Parlament sie in ein Gesetz umwandelte. Das Gesetz wurde jedoch nie verabschiedet und der Fehler dann in den nachfolgenden Monaten behoben.

Es ist unklar, ob UDK die Qualität der von ihr verarbeiteten Daten sowie der eingesetzten Programme überprüft werden. Im November 2019 lieferte die UDK den Steuerbehörden fehlerhafte Informationen über 111.000 Haushalte. Die Steuerbehörden schickten anschließend ein Schreiben an alle Betroffenen.

Systematische Überwachung

In Dänemark wurde die Debatte über die Befugnisse der UDK im Juli 2019 neu entfacht. Die Denkfabrik Justitia hatte einen Bericht veröffentlicht, in dem sie die Aktivitäten von UDK detailliert darlegte und diese zusammenfassend als „systematische Überwachung“ bewertete.

Die UDK gibt die tatsächliche Anzahl der Personen nicht an, die Zahlungen erhalten, aber Schätzungen liegen zwischen 2,1 und 2,7 Millionen bei einem Land mit 5,8 Millionen Einwohner:innen. Da die UDK auch Daten über andere Haushaltsmitglieder und die unmittelbare Familie erhebt, hält es Justitia für wahrscheinlich, dass die UDK Daten über die gesamte Bevölkerung des Landes verarbeitet.

Birgitte Arent Eiriksson, die den Justitia-Bericht verfasst hat, gehört heute dem dänischen Rat für Datenethik an, der die Regierung seit 2018 berät. Gegenüber AlgorithmWatch sagte Arent Eiriksson, dass der Rat der Regierung „ein konkretes Instrument für ihre Behörden an die Hand geben werde, dass datenethische Aspekte berücksichtigt, wenn es um die Verknüpfung von personenbezogenen Daten und neue Technologien geht“.

Datenschutzbehörde meldet sich

Anfang 2019 fand ein Däne heraus, dass die Datenbank der UDK viele Informationen über ihn gespeichert hatte, obwohl er kein Leistungsberechtigter war. Er reichte daraufhin eine Beschwerde bei der dänischen Datenschutzbehörde (DPA) ein. Die Datenschutzbehörde entschied, dass die pauschale Erhebung von Daten über Verwandte von Leistungsempfänger:innen gegen die Datenschutzgrundverordnung verstößt, die die Erhebung unnötiger Daten verbietet. Die UDK weigerte sich erst, dem nachzukommen, und erklärte, ihre Aufgabe der Betrugsbekämpfung mache die Datenerhebung notwendig und verhältnismäßig.

Die Datenschutzbehörde eröffnete den Fall im Jahr 2020 erneut und machte der UDK klar, dass sie Daten über Personen löschen müsse, die keine Leistungsempfänger:innen oder Betrugsverdächtige seien. Im März 2020 teilte die UDK der Datenschutzbehörde mit, dass sie der Entscheidung nachgekommen sei und die Daten, die sie illegal gesammelt hatte, gelöscht hätte. Ob sich das aber nur auf den Spezialfall einer Wohngeldbeantragung bezieht oder grundsätzlich erfolgt, lies sich nicht in Erfahrung bringen.

Kein Raum für Aussprachen

Unabhängig davon, ob die UDK den Umfang ihrer Überwachung einschränkt oder ob es dem Rat für Datenethik gelingt, die Regierung für ihre ethischen Herausforderungen zu wappnen: Die Automatisierung des Wohlfahrtsmanagements verändert die Beziehung zwischen Staat und seinen Bürger:innen grundlegend.

Søren Skaarup, ehemaliger Leiter der Bürgerdienste der Stadtverwaltung Albertslund und jetzt Postdoktorand an der IT Universität Kopenhagen, veröffentlichte 2013 seine Dissertation über die Vermittlung von Autorität. Darin warnte er davor, dass die Automatisierung zwar viele bürokratische Prozesse beschleunigen kann, aber oft so umgesetzt wird, dass der Spielraum für die Aushandlung von Sinn, Macht und Identität verringert wird. Dies sei aber für die Bürger:innen sehr wichtig, wenn sie mit der Regierung interagieren. Um diese Verhandlungen zu ermöglichen, braucht es den Zugang zu zwischenmenschlicher Interaktion von Angesicht zu Angesicht oder per Telefon, schrieb Herr Skaarup. Eine Einschränkung der Möglichkeiten für diese Verhandlung kann die Möglichkeiten zur Anerkennung der Individualität der Bürger:innen, zum Aufbau und zur Bekräftigung des Vertrauens in die Autorität einschränken und den Sinn der Bürger:innen für Gerechtigkeit und Fairness schwächen.

Das war’s für den sechszehnten und damit auch letzten Stopp unseres AlgoRails durch Europa, auf dessen Reise wir mehr darüber erfahren wollten, wie algorithmische Systeme in unserer europäischen Nachbarschaft eingesetzt werden. Am 28. Oktober erscheint der Automating Society Report 2020 und hier können Sie bereits die Vorankündigung lesen.

Diese Story wurde von Julia Gundlach gekürzt und ins Deutsche übersetzt. Der ungekürzte Beitrag wurde auf der Webseite von AlgorithmWatch veröffentlicht.

Die Blogreihe AlgoRail ist Teil des Automating Society Reports 2020 von der Bertelsmann Stiftung und AlgorithmWatch, der im Herbst dieses Jahres veröffentlicht und von Dr. Sarah Fischer  koordiniert wird. Neben journalistischen Geschichten wie dieser, gibt der Report einen Überblick über verschiedene Anwendungsbeispiele algorithmischer Systeme sowie aktuelle Debatten, Policy Responses und wichtige Akteure in 15 Ländern. Eine erste Ausgabe des Reports  ist im Januar 2019 erschienen.

Dieser Text ist lizenziert unter einer  Creative Commons Namensnennung 4.0 International Lizenz.