Deutschland hat sich in kürzester Zeit von einer automatisierenden zu einer automatisierten Gesellschaft entwickelt. Sei es zur Überwachung des öffentlichen Raums, zur Prognose von Straftaten oder für die Vergabe von Sozialleistungen – der Einsatz von algorithmischen Systemen in teilhaberelevanten Bereichen hat rasant zugenommen. Anders als bei dieser Entwicklung erwartet, fehlt es jedoch an medialer Aufmerksamkeit für gesellschaftspolitische Fragen des Algorithmeneinsatzes. In diesem Blogbeitrag zeigen wir auf, wie Politik und Verwaltung durch eine proaktive, inklusive und differenzierte Kommunikation mehr Vielfalt in den Algorithmen-Diskurs bringen können – und wie dadurch das so wichtige Vertrauen in die Digitalisierung gestärkt wird. 

„Systeme zum automatisierten Entscheiden sind im Alltag angekommen“, so heißt es gleich zu Beginn der deutschen Ausgabe des Automating Society Report 2020. Die gemeinsame Publikation von AlgorithmWatch und der Bertelsmann Stiftung macht transparent, wie sich der Einsatz der Technologie in Europa in den letzten Jahren weiterentwickelt hat. Beim Lesen wird schnell deutlich: Wir müssen nicht bis in die USA oder nach China schauen, um festzustellen, dass algorithmische Systeme inzwischen maßgeblich gesellschaftliche Teilhabe und individuelle Chancengerechtigkeit beeinflussen.

So thematisiert der Report u.a. den Einsatz des Risikoprognose-Tools RADAR-iTE, welches seit 2017 durch das Bundeskriminalamt (BKA) genutzt wird, um das individuelle Gefährdungspotential für Personen im militant-salafistischen Spektrum zu berechnen. Auf Landesebene nutzt das nordrhein-westfälische Justizministerium seit 2019 ein Programm, welches mithilfe von Videoüberwachung und Bilderkennungssoftware Suizidversuche von inhaftierten Personen vorhersagen und so verhindern soll. Und kommunal wird etwa in Hamburg die Software JUS-IT genutzt. Sie dient in der Jugendhilfe der Fallverwaltung und kommt für automatisierte Zahlungen zum Einsatz.

Mit dem Einsatz von solchen algorithmischen Systemen gehen meist Hoffnungen auf effizientere, fairere Entscheidungen, mehr Sicherheit und mehr Zeit für menschliches Miteinander einher. Der Automating Society Report 2020 zeigt allerdings auch, dass diese Hoffnungen häufig enttäuscht werden, weil die Technologie in ihren Fähigkeiten überschätzt und nicht die nötigen Vorkehrungen für die ethische Entwicklung und soziale Einbettung der Systeme getroffen werden. Die aufgeworfenen Beispiele wie das des Prognosetools RADAR-iTE vom BKA und des Suizidpräventionsprogramm vom Justizministeriums NRW werfen zudem grundlegende Wertefragen auf, wie die Abwägung zwischen Sicherheit, Freiheit und Privatheit. Umso wichtiger ist es, dass der zunehmende Einsatz algorithmischer Systeme durch eine breite gesellschaftliche Debatte begleitet wird.

Die Diskussion zur Veröffentlichung der deutschen Ausgabe des Reports mit Dr. Anna Christmann (MdB, Bündnis 90/Die Grünen), Wolfgang Teves (Bundesministerium der Justiz und für Verbraucherschutz) und Tino Eilenberger (IT-Dienstleistungszentrum Berlin) finden Sie hier:

 

Diskurs über Algorithmen mit blinden Flecken beim Gemeinwohl

Doch obwohl in immer mehr teilhaberelevanten Bereichen algorithmische Systeme eingesetzt werden, bleibt der mediale Diskurs über die gesellschaftlichen Auswirkungen weitgehend aus.

Die Studie zur Berichterstattung deutscher Leitmedien über Algorithmen- und KI-Themen für den Zeitraum von 2005 bis 2020 zeigt, dass die Aufmerksamkeit für Algorithmen und KI in Deutschland über die Jahre stark zugenommen hat. Doch dominieren in den Medien wirtschaftliche Themen den Diskurs und gesellschaftspolitische Themen sind in den letzten 15 Jahren im Vergleich immer weiter in den Hintergrund gerückt.

Dieser Befund wird mit Blick auf die Akteure bestätigt, die im KI- und Algorithmen-Diskurs zu Wort kommen: Die Aussagen von wirtschaftlichen Akteuren werden am häufigsten zitiert, während Politiker:innen und Vertreter:innen der Zivilgesellschaft kaum Gehör finden.

Gesellschaftspolitische Fragen in den Fokus stellen – Politik und Verwaltung in der Verantwortung

Doch wenn algorithmische Systeme zunehmend über Fragen von Teilhabe entscheiden, muss darüber geschrieben werden! Auch Politik und Verwaltung stehen in der Pflicht, den Diskurs über den Digitalen Wandel durch ihre Kommunikation diverser zu gestalten und gesellschaftspolitisch auszurichten.

 1. Proaktiv: Anlässe für Berichterstattung schaffen und gesellschaftliche Chancen hervorheben

Politische Akteure sollten über proaktive Kommunikation einen Beitrag zu mehr Wissen über die tatsächliche Breite und Tiefe des Einsatzes von Algorithmen und dadurch zu einer ausgewogeneren Meinungsbildung in der Bevölkerung leisten, denn insbesondere gemeinwohlrelevante Aspekte finden noch zu wenig Beachtung. Um diese blinden Flecken beim Gemeinwohl anzugehen, sollte offen darüber diskutiert werden, wo die öffentliche Hand algorithmische Systeme einsetzt. So kann der Bevölkerung neben wirtschaftlichen Potenzialen ebenso die Chancen der Technologie zur Bewältigung gesellschaftlicher Herausforderungen aufgezeigt werden.

2. Inklusiv: Zivilgesellschaft und Wissenschaft fördern, beteiligen und zu Wort kommen lassen

Eine differenzierte und vielfältige Debatte über Algorithmen erfordert auch mehr zivilgesellschaftliches Engagement. Unabhängige Organisationen, die den Einsatz algorithmischer Systeme prüfen, nachvollziehbar machen und auf Missstände sowie Risiken aufmerksam machen, brauchen mehr Unterstützung von Seiten der Politik. Zivilgesellschaftliche und wissenschaftliche Akteure, die im aktuellen medialen Diskurs unterrepräsentiert sind, sollten zudem noch mehr und auf Augenhöhe in politische Willensbildungsprozesse eingebunden werden.

3. Differenziert: Transparenz über Risiken und politische Lösungsansätze herstellen

Algorithmische Systeme bringen Chancen und Risiken mit sich, die differenziert und fernab von utopischen oder dystopischen Science-Fiction Szenarien kommuniziert werden sollten. Politische Akteure sollten Bedenken von Bürger:innen hinsichtlich möglicher Risiken ernst nehmen und entsprechend darauf reagieren. Der Austausch und die transparente Kommunikation zu Regulierungsansätzen und -zielen kann den teilweise berechtigten Ängsten adäquat begegnen und so Vertrauen in staatliche Digitalpolitik stärken.

Der Einsatz algorithmischer Systeme ist kein Nischenthema, sondern betrifft fast alle Politik- und Lebensbereiche. Deshalb darf die Kommunikation darüber nicht allein den (wenigen) digitalen Fachpolitiker:innen überlassen werden. Sie sollte vielmehr als politikfeldübergreifende Aufgabe verstanden werden, zu der jede:r Abgeordnete:r und jede:r Minister:in sprechfähig sein muss! Denn Digitalpolitik als Querschnittsaufgabe ist immer auch Gesellschaftspolitik: Deutschland, es wird Zeit, dass wir reden…. über die gesellschaftliche Bedeutung von Algorithmen!

Dieser Text ist lizenziert unter einer  Creative Commons Namensnennung 4.0 International Lizenz.