Wer beteiligt sich an der politischen Debatte um die Governance Künstlicher Intelligenz in Deutschland?

*Beitrag ist nun auch in englischer Sprache veröffentlicht*

Seit mehreren Jahren feilen die europäischen Institutionen an einer Verordnung zur Künstlichen Intelligenz (KI), besser bekannt unter dem Namen AI Act. Nachdem der Rat der Europäischen Union im Dezember 2022 eine gemeinsame Position gefunden hat, wird der AI Act im Europäischen Parlament noch heiß debattiert. Nach zahlreichen Verschiebungen aufgrund von vielen offenen Fragen wird davon ausgegangen, dass es im Laufe diesen Jahres zur Verabschiedung der Verordnung kommt. Damit wären die ersten regulativen Rahmenbedingungen für die Nutzung der algorithmischen Systeme, die unter dem Schlagwort „Künstlicher Intelligenz“ zusammengefasst werden, in den 27 EU-Mitgliedsstaaten, und somit auch in Deutschland, auf den Weg gebracht. Ist das der Anfang und das Ende der politischen Debatten rundum die Regulierung von Künstlicher Intelligenz in Deutschland? Und was können wir aus Netzwerkanalysen lernen?

KI Made in Germany – da war doch was!

Unabhängig von der europäischen Ebene beginnt die Geschichte der KI-Politik in Deutschland bereits 2017 mit der Verabschiedung der deutschen Strategie „KI Made in Germany“. 33 politische Vorhaben wurden seither auf den Weg gebracht. Deutschland befindet sich damit laut OECD.AI im oberen Mittelfeld der Länder, die im Bereich KI-Politik aktiv sind, nach beispielsweise den USA und dem Vereinigten Königreich. Diese Aktivitäten sind in den letzten Jahren etwas zurückgegangen. Auch nach der Bundestagswahl 2021 sieht es bislang nicht so aus, als hätte sich die grundlegende Linie der deutschen Bundesregierung im Bezug zu KI substanziell geändert.

Die deutsche KI-Politik befindet sich im Vergleich zur Politik in anderen Bereichen nach wie vor in einer frühen Phase. Der Umgang mit komplexen Themen, zu denen es bislang nicht viel politische Aktivität gab, ist für politische Entscheidungsträger:innen herausfordernd. Das gilt ganz besonders für technologische Entwicklungen im Bereich der Künstlichen Intelligenz: Mit diesen Entwicklungen ist ein hohes Maß an Unsicherheit verbunden, was die Problemdimensionen und mögliche Auswirkungen angeht. Deshalb sind gerade zu Anfang diverse Perspektiven und Informationen wichtig, um die verschiedenen Dimensionen des Themas zu analysieren und mögliche politische Lösungen abzuleiten. Eine angemessene Balance zwischen der Diversität von Perspektiven und Informationen und klaren, kohärenten politischen Entscheidungen ist die große Herausforderung für staatliches Handeln beim Umgang mit komplexen Themen. Dabei ist wichtig, wer in den fortwährenden Regulierungs- und Implementierungsprozess eingebunden wird – und wer nicht. Doch welche Organisationen beteiligten sich in Deutschland bereits früh am politischen Diskurs um KI? Welche Aspekte des Themas wurden dabei in den Vordergrund gestellt?

Was uns Diskursnetzwerkanalysen zeigen

Eine Analyse der Beiträge zur Regierungskonsultation zur deutschen KI-Strategie aus dem Jahr 2018 unter Beteiligung von 91 Organisationen aus Wissenschaft, Wirtschaft und Zivilgesellschaft gibt erste Hinweise. Für die Konsultation wurden 818 Kommentare zu insgesamt zwölf vorgegebenen Themenfeldern abgegeben, wobei zahlreiche Organisationen Kommentare zu allen Themenfeldern verfassten. Für die Analyse wurden in den abgegebenen Kommentaren der einzelnen Organisationen Themenfelder identifiziert, die von diesen im Zusammenhang mit der KI-Strategie hervorgehoben wurden. Das Diskursnetzwerk in der Abbildung zeigt die Ergebnisse auf einer aggregierten Ebene: Organisationstypen sind als graue Quadrate dargestellt, die genannten Themenfelder als blaue Kreise. Je kräftiger die Verbindung zwischen Organisationstyp und Themenfeld, desto häufiger wurde dieses Themenfeld von Organisationen aus dieser Kategorie genannt.

Wenig überraschend wird das Themenfeld Wissenschaft und Technologie von allen Organisationen besonders häufig erwähnt. Interessanter ist hingegen die sich in der Mitte des Netzwerks abzeichnende Gruppe aus Unternehmen, Wirtschaftsinteressengruppen und wissenschaftlichen Organisationen, die neben Wissenschaft und Technologie besonders das Themenfeld Wirtschaft und Industrie betonen. Unternehmen und Wirtschaftsinteressengruppen betonen auch das Themenfeld Bildung, das insbesondere auch die Ausbildung zukünftiger KI-Expert:innen umfasst. Alle drei Organisationsgruppen betonen zudem das Themenfeld Öffentliche Verwaltung, eines der zwölf vorgegebenen Themenfelder, in dem es unter anderem um die Organisation von KI-Politik geht.

Mit 45 Organisationen stellen Unternehmen und Wirtschaftsinteressengruppen außerdem die Hälfte der teilnehmenden Organisationen. Zahlreiche dieser Unternehmen verschiedener Größenordnungen stammen aus dem deutschen Digitalsektor. Bei den Wirtschaftsinteressengruppen sind neben Vertreter:innen des Digitalsektors auch Organisationen aus anderen in Deutschland wichtigen Industriesektoren vertreten. Nimmt man wissenschaftliche Organisationen hinzu, stellt die im Diskursnetzwerk zentrale Gruppe gut zwei Drittel aller Teilnehmer:innen der Regierungskonsultation. Diese Gruppe umfasst neben zahlreichen Universitäten auch mehrere Expertengruppen des Digitalgipfels und andere wichtigen Akteur:innen der deutschen Forschungslandschaft, wie die Fraunhofer Gesellschaft und das Deutsche Zentrum für Luft- und Raumfahrttechnik.

Die Kategorie öffentlicher Interessengruppen ist mit sieben Akteur:innen dagegen deutlich kleiner und scheint sich auch weniger stark am Diskurs um die wirtschaftlichen Aspekte von KI zu beteiligen. In ihr finden sich der Deutsche Gewerkschaftsbund und die Vereinte Dienstleistungsgewerkschaft ver.di ebenso wieder wie der Bundesverband der Verbraucherzentralen und die Deutsche Umwelthilfe. Ebenfalls auffällig ist auch, welche Themenfelder insgesamt weniger stark betont werden: Es handelt sich dabei zum einen um Themenfelder wie Arbeit und Bürgerrechte, also Bereiche, die direkt von den Anwendungsmöglichkeiten Künstlicher Intelligenz betroffen sind. Zum anderen handelt es sich um Themenfelder wie Gesundheit und Soziales, also mögliche Anwendungsbereiche für KI-Anwendungen.

Zusammenfassend lässt sich sagen, dass die Beteiligung von Unternehmen und Wirtschaftsinteressengruppen an der Regierungskonsultation im Jahr 2018 besonders stark war. Zivilgesellschaftliche Stimmen waren hingegen schwächer vertreten. Inhaltlich wurde Künstliche Intelligenz eher abstrakt und mit einem Fokus auf die technischen Aspekte diskutiert. In dieser Frühphase der politischen Debatte wurde zudem stark der wirtschafts- und industriepolitische Aspekt in den Vordergrund gestellt. Soziale oder umweltbezogene Bedenken waren dagegen Randthemen. Diese Ergebnisse werden auch von einer weiterführenden Analyse des frühen medialen und parlamentarischen Diskurses zur Künstlichen Intelligenz in Deutschland zwischen 2017 und 2019, also ein Jahr vor und ein Jahr nach der Regierungskonsultation, bestätigt:

Insgesamt ist in Deutschland also eine eher fragmentierte frühe politische Debatte zu KI zu beobachten. Nur wenige Organisationen verbanden in dieser Phase KI mit mehreren anderen Themenfeldern, wie beispielsweise möglichen Anwendungssektoren. Zudem fällt auf, dass zivilgesellschaftliche Stimmen zumindest zu Beginn des öffentlichen politischen Diskurses eher weniger deutlich zu vernehmen waren.

Was heißt das für die Governance von KI?

Die Frage nach der Einbindung verschiedener Perspektiven steht in Zusammenhang mit der Informationsvielfalt, die politischen Entscheidungsträger:innen zur Verfügung stehen, wenn sie KI-Politik machen. Eine mangelnde Informationsvielfalt kann zu Problemen führen, wenn etwa wichtige Aspekte des Themas übersehen wurden. Bereits heute zeigt sich, dass konkrete Anwendungen von KI politische Kontroversen auslösen können und in der Folge sogar gestoppt werden müssen. Das niederländische Beispiel «SyRi», ein Instrument, das Behörden helfen sollte, Betrug bei Sozialleistungen, Zulagen und Steuern aufzudecken, hatte 2020 weltweit Schlagzeilen gemacht. Kindergeldberechtigte Bürger:innen wurden fälschlicherweise des Betruges bezichtigt, da die verwendeten Indikatoren diskriminierende Verzerrungen aufwiesen. Solche Kontroversen können zu einem Vertrauensverlust in der Bevölkerung führen, was sich wiederum negativ auf zukünftige Anwendungen und die Akzeptanz von Innovationen auswirken kann.

Einbindung der Zivilgesellschaft für mehr Perspektivvielfalt

Dass der Regulierungsmarathon mit einem Inkrafttreten des AI Acts nicht abgeschlossen sein wird, zeichnete sich schon früh ab. Mit ergänzenden Initiativen wie einer Überarbeitung der Produkthaftungsrichtlinie (Product Liability Directive) und einer Richtlinie zur KI-Haftung (AI Liability Directive), Fragen zu Normung und Standardisierung von KI sowie der Implementierung des AI Acts werden sich viele Akteur:innen beschäftigen. Auch auf nationaler Ebene sind Anpassungen unerlässlich – so wiesen zuletzt 19 zivilgesellschaftliche Organisationen in einem offenen Brief auf die Notwendigkeit einer Anpassung des Allgemeinen Gleichbehandlungsgesetzes (AGG) hin, das in seiner heutigen Form nicht vor algorithmenbasierter Diskriminierung schützt. Die Bandbreite an Themenbereichen, die von KI berührt werden und Entscheidungen erfordern, ist vielseitig. Ebenso vielfältig sollten die Perspektiven sein, die in die Governance von KI eingebunden werden, etwa zivilgesellschaftliche Stimmen und Stimmen aus den Sektoren, in denen KI-Anwendungen bereits jetzt oder in naher Zukunft eine relevante Rolle spielen. Auch wenn das auf den ersten Blick komplexer wirkt, kann es sich langfristig auszahlen, da wichtige und kontroverse Punkte bereits früh identifiziert und politisch verhandelt werden können. Auf der anderen Seite können sich mangelhafter Austausch und fehlende Koordinierung, die aus Missverständnissen oder Silodenken erwachsen, letztlich negativ auf die Anwendung von KI-Innovationen auswirken. Insgesamt kann die Perspektivvielfalt, zu der gerade auch zivilgesellschaftliche Stimmen einen wichtigen Beitrag leisten, die Formulierung und Implementierung von guten politischen Lösungen für KI begünstigen. Derzeit erscheint es noch weitestgehend offen, welchen Weg die deutsche Bundesregierung hier bei der Gestaltung der Governance von KI im europäischen und internationalen Vergleich einschlagen wird. Im Kontext der Regulierung  setzte man zunächst auf eine harmonisierte europäische Lösung in Form des AI Acts, doch auch da scheint  sich die Koalition noch uneinig zu sein: So veröffentlichte die SPD-Fraktion ein Positionspapier im Bundestag erst, nachdem sich der Rat der Europäischen Unionen und damit alle 27 EU-Mitgliedsstaaten auf eine Position im Dezember 2022 geeinigt hatten, und forderte Nachbesserungen (Tagesspiegel Background berichtete). In Anbetracht der schnellen technologischen Fortschritte in diesem Bereich bleibt zu hoffen, dass das Thema einen wichtigen Punkt auf ihrer Agenda darstellt und wichtige Opportunitätsfenster zur richtigen Zeit genutzt werden.

*Die in diesem Beitrag dargestellte Analyse basiert auf einem gemeinsamen Forschungspapier von Nicole Lemke mit den Professoren Philipp Trein (Universität Lausanne) und Frédéric Varone (Universität Genf).

Dieser Text ist lizenziert unter einer  Creative Commons Namensnennung 4.0 International Lizenz.