Erlesenes #18: Fokusausgabe zur KI-Verordnung der EU

Regulierung braucht Zivilgesellschaft. Das hat sich nun an den harten und zuweilen zähen Verhandlungen rund um die KI-Verordnung der EU gezeigt, die vergangene Woche im EU-Parlament abgestimmt wurde. Damit hat jetzt auch das Europäische Parlament eine Position für die Trilog-Verhandlungen der kommenden Monate gefunden. Auch dank zivilgesellschaftlichen Engagements (z. B. #Reclaimyourface) hat die Verordnung durchaus den Schutz der Grundrechte im Fokus, etwa wurde das Verbot von biometrischer Gesichtserkennung durchgesetzt. An anderer Stelle, etwa im Migrationsbereich, werden Grundrechte nicht ausreichend geschützt, so die Einschätzung von European Digital Rights (EDRi). Im Bereich der Standardisierung – einer der wichtigsten Hebel in der konkreten Durchsetzung der Verordnung – plädiert das Ada Lovelace Institut für eine stärkere Einbeziehung zivilgesellschaftlicher Stimmen in den verantwortlichen Gremien. Außerdem: ein guter Überblick über die verschiedenen KI-Regulierungsbestrebungen, von der UN über die OECD bis zur EU.

Viel Spaß beim Lesen wünschen
Teresa und Michael

P.S.: Michael fehlt leider auf dem Foto!

Die Meinungen in den Beiträgen spiegeln nicht zwangsläufig die Positionen der Bertelsmann Stiftung wider. Wir hoffen jedoch, dass sie zum Nachdenken anregen und zum Diskurs beitragen. Wir freuen uns immer über Feedback – der Newsletter lebt auch von Ihrer Rückmeldung und Ihrem Input. Melden Sie sich per E-Mail an teresa.staiger@bertelsmann-stiftung.de oder bei Twitter unter @reframeTech.  

So bewerten zivilgesellschaftliche Organisationen den aktuellen Stand der KI-Verordnung

EU Parliament calls for ban of public facial recognition, but leaves human rights gaps in final position on AI Act, EDRi, 14.6.2023

Die letzten Tage vor der Abstimmung der KI-Verordnung im Europäischen Parlament waren noch ganz schön spannend: Nachdem unerwarteterweise doch mehrere Änderungsanträge von der EPP-Fraktion kamen, war nicht ganz sicher, wie der Kompromiss aus dem Komitee nach dem Plenum aussehen wird. Das betraf vor allem das ursprünglich enthaltene Verbot von biometrischer Echtzeitüberwachung. Schlussendlich blieb dann aber alles beim Alten, keiner der Änderungsanträge aus dem Plenum wurde beschlossen. Das bewertet das europäische Digitalrechtenetzwerk EDRi gemischt: Auf der einen Seite ist Erleichterung darüber zu lesen, dass das erwähnte Verbot bestehen bleibt – eine der zentralen Forderungen zivilgesellschaftlicher Organisationen. Auf der anderen Seite sind aber Änderungsanträge gerade aus der linken Fraktion abgelehnt worden, die ein Verbot des Einsatzes von KI-Systemen im Migrationssektor, z. B. für die Koordination illegaler Pushbacks, oder eine Art „Recht auf Erklärung von KI-Outputs“ für Betroffene etabliert hätten. Für diese und weitere Punkte wird EDRi sich auch in den nächsten Monaten einsetzen.

Start-ups sind noch nicht bereit für die KI-Verordnung

Sandboxing the AI Act: Testing the AI Act proposal with Europe’s future unicorns, DIGITALEUROPE, 1.6.2023

Wie sind eigentlich die europäischen kleinen und mittleren Unternehmen (KMUs) und Start-ups auf die kommende KI-Verordnung vorbereitet? Der europäische Digitalverband DIGITALEUROPE hat zu dieser Frage im Frühjahr mit zumindest neun Unternehmen gesprochen. Die Antworten deuten vor allem auf Unsicherheiten: Die Mehrheit der Befragten kennt die konkreten Bestimmungen noch nicht und kann auch nicht abschätzen, ob und wie sie selbst betroffen sein wird. Die Tatsache, dass noch keine harmonisierten Standards bestehen, unterstreicht das. Außerdem erwarten die Unternehmen, dass die Umsetzung der KI-Verordnung sich in Europa stark unterscheiden wird. Auf Grundlage der Ergebnisse macht der Branchenverband sechs Empfehlungen. Dazu gehören die Notwendigkeit eines Investitionsplans, mehr Klarheit über den Anwendungsbereich des Vorschlags sowie eine schrittweise Umsetzung und praktische Unterstützung für KMUs. Außerdem sollte sich die EU vorbehalten, die Verordnung auf der Grundlage praktischer Erfahrungen in Zukunft anzupassen.

Wir brauchen in der Standardisierung mehr Zivilgesellschaft

Inclusive AI governance, Ada Lovelace Institute, 30.3.2023

Auch wenn es auf den ersten Blick nicht so aussieht: Die über 90 Seiten lange KI-Verordnung enthält keine detaillierten Regeln für die Umsetzung von Anforderungen bei der Gestaltung von KI-Systemen. Beispielsweise sollen Hochrisikosysteme einen angemessenen Grad an Genauigkeit haben – aber was bedeutet das konkret? Hier setzt der Rechtsakt auf sogenannte „harmonisierte Normen“, die von Standardisierungsgremien entwickelt werden. Christine Galvagna vom Ada Lovelace Institute sieht darin ein Problem: Denn während einige dieser technischen Standards auch grund- und menschenrechtliche Auswirkungen haben werden, sind in den Gremien kaum zivilgesellschaftliche Organisationen vertreten – die über die entsprechende Expertise verfügen. Galvagna fasst in dieser Studie die Situation zusammen und macht einige Empfehlungen, die noch während des Trilogs umgesetzt werden sollten. Dazu gehört die Förderung der Zivilgesellschaft für die aufwendige Mitarbeit in den Gremien und die Einrichtung eines partizipativen KI-Benchmarking-Instituts, das Standards weiter spezifizieren könnte.

Was kann die KI-Verordnung von China lernen?

What can the EU learn from China’s generative AI regulation before it adopts its AI Act? Euronews, 23.5.2023

Wie geht eigentlich China vor, wenn es um die Regulierung von sogenannten „generativen KI-Modellen“ geht? Aktivist und Forscher Kris Shrishak hat sich damit näher beschäftigt und findet, dass wir etwas lernen können. So ist nach einem chinesischen Gesetzesentwurf die unberechtigte Nutzung urheberrechtlich geschützter Inhalte und personenbezogener Daten für das Training von KI-Modellen verboten. Urheberrecht spricht die KI-Verordnung nicht an – eine Lücke, findet Shrishak. Bisher haben sich mit dem Thema in Europa vor allem Datenschutzaufsichtsbehörden beschäftigt: Der Europäische Datenschutzausschuss hat eine Task Force zum Austausch von Informationen über die Durchsetzung des Datenschutzes ins Leben gerufen; die britische Wettbewerbsbehörde hat eine Untersuchung über generative KI eingeleitet und die italienische Datenschutzbehörde hat OpenAI gezwungen, begrenzte Verbesserungen beim Datenschutz vorzunehmen (Reuters kuratiert hier übrigens laufend eine Übersicht über KI-Regulierungsbemühungen weltweit). Außerdem kritisiert Shrishak, dass sich die EU bei der Umsetzung der KI-Verordnung auf Selbsteinschätzungen der KI-Entwickler:innen und nicht auf Bewertungen durch Dritte verlässt. Die Gefahr könnten Durchsetzungsprobleme sein, wie wir sie von der Datenschutz-Grundverordnung (DSGVO) kennen.

AI Act, AI Pact, AI Treaty …

Our quick guide to the 6 ways we can regulate AI, Technology Review, 22.5.2023

Neben der KI-Verordnung gibt es weltweit in einzelnen Ländern, wie in Indien oder Ägypten, sowie auch in internationalen Organisationen weitere Anstrengungen, Regeln für den Einsatz von KI-Systemen aufzustellen. Da kann Mensch schnell den Überblick verlieren. Journalistin Melissa Heikkilä gibt hier einen Überblick über die sechs wichtigsten internationalen Prozesse: einen völkerrechtlichen KI-Vertrag, die Umsetzung der OECD-Prinzipien zu KI, das Global Partnership on AI, technische Standardisierung, Bemühungen innerhalb der UN und natürlich auch die KI-Verordnung. Dabei sei die EU mit ihrer Rechtssetzung aktuell am weitesten und hätte potenziell die Möglichkeit, als „first mover“ auch die Entwicklung anderer Regulierungsbestrebungen weltweit zu beeinflussen. Wer noch mehr über verschiedene Formen der KI-Regulierung erfahren möchte, kann einen Blick in diese ausführliche Analyse werfen.

Follow-Empfehlung: Ella Jakubovska

Ella Jakubovska ist Senior Policy Advisor beim europäischen Digitalrechtenetzwerk EDRi. Sie gehört zur Koordination der „Reclaim Your Face“-Kampagne und twittert regelmäßig zu biometrischer Gesichtserkennung.

Verlesenes: Ein Ausblick auf den nun gestarteten Trilog zur KI-Verordnung

Die Kurzzusammenfassungen der Artikel sind unter einer Creative Commons Namensnennung 4.0 International Lizenz.