Wie sollte die KI-Aufsicht in Deutschland gestaltet werden und was haben Sonne, Strand und Meer damit zu tun? Um dieser Frage, die mit Inkrafttreten der europäischen KI-Verordnung der EU immer relevanter wird, haben wir Anfang Juli zur Podiumsdiskussion “KI- Aufsicht in Deutschland” in das Berliner Haus der Bertelsmann Stiftung geladen.

Im Mai haben wir eine Studie veröffentlicht, in der die Autoren Prof. Dr. Mario Martini und Dr. Jonas Botta die Vorgaben für die nationale KI-Aufsicht aus der europäischen KI-Verordnung analysieren und untersuchen, welche Behörde in Deutschland am geeignetsten für diese Aufgabe ist. Sie schlussfolgern, dass die Bundesnetzagentur sich am besten eignet.

Seit der Veröffentlichung  gab es einige öffentliche Diskussionen sowohl in den Medien als auch im Digitalausschuss des Bundestags darüber, wie die Aufsicht in Deutschland ausgestaltet werden sollte. Am 4. Juli hat Martin Hullin, Direktor des Programms Digitalisierung und Gemeinwohl, interessierte Gäste zur Podiumsdiskussion eingeladen, um diese Frage weiter zu erörtern.

Nach der Begrüßung diskutierte Asena Soydaş mit Dr. Jonas Botta (Deutsches Forschungsinstitut für öffentliche Verwaltung), Tabea Rößner (Mitglied des Deutschen Bundestags), Polina Khubbeeva (Referentin für KI, Robotik und Chips I Bundesverband der Deutschen Industrie e.V.) und Lina Ehrig (Leiterin Medien & Digitales I Verbraucherzentrale Bundesverband e.V.) die dringlichsten Fragen zur Entscheidung über die Aufsicht, Erkenntnisse aus der Vergangenheit und Wünsche für die Zukunft:

Was ist jetzt wichtig für die Entscheidung über die KI-Aufsicht?

  • Die KI-Aufsichtsbehörde braucht einen guten Zugang zu den sektoralen Akteur:innen und eine gute Koordination mit der EU-Ebene, denn sie muss in der Lage sein, effektiv mit Unternehmen, Forschungseinrichtungen und anderen relevanten Akteur:innen innerhalb verschiedener Branchen zu kommunizieren und zusammenzuarbeiten. Gleichzeitig ist eine harmonisierte Zusammenarbeit mit den europäischen Institutionen notwendig, um sicherzustellen, dass die nationalen Regelungen und Maßnahmen im Einklang mit den EU-Vorgaben stehen und grenzüberschreitende Herausforderungen effizient angegangen werden können.
  • Ein weiterer zentraler Aspekt der Arbeit der KI-Aufsichtsbehörde sollte die Förderung von Innovationen und die Unterstützung des Wettbewerbs sein. Dies erfordert nicht nur die Regulierung und Überwachung von KI-Technologien, sondern auch aktive Maßnahmen, die zur Förderung eines dynamischen Innovationsumfelds beitragen und dabei helfen, die Wettbewerbsfähigkeit Deutschlands als Standort zu stärken.
  • Der AI Act stellt eine komplexe rechtliche Grundlage dar und wirft zahlreiche Fragen auf, die noch geklärt werden müssen. Trotz der Komplexität und der bestehenden Unsicherheiten sollte das Durchsetzungsgesetz rechtzeitig vor der Sommerpause 2025 verabschiedet werden. Dies erfordert eine gründliche, aber zügige Auseinandersetzung mit den offenen Fragen, um einen rechtssicheren Rahmen zu schaffen, der sowohl die Unternehmen als auch die Verbraucher:innen schützt und gleichzeitig Innovationen nicht hemmt.
  • Der Kompetenzaufbau innerhalb der zuständigen Behörde(n) ist ebenfalls von großer Bedeutung, besonders angesichts des Fachkräftemangels und des intensiven Wettbewerbs um Talente. In vielen europäischen Ländern gibt es attraktive Bedingungen für Fachkräfte, die neben beruflichen Herausforderungen auch durch Lebensqualität wie Sonnenschein, Meer und Strand punkten.

Was können wir aus der Vergangenheit (z.B. DSGVO & DSA) lernen?

  • Es muss eine zentrale Anlaufstelle geschaffen werden, die im Falle einer Beschwerde für den gesamten Prozess verantwortlich ist. Durch eine zentrale Struktur können Doppelarbeit und Verzögerungen minimiert sowie die Transparenz und Nachvollziehbarkeit des Prozesses erhöht werden. Die Anlaufstelle sollte klar kommuniziert werden, sodass Betroffene wissen, wohin sie sich wenden können, und Vertrauen in den Beschwerdeprozess gewinnen.
  • In der Umsetzung von früheren digitalpolitischen Vorhaben haben Fragmentierungen zu Wettbewerbsverzerrungen geführt, die durch uneinheitliche Regelungen und Vorgehensweisen durch unterschiedliche Verantwortlichkeiten und Sektoren entstanden sind. Dies gilt es zu vermeiden.
  • Ein vielfältig besetzter Beirat mit konkreten Verantwortlichkeiten kann den Prozess der Umsetzung unterstützten. Der Beirat kann beispielsweise beratend bei der Bewertung komplexer Fälle wirken, Empfehlungen zur Verbesserung der Prozesse aussprechen und sicherstellen, dass unterschiedliche Perspektiven und Interessen berücksichtigt werden.

Was sagt uns ein Blick in die Zukunft?

An unterschiedlichen Stellen wird bereits intensiv darüber gesprochen, ob Deutschland eine  Digitalagentur als One-Stop-Shop für digitalpolitische Aufgaben benötigt. Eine solche Agentur könnte sämtliche digitale Anliegen zentral bündeln und koordinieren, um die Effizienz und Kohärenz der digitalen Verwaltung zu verbessern.

  • Die Diskutant:innen waren sich einig, dass die Einrichtung einer solchen Agentur in der neuen Legislaturperiode erstrebenswert wäre. Es wurde daher darauf hingewiesen, dass es sehr teuer wäre, eine solche Agentur mit den nötigen Werkzeugen und Kompetenzen auszustatten, damit sie effektiv arbeiten kann. Ohne ausreichende finanzielle, personelle und infrastrukturelle Mittel besteht die Gefahr, dass die Digitalagentur lediglich ein attraktiver Name bleiben würde, ohne ihre potenziellen Vorteile tatsächlich auszuschöpfen.
  • Dazu braucht es in Deutschland auch eine bessere Fehlerkultur und eine Arbeitskultur der Kooperation in und zwischen den Behörden.

Wir nehmen mit, dass in vielen Aspekten große Einigkeit zwischen den Diskutant:innen herrschte und gleichzeitig viele Fragen noch offen sind, wie wir die Umsetzung so gestalten, dass sie eine nutzerorientierte, kompetente KI-Aufsicht ermöglicht. In den nächsten Monaten werden wir darauf aufbauende Aktivitäten fortführen.

Die Kurzzusammenfassungen der Artikel sind unter einer Creative Commons Namensnennung 4.0 International Lizenz.