In der sechsten Ausgabe unserer Dialogreihe „KI-Verordnung – Wege zur Umsetzung“ stand die Frage im Mittelpunkt, wie die öffentliche Verwaltung die europäischen Vorgaben der KI-Verordnung praktisch umsetzen kann.

Gemeinsam mit Dr. Jonas Botta (FernUniversität Hagen und Deutsches Forschungsinstitut für öffentliche Verwaltung, Speyer), Malin Mahner (Bundesministerium für Digitales und Staatsmodernisierung) und Thorsten Rhode (Stadt Nettetal, NRW) diskutierten wir über rechtliche Grundlagen, organisatorische Herausforderungen und Wege, den Einsatz von KI-Systemen aktiv zu gestalten.

Gerade der Einsatz von KI in der öffentlichen Verwaltung erfordert besondere Verantwortung. Der Einsatz von KI kann hier Einfluss auf Verwaltungsentscheidungen haben Solche Entscheidungen haben stärkere Konsequenzen für das Leben von Bürgerinnen und Bürgern als etwa die Digitalisierung eines Bibliotheksbestands oder die Optimierung interner Abläufe. Umso wichtiger ist es, dass der Einsatz von KI in der Verwaltung auf Transparenz, Nachvollziehbarkeit und Schutz von Grundrechten beruht.

Im Austausch kristallisierten sich drei zentrale Botschaften heraus, die deutlich machen, worauf es bei der nationalen Umsetzung der KI-Verordnung ankommt:

  • Verwaltung wird selbst zum Akteur im KI-Regelwerk.
    Die KI-Verordnung betrifft Behörden nicht nur als Aufsichtsinstanzen, sondern sie können auch als Anbieterinnen und Betreiberinnen von KI-Systemen fungieren – mit eigenen rechtlichen Pflichten und Verantwortung für Grundrechte, Transparenz und Nachvollziehbarkeit.
  • Umsetzung gelingt nur durch Lernprozesse und Zusammenarbeit.
    Die Verwaltung muss technologische, rechtliche und organisatorische Kompetenz verbinden. Mit Initiativen wie BeKI, MaKI, KIPITZ und dem geplanten KI-Guide entstehen Strukturen, die Wissen bündeln, Nachnutzung fördern und Verwaltung schrittweise zu einer lernenden Organisation machen.
  • Kommunen sind Laborräume für praktische Umsetzung.
    Beispiele wie Nettetal zeigen, dass auch kleinere Verwaltungen KI verantwortungsvoll einsetzen können. Mit Projekten wie Seepferdchen für KI, KI Hub und netteKI entstehen lokale Ökosysteme, die zeigen, wie Regulierung, Innovation und Alltagspraxis zusammenfinden können – vorausgesetzt, Kommunen erhalten die nötige Unterstützung und Spielräume.

Rechtliche Verantwortung und Pflichten des Staates

Über die öffentliche Verwaltung im Kontext der KI-Verordnung spricht man häufig nur im Zusammenhang mit der nationalen Aufsicht, die in Deutschland primär von der Bundesnetzagentur übernommen werden soll (siehe dazu auch unseren Blogbeitrag zur 3. Ausgabe und die Studie Nationale KI-Aufsicht, sowie die Stellungnahme zum Umsetzungsgesetzes des Weizenbaum Institutes).

Dass es damit nicht getan ist, machte Dr. Jonas Botta in seinem Impuls deutlich. Er gab Einblicke in die Vorgaben der KI-Verordnung an die öffentliche Verwaltung und zeigte auf, dass diese weitreichende Erwartungen und Anforderungen an Behörden stellt.
Sofern Behörden selbst als Verwenderinnen von KI-Systemen agieren, sind insbesondere die Bestimmungen zu Hochrisiko-KI-Systemen nach Artikel 6 Absatz 2 in Verbindung mit Anhang III relevant. Diese betreffen vor allem Anwendungen in grundrechtssensiblen Bereichen wie Bildung, Strafverfolgung oder Personalmanagement.

Für solche Systeme gelten verschärfte Betreiberpflichten:

  • die Durchführung einer Grundrechte-Folgenabschätzung (Artikel 27 KI-VO), um Risiken frühzeitig zu erkennen,
  • sowie die Registrierung in der zentralen EU-Datenbank (Artikel 27 KI-VO), um Transparenz und Nachvollziehbarkeit sicherzustellen.

Zugleich sieht die KI-Verordnung eine Ausnahmeregelung (Artikel 6 Absatz 3 KI-VO) vor, wenn Hochrisiko-KI-Systeme das Ergebnis der Entscheidungsfindung nicht wesentlich beeinflusst.

Darüber hinaus wies Botta darauf hin, dass die Mitgliedstaaten bei der Umsetzung der KI-Verordnung über eigene Gestaltungsspielräume verfügen. Während der AI Act europaweit einheitliche Standards für Sicherheit und Transparenz schafft, bleiben Bereiche wie Verwaltungsrecht und nationale Aufsichtsstrukturen in der Verantwortung der Mitgliedstaaten. Hier kann Deutschland eigene Schwerpunkte setzen, etwa durch ergänzende Transparenzvorgaben, sektorübergreifende Leitlinien oder ein KI-Transparenzregister für die öffentliche Verwaltung.

Die Verwaltung ist damit nicht nur Adressatin der Aufsicht, sondern kann selbst Trägerin regulatorischer Verantwortung sein und steht exemplarisch für die Herausforderung, Rechtsstaatlichkeit, Grundrechteschutz und technologische Innovation in Einklang zu bringen.

Verwaltung als lernende Organisation

Malin Mahner betonte in ihrem Beitrag, dass die Umsetzung der KI-Verordnung und der Einsatz von KI-Systemen in der Verwaltung weit über reine Rechtsbefolgung hinausgeht. Sie erfordert eine Verwaltung, die technologische Entwicklungen versteht, gestaltet und ihre Lern- und Anpassungsfähigkeit stärkt.

Im Mittelpunkt stehe dabei das Beratungszentrum für Künstliche Intelligenz (BeKI), das als zentrale Anlaufstelle der Bundesverwaltung fungiert. Es bündelt Wissen, fördert Vernetzung und befähigt Behörden, KI sicher, kompetent und gemeinwohlorientiert einzusetzen. Ziel sei eine Verwaltung, die KI als Werkzeug zur besseren Aufgabenerfüllung versteht und nicht als technologische Last, sondern als Chance für Innovation und Effizienz.

Wesentliche Initiativen des BMDS illustrieren diesen Ansatz:

  • Der Marktplatz der KI-Möglichkeiten (MaKI) erhöht Transparenz über KI-Systeme.
  • Mit KIPITZ wird KI in der Bundesverwaltung demokratisiert: Sprachmodelle, Schnittstellen und Anwendungen stehen über eine sichere, souveräne Infrastruktur allen Beschäftigten offen.
  • Der KI-Guide bietet künftig praxisorientierte Hilfestellungen für Planung, Beschaffung und Umsetzung von KI-Systemen entlang ihres gesamten Lebenszyklus.
  • Der Deutschland-Stack schafft als langfristige Vision eine souveräne Technologieplattform, über die Bund, Länder und Kommunen bis 2028 nutzerfreundliche, interoperable Verwaltungsleistungen bereitstellen können.

Betont wurde, dass diese Maßnahmen nur dann Wirkung entfalten, wenn sie sich an den Bedürfnissen ihrer Zielgruppen orientieren:
Unternehmen erwarten effiziente, bürokratiearme Verfahren; Bürgerinnen und Bürger wünschen sich einfache, digitale Behördengänge; Länder und Kommunen müssen bestehende Lösungen nachnutzen und schnell integrieren können; und der Bund verfolgt das Ziel einer digitalen, souveränen und europäischen Verwaltung.

Zugleich verwies Mahner auf die Bedeutung externer Partnerstrukturen: Die Bundesnetzagentur informiert über neue europäische Anforderungen über den KI-Service Desk, das BSI unterstützt mit einem Kriterienkatalog für den Einsatz generativer KI, und Initiativen wie Mission KI fördern Standardisierung und den Transfer von Innovationen. Zusammen bilden sie ein eng vernetztes Ökosystem für eine verantwortungsvolle, praxistaugliche KI-Governance.

Insgesamt verdeutlichte der Beitrag, dass Kompetenzaufbau, Kooperation und Erprobung zu den Kernaufgaben einer modernen Verwaltung gehören. Eine Verwaltung, die lernt, sich vernetzt und Innovation aktiv mitgestaltet, kann den regulatorischen Rahmen der KI-Verordnung nicht nur umsetzen, sondern mit Leben füllen im Dienst von Transparenz, Vertrauen und öffentlichem Mehrwert.

Kommunaler Leuchtturm: Die Stadt Nettetal

Thorsten Rhode, IT-Leiter der Stadt Nettetal mit rund 43 000 Einwohner:innen, zeigte in seinem Beitrag, wie Kommunen die Umsetzung der KI-Verordnung pragmatisch gestalten können. Nettetal hat in den vergangenen Jahren konsequent daran gearbeitet, digitale Prozesse zu modernisieren und Künstliche Intelligenz von automatisierter Dokumentenverarbeitung bis hin zu datenbasierten Analysen Schritt für Schritt in die Verwaltung zu integrieren.

Ein Baustein dieser Entwicklung ist das „Seepferdchen für KI“, ein niedrigschwelliges Lern- und Qualifizierungsformat, das Verwaltungsmitarbeitende an den sicheren und verantwortungsvollen Umgang mit KI heranführt. Ergänzt wird dieses Angebot durch den KI Hub Nettetal, eine interne Austausch- und Experimentierplattform, auf der verschiedene Fachbereiche gemeinsam an Pilotprojekten und Anwendungsideen arbeiten. Darüber hinaus bündelt das Programm „netteKI“ die unterschiedlichen KI-Aktivitäten von Schulungen über lokale Use Cases bis hin zur Bürgerkommunikation der Stadt unter einem gemeinsamen Dach und steht für eine offene, praxisnahe und kommunal verankerte KI-Strategie.

Gleichzeitig machte Rhode auf die Herausforderungen aufmerksam, die mit der Umsetzung der KI-Verordnung einhergehen. Aus seiner Sicht könnten, die ab August 2026 geltenden Dokumentations- und Nachweispflichten kleinere Verwaltungen erheblich belasten. Wenn die Vorgaben zu eng ausgelegt werden, drohten Innovationsprozesse ins Stocken zu geraten. Er sprach sich daher für mehr Unterstützung und Begleitung vor Ort aus, beispielsweise durch Beratungsstrukturen und praxisnahe Handreichungen oder für eine zeitweise Entlastung der Kommunen, um den Übergang realistisch zu gestalten.

Sein Beitrag zeigte, dass Kommunen wie Nettetal bereits heute erproben, wie Regulierung, Innovation und Praxis zusammengehen können. Mit Initiativen wie dem Seepferdchen für KI, dem KI Hub und netteKI entsteht ein lokales Ökosystem, das Verwaltung befähigt, Verantwortung zu übernehmen und den digitalen Wandel aktiv mitzugestalten, ganz im Sinne einer lernenden, zukunftsfähigen Verwaltung.

Siebte Ausgabe der Dialogreihe „KI-Verordnung: Wege zur Umsetzung“

Wir danken allen Referent:innen und Teilnehmenden für die konstruktiven Beiträge und den offenen Austausch in der fünften Ausgabe unserer Dialogreihe.

Die nächste Ausgabe findet am 30. Oktober 2025 von 14.00 bis 15.30 Uhr statt und befasst sich mit dem Thema „Die KI-Verordnung und Standardisierung“.

Bertelsmann Stiftung x Weizenbaum Institut – zur Kooperation

Die europäische KI-Verordnung ist seit dem 1. August 2024 in Kraft getreten. Seitdem liegt der Ball vor allem bei den Mitgliedstaaten: Wie packen wir in Deutschland die Umsetzung an? Für unsere Politiker:innen heißt es: Ärmel hochkrempeln und ran an den Text! Die KI-Verordnung ist nämlich keine leichte Lektüre, sondern ein langes Regelwerk mit komplexen Facetten. Den Überblick bei der nationalen Umsetzung zu behalten ist dabei essenziell. Um im Verordnungsdschungel einen Beitrag zu leisten und Wege in der Umsetzung aufzuzeigen, starten das Weizenbaum Institut und wir, das Projekt reframe[Tech] der Bertelsmann Stiftung, eine neue Dialogreihe. In dieser werden Expert:innen aus Politik, Verwaltung, Wissenschaft, Zivilgesellschaft und Wirtschaft in sieben Terminen zusammenkommen, um sich über die vielschichtigen Inhalte, die Auswirkungen, den Einzelheiten und Hintergründen zu den Umsetzungsanforderungen und -optionen der KI-Verordnung vertraut zu machen und um eine kohärente nationale Umsetzung zu gewährleisten.

Dieser Text ist lizenziert unter einer  Creative Commons Namensnennung 4.0 International Lizenz.