Künstliche Intelligenz in der Verwaltung: Pflicht, Potenzial – und ziemlich viele Fragezeichen
Mit der KI-Verordnung der EU entstehen neue Regeln für den Einsatz künstlicher Intelligenz – auch in der öffentlichen Verwaltung. Was Behörden wissen sollten – und warum gerade jetzt der richtige Zeitpunkt zum Handeln ist.
KI in der Verwaltung: Chancen nutzen, Verantwortung übernehmen
Sie heißen ChatGPT, Copilot oder DALL·E – und sie sind längst angekommen in den Büros der Verwaltung. Ob als Entlastung bei der Texterstellung, als Sparringspartner für Bürgerkommunikation oder als Planungshilfe im Bauamt: KI-Tools eröffnen ganz neue Möglichkeiten. Doch sie bringen auch eine Menge Unsicherheiten mit. Was ist erlaubt? Was ist sinnvoll? Und wer trägt am Ende eigentlich die Verantwortung?
Mit dem EU AI Act – der Verordnung über Künstliche Intelligenz – beginnt ein neues Kapitel: Ab voraussichtlich Mitte 2026 gelten EU-weit klare Vorschriften für die Entwicklung, den Einsatz und die Kontrolle von KI-Systemen. Ziel ist es, den Umgang mit KI sicher, verantwortungsvoll und nachvollziehbar zu gestalten. Für Verwaltungen bedeutet das: informieren, befähigen – und Verantwortung übernehmen.
Was ist der EU AI Act?
Der EU AI Act ist die weltweit erste umfassende Regulierung künstlicher Intelligenz. Er soll sicherstellen, dass KI-Systeme in Europa vertrauenswürdig, diskriminierungsfrei und menschenzentriert eingesetzt werden. Das Gesetz teilt KI-Anwendungen in vier Risikokategorien ein – von „minimal“ bis „unvertretbar“. Zu den Anwendungen mit unvertretbarem Risiko, die verboten werden, gehören beispielsweise Systeme, die Menschen manipulieren oder ihre Schwächen ausnutzen.
Für Behörden besonders wichtig: Anwendungen – etwa im Bereich Kommunikation, Bürgerservice oder Datenanalyse – können zu den „hochrisikobehafteten Systemen“ zählen. Und die unterliegen strengen Regeln. Hierzu gehören beispielsweise KI-Systeme im Bewerbermanagement, bei der Kreditbewertung oder auch Gesichtserkennungssysteme in der Strafverfolgung. Diese Systeme unterliegen strengen Regeln, die detaillierte Dokumentationen, Risikobewertungen und menschliche Aufsicht vorschreiben. Es ist jedoch wichtig zu betonen, dass nicht jede KI-Anwendung in der Verwaltung automatisch als „hochriskant“ eingestuft wird. Spam-Filter oder Systeme zur vorausschauenden Wartung gelten beispielsweise als Systeme mit minimalem Risiko.
Wen betrifft das Gesetz?
Die Pflichten des AI Act gelten für zwei Gruppen:
- Anbieter von KI-Systemen: Das sind Organisationen oder Unternehmen – auch öffentliche Stellen – die KI-Systeme entwickeln und bereitstellen.
- Betreiber von KI-Systemen: Das sind jene, die KI-Systeme einsetzen und anwenden – also die meisten Behörden und Verwaltungseinheiten.
Kurz: Auch wer „nur“ KI-Tools nutzt, trägt Verantwortung – rechtlich, ethisch und organisatorisch. Denn, wer ein KI-System einsetzt, bleibt verantwortlich für dessen Ergebnisse. Das heißt: Auch wenn Texte, Bilder oder Datenanalysen automatisiert erzeugt werden – die fachliche Prüfung, Einordnung und Veröffentlichung liegt bei den Mitarbeitenden. Auch in der Öffentlichkeitsarbeit kann das heikel werden: Inhalte müssen rechtssicher sein, datenschutzkonform – und transparent als KI-generiert gekennzeichnet werden, wo nötig. Neben der rechtlichen und ethischen Verantwortung ist auch die Haftung bei Fehlern von KI-Systemen ein wichtiges Thema, auch wenn die Details hierzu noch nicht vollständig geklärt sind.
Artikel 4: KI-Kompetenz wird Pflicht
Ein zentrales Element des Gesetzes ist Artikel 4. Dort steht: Betreiber – also auch Behörden – müssen sicherstellen, dass ihre Mitarbeitenden über ein „ausreichendes Maß an KI-Kompetenz“ verfügen. Diese Vorgabe gilt unabhängig davon, ob es sich um Hochrisiko-KI handelt oder nicht. Die genauen Anforderungen an diese Kompetenz werden derzeit noch ausgearbeitet und durch Leitlinien und Best Practices konkretisiert.
Was bedeutet das konkret?
- Mitarbeitende müssen verstehen, wie KI funktioniert – und wo ihre Grenzen liegen.
- Sie müssen wissen, welche Pflichten bei Nutzung bestehen – etwa zur Transparenz, Dokumentation oder ethischen Abwägung.
- Es braucht nachweisbare, praxisnahe Schulungen, die auch rechtliche und kommunikative Fragen abdecken.
Die gute Nachricht: Wie genau diese Kompetenz aufgebaut wird, können Organisationen selbst gestalten – Hauptsache, sie können es belegen. Interne Richtlinien zum Umgang mit KI-Tools können ebenso zur Kompetenzsicherung beitragen wie externe Schulungsangebote, die auf die spezifischen Bedürfnisse der Verwaltung zugeschnitten sind.
Noch ist Zeit – aber nicht mehr viel
Die Regelungen des EU AI Act treten schrittweise in Kraft. Die meisten Bestimmungen – darunter auch Artikel 4 – gelten voraussichtlich ab Mitte 2026, also zwei Jahre nach offizieller Veröffentlichung der Verordnung. Das klingt erst mal weit weg, ist es aber nicht. Denn der Aufbau von Wissen, Strukturen und Strategien braucht Zeit – und je früher Verwaltungen sich jetzt vorbereiten, desto ruhiger wird der Übergang.
Datenschutz und die Rolle der IT-Abteilungen
Neben den genannten Aspekten sind auch der Datenschutz und die Rolle der IT-Abteilungen von zentraler Bedeutung. KI-Systeme verarbeiten oft große Mengen sensibler Daten, was besondere Herausforderungen für den Datenschutz mit sich bringt. IT-Abteilungen spielen eine Schlüsselrolle bei der Auswahl, Implementierung und Überwachung von KI-Systemen, um die Einhaltung der Datenschutzbestimmungen zu gewährleisten und die Datensicherheit zu gewährleisten.
Ein möglicher Baustein: Der KI-Führerschein der Staatsanzeiger Akademie
Um beim Kompetenzaufbau zu unterstützen, entwickelt die Staatsanzeiger Akademie derzeit ein strukturiertes Fortbildungsprogramm: den KI-Führerschein für den öffentlichen Dienst. In drei praxisnahen Modulen lernen Teilnehmende, wie KI funktioniert, wie man sie sinnvoll einsetzt – und welche rechtlichen Rahmenbedingungen gelten. Besonders im Fokus: die Anwendung in der Öffentlichkeitsarbeit.
Der KI-Führerschein versteht sich als Einstiegspunkt – ergänzt durch weiterführende Workshops und Inhouse-Angebote für Teams.
Lieber vorne mit dabei als später hinterher
KI ist gekommen, um zu bleiben. Und mit ihr wachsen auch die Erwartungen an Verwaltungen. Mit der KI-Verordnung schafft die EU den Rahmen für eine sichere und verantwortungsvolle Nutzung künstlicher Intelligenz. Für Verwaltungen heißt das: nicht abwarten, sondern anfangen. Denn wer heute in Kompetenz investiert, sorgt morgen für Sicherheit, Souveränität – und Vertrauen in der digitalen Verwaltung.
Neugierig geworden? Weitere Infos zum KI-Führerschein gibt’s auf staatsanzeiger.de/xxxxx oder direkt per E-Mail an akademie@staatsanzeiger.de.
