Das Wichtigste in Kürze
- Beschäftigte nutzen KI oft schon ohne Freigabe. Die Einführung beginnt deshalb mit einer Bestandsaufnahme.
- Nichtnutzende warten vor allem auf Regeln und Klarheit beim Datenschutz. Eine Nutzungsrichtlinie vor dem Start schafft Akzeptanz.
- Fünf Prüffragen zeigen, welche Aufgaben sich an KI übergeben lassen.
- Schulung ist der größte Engpass: Weniger als 40 Prozent der Befragten sehen in ihrer Organisation Möglichkeiten, den Umgang mit KI systematisch zu lernen.
- Der Nutzen hängt davon ab, wofür die gewonnene Zeit eingesetzt wird.
Dieser Leitfaden richtet sich an Bürgermeister:innen, Amtsleitungen sowie Digitalisierungs- und IT-Verantwortliche. Er ergänzt unsere vierteilige Serie, die die KI-Debatte für die Verwaltungspraxis einordnet: warum sie an Verwaltungen vorbeiläuft, was Human in the Loop im Alltag bedeutet, ob KI Mitarbeitende schlechter in ihrem Job macht und was Schatten-KI kostet.
Ausgangslage: KI-Nutzung in der Verwaltung ist der Organisation voraus
Die Zahlen des Global AI Adoption Survey zur KI-Nutzung in deutschen Behörden haben wir im Beitrag Aufgaben verschieben sich, Verantwortung bleibt ausführlich eingeordnet. Der Kern: Die individuelle Nutzung ist der organisatorischen Entwicklung weit voraus. Für Entscheider:innen ist ein weiterer Befund derselben Befragung aufschlussreich. Wer KI noch nicht nutzt, tut das selten aus Unkenntnis, die Hemmnisse sind Datenschutzbedenken, fehlende Freigaben und fehlende Regeln. Was auf dem Spiel steht, zeigt eine Studie von SAP mit Daten aus dem öffentlichen Sektor: Nur 22 Prozent der Beschäftigten vertrauen vollständig auf einen ethischen KI-Einsatz, und bis zu 62 Prozent berichten von sinkender Motivation, wenn KI intransparent eingesetzt wird.
Schritt 1: Schatten-KI sichtbar machen
Am Anfang steht eine Bestandsaufnahme: Welche Werkzeuge nutzen die Teams, für welche Aufgaben und mit welchen Daten? Ehrliche Antworten gibt es nur ohne Sanktionsdrohung, denn wer privat mit ChatGPT arbeitet, überbrückt meist eine Lücke in der Infrastruktur. In der Gemeinde Petersberg schrieben Erzieherinnen KI-Ergebnisse vom Smartphone auf Zettel ab, bevor die Verwaltung eine Lösung bereitstellte. Solche Fälle zeigen, wo der Bedarf am größten ist, und liefern die ersten Anwendungsfälle. Was Schatten-KI eine Verwaltung kostet, beschreibt Teil 4 unserer Serie.
Schritt 2: Nutzungsrichtlinie und Datenschutz vor dem Start klären
Laut dem Deutschlandbericht des Global AI Adoption Survey sorgen sich 41 Prozent der Nichtnutzenden um personenbezogene Daten, 38 Prozent warten auf verbindliche Vorgaben, und gut ein Drittel darf KI in der eigenen Organisation nicht einsetzen. Eine KI-Nutzungsrichtlinie beantwortet diese Fragen vor dem Start: welche Daten ins System dürfen, wofür es gedacht ist und wer die Ergebnisse prüft. Personalvertretung und Datenschutzbeauftragte sind von Anfang an beteiligt.
Die Plattform muss diesen Rahmen technisch abbilden. Ayunis Core speichert alle Daten in einem deutschen Rechenzentrum. Die Sprachmodelle verarbeiten Anfragen ausschließlich in Deutschland oder der EU, speichern sie nicht und trainieren nicht damit. Welche Modelle verfügbar sind, legen Administrator:innen fest. Die Datenflüsse sind im öffentlichen Helpcenter dokumentiert und lassen sich vor der Freigabe prüfen.
Schritt 3: Aufgaben sortieren
Vor der Auswahl der Pilotbereiche hilft eine Aufgabeninventur. Das Artificiality Institute hat mit dem Irreducible Complexity Index 894 Berufe danach bewertet, wie gut sich ihre Arbeit in Einzelteile zerlegen lässt. Daraus lassen sich fünf Prüffragen für die häufigsten Aufgaben eines Teams ableiten:
- Muss dafür jemand vor Ort sein?
- Trägt eine Person die Verantwortung für das Ergebnis, auch gegenüber Bürger:innen oder Gerichten?
- Greifen mehrere Fachgebiete gleichzeitig ineinander?
- Muss das Problem erst formuliert werden, bevor es sich lösen lässt?
- Hängt die Qualität an einem Urteil, das sich in keine Regel fassen lässt?
Lauten alle Antworten Nein, eignet sich die Aufgabe für eine geteilte Fähigkeit in Ayunis Core, also eine Arbeitsvorlage mit hinterlegtem Kontext. Bei mehreren Ja-Antworten bereitet KI Teilschritte vor, Entscheidung und Prüfung bleiben bei den Fachleuten. So hat eine Mitarbeiterin im Rechnungswesen einer südwestdeutschen Stadt die Kalkulation der Marktgebühren aufgeteilt und rund 50 Prozent Zeit gespart. Die fachliche Bewertung blieb bei ihr.
Schritt 4: Erwartungen von Führung und Team abgleichen
In der SAP-Studie schätzen Führungskräfte, dass sich 48 Prozent der Aufgaben automatisieren lassen, die Beschäftigten gehen von 33 Prozent aus. Hinter dieser Differenz stehen unterschiedliches Vertrauen und unterschiedlich wahrgenommene Risiken. Gemeinsam festgelegte Ziele verhindern, dass ein Projekt an enttäuschten Erwartungen scheitert. Die Selbstverpflichtenden Leitlinien des BMAS-Netzwerks KI in der Arbeits- und Sozialverwaltung fordern genau das: Einführungsprozesse menschenzentriert gestalten und Ziele definieren.
Schritt 5: KI-Kompetenz aufbauen, bevor ausgerollt wird
Knapp 86 Prozent der Nutzenden geben an zu wissen, wie KI-Werkzeuge funktionieren. Weniger als 40 Prozent sehen in ihrer Organisation aber Möglichkeiten, den kritischen Umgang mit KI systematisch zu lernen. Seit Februar 2025 verpflichtet Artikel 4 des EU AI Act Organisationen, die KI einsetzen, für ausreichende KI-Kompetenz ihrer Beschäftigten zu sorgen. Bewährt haben sich Multiplikator:innen in den Fachbereichen. In einer mitteldeutschen Stadt lud die Digitalisierungsbeauftragte einen skeptischen Ingenieur ein, Ayunis Core für eine hydraulische Berechnung zu testen. Er konnte das Ergebnis beurteilen, weil er das Fachwissen dafür mitbrachte. Schulungen sollten deshalb den Umgang mit dem Werkzeug und die fachliche Prüfkompetenz gleichermaßen stärken.
Schritt 6: Klein starten und Wissen teilen
Ein Beginn in zwei oder drei Bereichen mit spürbarem Nutzen bringt schneller belastbare Erfahrungen als ein flächendeckender Rollout. Was sich bewährt, wird in Ayunis Core als Fähigkeit hinterlegt und steht dem ganzen Team zur Verfügung, auch wenn Mitarbeitende die Stelle wechseln. Ein ausführliches Beispiel für den Bürgerservice zeigt unser Beitrag zur Aufgabenwanderung. Über den Marketplace funktioniert das auch über Gemeindegrenzen hinweg: Die Kitas einer Gemeinde nutzen eine Fähigkeit, die eine andere Gemeinde bereitgestellt hat. Die BMAS-Arbeitshilfe führt Nachnutzbarkeit ausdrücklich als Aufgabe in KI-Projekten.
Schritt 7: Gewonnene Zeit einplanen und den Betrieb begleiten
Die SAP-Studie beschreibt durch KI gewonnene Zeit als organisatorische Kapazität, über deren Verwendung die Organisation entscheiden muss. 44 bis 46 Prozent der Befragten sehen darin die Chance, neue Fähigkeiten aufzubauen. Am besten wird vorab festgelegt, wohin die Zeit fließt: in den Bürgerkontakt, in komplexe Fallarbeit oder in Lernwege für den Nachwuchs, der mit den Routineaufgaben ein Übungsfeld verliert. Im Betrieb sorgen Stichproben, Feedbackrunden und feste Prüffragen vor der Freigabe dafür, dass die Prüfung von KI-Ergebnissen keine Gewohnheitsgeste wird. Was über den gesamten Lebenszyklus bis zur Abschaltung einer Anwendung dazugehört, beschreibt die BMAS-Arbeitshilfe in 82 Aufgaben über sechs Projektphasen.
Fazit
Wer KI in der Verwaltung einführt, leistet vor allem Organisationsarbeit. Die Nutzungszahlen zeigen, dass die Beschäftigten bereit sind. Es fehlen klare Regeln, ausreichende Schulung und eine Plattform, auf der das Wissen in der Organisation bleibt. Ayunis Core liefert als VerwaltungsGPT die technische Grundlage, die sieben Schritte den organisatorischen Rahmen. Kommunen, die eine Einführung planen, können ein Beratungsgespräch mit Ayunis vereinbaren.
Quellen
- Global AI Adoption Survey: Ergebnisse für den öffentlichen Sektor in Deutschland (2026): https://doi.org/10.13140/RG.2.2.15167.27043
- Global Artificial Intelligence Adoption Survey: Perceptions of Public Sector Employees (2026): https://doi.org/10.13140/RG.2.2.18893.81125
- SAP: KI-Transformation im öffentlichen Sektor: https://www.sap.com/germany/blogs/public-sector-ai-transformation
- Denkfabrik BMAS: Arbeitshilfe und Selbstverpflichtende Leitlinien für den KI-Einsatz: https://www.denkfabrik-bmas.de/projekte/ki-in-der-verwaltung/how-to-verwaltungsmodernisierung-mit-der-arbeitshilfe-ki-projekte-erfolgreich-umsetzen
- Artificiality Institute: IRX, Irreducible complexity index as the work of humans (2026): https://journal.artificialityinstitute.org/minds-for-our-minds-at-work/
- Verordnung (EU) 2024/1689 (KI-Verordnung), Artikel 4: https://eur-lex.europa.eu/eli/reg/2024/1689/oj
- Ayunis Core Helpcenter, Datenfluss: Wo landet eine Anfrage?: https://help.ayunis.com/de/data-protection/data-flow/


