"Das können wir auch mit ChatGPT." Was diese Aussage kostet und was sie übersieht

In der Gemeinde Petersberg in Nordhessen nutzten Erzieherinnen in den kommunalen Kitas KI lange bevor die Verwaltung darüber entschieden hatte. Sie tippten Fragen in ChatGPT auf dem privaten Smartphone, notierten hilfreiche Ideen auf einem Zettel und schrieben sie ab. Elternbriefe, Aushänge, Aktivitätsideen. Es funktionierte irgendwie, es sparte etwas Zeit, und es blieb unsichtbar. Kein Datenschutzvertrag, keine Protokolle, kein geteiltes Wissen, keine Kontrolle darüber, was in welches System eingegeben wurde.

Das ist Schatten-KI: der Einsatz von KI-Werkzeugen außerhalb jeder organisatorischen Steuerung. Sie ist in deutschen Verwaltungen weit verbreitet, weil die Werkzeuge frei zugänglich sind und der Nutzen sofort spürbar ist. Und sie ist ein Problem, das sich erst zeigt, wenn etwas schiefgeht.

Was Schatten-KI in der Praxis bedeutet

Wer ChatGPT, Gemini oder ähnliche frei zugängliche KI-Dienste im Berufsalltag nutzt, ohne dass die Organisation das gesteuert hat, bewegt sich in einem rechtlichen und organisatorischen Graubereich. Personenbezogene Daten, die in solche Systeme eingegeben werden, verlassen die Organisation ohne Datenschutzvertrag, ohne Anonymisierung, ohne Kontrolle darüber, ob und wie die Eingaben für das Training der Modelle verwendet werden. Der EU AI Act, der seit 2024 schrittweise in Kraft tritt, verlangt von öffentlichen Stellen einen nachweisbaren Umgang mit KI-Risiken. Wer nicht weiß, was Mitarbeitende in welche Systeme eingeben, kann diesen Nachweis nicht erbringen.

Dazu kommen praktische Konsequenzen, die weniger offensichtlich sind. Wissen, das im Browserfenster entsteht, verschwindet, wenn der Tab geschlossen wird. Eine Erzieherin, die einen guten Elternbrief mit ChatGPT erarbeitet hat, kann ihn nicht der Kollegin in der Nachbarkita weitergeben. Eine Sachbearbeiterin, die einen hilfreichen Prompt für Widerspruchsschreiben entwickelt hat, nimmt ihn mit, wenn sie die Stelle wechselt. Die Organisation lernt nicht. Jede Person fängt wieder von vorn an.

Die versteckten Kosten

Schatten-KI erzeugt Kosten, die in keiner Haushaltszeile auftauchen. Erstens das Datenschutzrisiko: Eine einzige Eingabe mit Aktenzeichen, Namen oder Steuerdaten in ein nicht genehmigtes System kann einen meldepflichtigen Datenschutzvorfall auslösen. Zweitens die Haftungslücke: Wenn ein KI-Output Grundlage eines Bescheids wird und niemand den Prozess dokumentiert hat, fehlt im Streitfall jede Nachvollziehbarkeit. Drittens der Kompetenzverlust: Wie in Teil 2 und 3 dieser Serie beschrieben, entsteht auch im Verborgenen der Reverse Centaur. Mitarbeitende, die unkontrolliert auf KI-Outputs vertrauen, ohne fachliche Prüfung, ohne geteilte Standards, ohne Feedback, entwickeln keine Kompetenz im Umgang mit KI. Sie entwickeln eine Abhängigkeit.

Aus der Praxis: Von der Zettelnotiz zur geteilten Fähigkeit

In Petersberg hat sich das Bild nach der Einführung von Ayunis Core grundlegend verändert. Die fünf kommunalen Kitas nutzen heute gemeinsame Fähigkeiten, vorgefertigte und geteilte Arbeitsvorlagen mit hinterlegtem Kontext, für Elternbriefe, Läusefall-Aushänge und Infektionsschutzrecherchen. Eine dieser Fähigkeiten stammt nicht einmal aus Petersberg selbst, sondern von der Gemeinde Maulburg, die sie über den Ayunis Core Marketplace zur Verfügung gestellt hat. Die Erzieherinnen mussten sie nur installieren und konnten sofort damit arbeiten. Was vorher auf Zetteln notiert und abgeschrieben wurde, steht jetzt allen Kitas der Gemeinde zur Verfügung, nachvollziehbar, datenschutzkonform und aktualisierbar.

Das ist der Unterschied zwischen einem Tool im Browserfenster und einer Plattforminfrastruktur. Der Unterschied liegt nicht in der Qualität der KI-Antworten. Er liegt darin, was mit dem Ergebnis passiert.

Was eine Plattform anders macht

Eine kommunale KI-Plattform wie Ayunis Core löst die Schatten-KI-Problematik auf mehreren Ebenen gleichzeitig. Datenschutztechnisch: Alle Daten liegen in deutschen Rechenzentren, die Verarbeitung findet in Deutschland oder der EU statt, kein Modell trainiert auf Eingaben der Nutzerinnen und Nutzer. Wer das im Detail nachvollziehen möchte, findet die Datenflüsse im öffentlichen Ayunis-Helpcenter unter help.ayunis.com transparent dokumentiert. Organisatorisch: Administratoren entscheiden, welche Modelle verfügbar sind, Fähigkeiten und Wissenssammlungen werden im Team geteilt, Prozesse sind dokumentiert und revisionssicher. Über den Marketplace können Kommunen voneinander lernen, Fähigkeiten weitergeben und gemeinsam einen Standard entwickeln, der nicht bei jeder Gemeinde neu erfunden werden muss.

Das adressiert auch eine Sorge, die in vielen Verwaltungen besteht: den Anschluss zu verpassen. Wer auf eine gesteuerte Plattform setzt, muss KI nicht ablehnen und muss auch nicht unkontrolliert zulassen. Mitarbeitende können sofort produktiv arbeiten, die Organisation behält die Kontrolle, und das Wissen bleibt, wo es entstanden ist.

Was das für die Verwaltung bedeutet

Die Frage "Das können wir auch mit ChatGPT" ist verständlich. Sie kommt aus einem echten Bedürfnis: schneller arbeiten, Entlastung finden, mit den Möglichkeiten mithalten. Die Antwort darauf ist eine Entscheidung, die die Organisation treffen muss, bevor Mitarbeitende sie für sich selbst treffen. In Petersberg haben Erzieherinnen diese Entscheidung auf dem privaten Smartphone getroffen, weil die Organisation noch keine Antwort hatte. Das war kein Fehler der Erzieherinnen. Es war eine Lücke in der Infrastruktur.

Diese Lücke zu schließen ist die eigentliche Aufgabe. Nicht KI zu verbieten, und nicht KI unkontrolliert zuzulassen, sondern einen Rahmen zu schaffen, in dem Mitarbeitende KI verantwortlich und wirksam einsetzen können. Das ist der Kern dessen, worum es in dieser ganzen Serie gegangen ist.

Quellen: Ayunis Core Helpcenter, "Datenfluss: Wo landet eine Anfrage?" (help.ayunis.com/de/data-protection/data-flow/) | Ayunis Community-Treffen Replay, Gemeinde Petersberg, 16.07.2026 (intern) | EU AI Act, Verordnung (EU) 2024/1689, in Kraft seit August 2024