Künstliche Intelligenz

Auf einen Blick

• Künstliche Intelligenz bezeichnet Systeme, die auf Basis von Daten lernen und Aufgaben ausführen, die bislang menschliche Kognition voraussetzten.
• Die EU-Verordnung 2024/1689 (EU AI Act) ist seit dem 1. August 2024 in Kraft und wird stufenweise anwendbar.
• Verbotene KI-Praktiken nach Artikel 5 EU AI Act gelten seit dem 2. Februar 2025 europaweit.
• Die zentralen Pflichten für Hochrisiko-KI-Systeme werden am 2. August 2026 anwendbar.
• KI-Anwendungen in Bereichen wie Strafverfolgung, Migration, Bildung oder wesentlichen öffentlichen Diensten gelten nach Anhang III EU AI Act regelmäßig als Hochrisiko-KI.
• Der IT-Planungsrat hat 2024 den Marktplatz der KI-Möglichkeiten (MaKI) für Bund, Länder und Kommunen beschlossen.
• Die DSGVO und das BDSG bleiben für jeden KI-Einsatz mit Personenbezug in Behörden verbindlich.

Einordnung: KI in der öffentlichen Verwaltung

Künstliche Intelligenz ist für die öffentliche Verwaltung in Deutschland zu einer Schlüsseltechnologie geworden. Behörden in Bund, Ländern und Kommunen stehen unter Druck, mit knapperen Personalressourcen mehr Verwaltungsleistungen digital, schnell und rechtssicher zu erbringen. Künstliche Intelligenz adressiert diese Lücke, indem sie wiederkehrende Aufgaben automatisiert, Volltextsuchen über große Aktenbestände ermöglicht und Sachbearbeitende mit Vorschlägen unterstützt. Anders als in der Privatwirtschaft steht der KI-Einsatz im öffentlichen Sektor unter besonderen rechtsstaatlichen Anforderungen: Transparenz, Nachvollziehbarkeit und Diskriminierungsfreiheit sind nicht optional, sondern verfassungsrechtlich verankert.

Kernmerkmale und Funktionsweise

Künstliche Intelligenz ist kein einzelnes Verfahren, sondern ein Sammelbegriff für mehrere Technologien:

• Maschinelles Lernen (ML): Algorithmen erkennen Muster in historischen Daten und übertragen sie auf neue Fälle, etwa zur Prognose von Antragsvolumen.
• Natural Language Processing (NLP): Systeme verarbeiten gesprochene und geschriebene Sprache, etwa für Chatbots, automatische Klassifikation von Anliegen oder Volltextsuche in Akten.
• Generative KI: Große Sprachmodelle erzeugen Texte, Zusammenfassungen oder Entwürfe und werden in Verwaltungs-GPT-Lösungen wie Ayunis Core eingesetzt.
• Computer Vision: Systeme werten Bilder und Videos aus, etwa für die Bauakte, die Infrastrukturüberwachung oder die Stadtplanung.
• Wissensbasierte Systeme: Regelbasierte Verfahren ergänzen lernende Systeme dort, wo Entscheidungen vollständig nachvollziehbar bleiben müssen.

Die Qualität jedes KI-Systems hängt von drei Faktoren ab: der Qualität der Trainingsdaten, der Eignung des Modells für die konkrete Aufgabe und der organisatorischen Einbettung in die Verwaltungspraxis.

Rechtlicher Rahmen

Der KI-Einsatz in der öffentlichen Verwaltung ist eng reguliert. Maßgeblich sind insbesondere folgende Regelwerke (Stand Mai 2026):

• EU AI Act (Verordnung 2024/1689): Die KI-Verordnung der Europäischen Union ist am 1. August 2024 in Kraft getreten. Verbotene Praktiken nach Artikel 5 gelten seit dem 2. Februar 2025. Die zentralen Pflichten für Hochrisiko-KI-Systeme werden am 2. August 2026 anwendbar. Behörden gelten regelmäßig als Betreiber von Hochrisiko-KI, wenn sie Systeme nach Anhang III einsetzen.
• DSGVO und BDSG: Personenbezogene Daten dürfen in KI-Systemen nur auf einer tragfähigen Rechtsgrundlage verarbeitet werden. Artikel 22 DSGVO begrenzt automatisierte Einzelentscheidungen mit erheblicher Wirkung für Betroffene.
• BSI-Grundschutz und ISO/IEC 27001: Behörden müssen KI-Systeme in ihr Informationssicherheits-Management einbinden. Mit ISO/IEC 42001 existiert seit 2023 ein internationaler Managementsystem-Standard speziell für KI.
• Fachgesetze: Sektorspezifische Regelungen (z. B. SGB, AO, PolG der Länder) bestimmen, in welchem Umfang Verwaltungsentscheidungen automatisiert werden dürfen.

Anwendung in der Praxis

Künstliche Intelligenz wird in der deutschen Verwaltung in mehreren Feldern genutzt:

• Sachbearbeitung und Wissensarbeit: Verwaltungs-GPT-Lösungen unterstützen Mitarbeitende beim Verfassen von Bescheiden, Vermerken und Schreiben sowie bei der Recherche in eigenen Aktenbeständen.
• Bürgerkommunikation: Chatbots und virtuelle Assistenten beantworten Standardanfragen rund um die Uhr und entlasten Servicecenter.
• Dokumentenverarbeitung: Automatische Klassifikation, Extraktion strukturierter Daten und Anonymisierung beschleunigen die Bearbeitung von Anträgen und die Aktenführung.
• Steuerung und Planung: Prognosemodelle unterstützen Verkehrsplanung, Energiebewirtschaftung und vorausschauende Wartung kommunaler Infrastruktur.
• Marktplatz der KI-Möglichkeiten (MaKI): Der IT-Planungsrat hat 2024 den Aufbau eines bund-länder-übergreifenden Marktplatzes beschlossen, über den geprüfte KI-Lösungen nachgenutzt werden können. Die Pilotierung startete 2025.

Lösungen wie Ayunis Core zeigen exemplarisch, wie souveräne, in Deutschland gehostete KI-Plattformen den Anforderungen an Datenschutz, Auditierbarkeit und Modellwahl im öffentlichen Sektor begegnen.

Herausforderungen und Grenzen

Der produktive KI-Einsatz in Behörden ist anspruchsvoll. Die Datenqualität ist häufig unzureichend, weil Bestände unstrukturiert in Fachverfahren liegen. Die Integration in heterogene IT-Landschaften erfordert Schnittstellen zu zum Teil jahrzehntealten Systemen. Hinzu kommen organisatorische Hürden: Beschaffungsprozesse sind nicht auf iterative KI-Entwicklung zugeschnitten, der Personalbedarf für Betrieb und Aufsicht ist hoch, und Mitarbeitende benötigen verlässliche Schulungen. Bei generativer KI bestehen zusätzliche Risiken: Modelle können fehlerhafte oder erfundene Antworten liefern (Halluzinationen) und ohne klare Quellenbindung Rechts- und Reputationsrisiken erzeugen. Künstliche Intelligenz ersetzt rechtsverbindliche Entscheidungen daher nicht; sie unterstützt deren Vorbereitung.

Abgrenzung zu verwandten Begriffen

• Künstliche Intelligenz vs. Maschinelles Lernen: Maschinelles Lernen ist ein Teilgebiet der Künstlichen Intelligenz, in dem Systeme aus Daten lernen, ohne explizit programmiert zu werden.
• Künstliche Intelligenz vs. generative KI: Generative KI ist eine Untergruppe der Künstlichen Intelligenz, die neue Inhalte (Texte, Bilder, Code) erzeugt, statt nur zu klassifizieren oder vorherzusagen.
• Künstliche Intelligenz vs. Automatisierung: Klassische Automatisierung folgt festen Regeln. Künstliche Intelligenz arbeitet probabilistisch und passt sich an neue Daten an.
• Künstliche Intelligenz vs. souveräne KI: Souveräne KI bezeichnet KI-Systeme, deren Modelle, Daten und Infrastruktur unter europäischer beziehungsweise deutscher Kontrolle betrieben werden.

Häufige Fragen

Was ist Künstliche Intelligenz im Kontext der öffentlichen Verwaltung?
Künstliche Intelligenz in der öffentlichen Verwaltung umfasst lernende und regelbasierte Systeme, die Sachbearbeitung, Bürgerkommunikation und Steuerung unterstützen. Behörden setzen Künstliche Intelligenz vor allem zur Texterstellung, Dokumentenanalyse, Klassifikation von Anliegen und Prognose ein. Rechtsverbindliche Entscheidungen treffen weiterhin Menschen.

Ab wann gilt der EU AI Act für Hochrisiko-KI in Behörden?
Die zentralen Pflichten des EU AI Act für Hochrisiko-KI-Systeme nach Anhang III werden am 2. August 2026 anwendbar. Verbotene Praktiken nach Artikel 5 gelten bereits seit dem 2. Februar 2025. Behörden müssen bis zum jeweiligen Stichtag Risikomanagement, Datenqualität, Protokollierung, menschliche Aufsicht und Transparenz nachweisen.

Welche KI-Anwendungen sind in Kommunen typisch?
Kommunen nutzen Künstliche Intelligenz vor allem für Chatbots in Servicecentern, automatische Kategorisierung von Bürgeranliegen, Dokumentenverarbeitung in Bauämtern und Sozialverwaltungen sowie für interne Wissens- und Recherche-Assistenten. Hinzu kommen Planungsanwendungen wie Verkehrsprognosen oder Energie- und Flächenmanagement.

Welche Pflichten ergeben sich für Behörden als Betreiber von KI-Systemen?
Behörden müssen nach EU AI Act unter anderem die menschliche Aufsicht sicherstellen, Eingabedaten überwachen, Betroffene informieren und schwerwiegende Vorfälle melden. Zusätzlich gelten DSGVO-Pflichten zur Rechtsgrundlage, Zweckbindung, Datenminimierung und Datenschutz-Folgenabschätzung. Bei Hochrisiko-KI ist eine Grundrechte-Folgenabschätzung nach Artikel 27 EU AI Act erforderlich.

Was unterscheidet souveräne KI von herkömmlicher KI?
Souveräne KI bezeichnet Systeme, deren Modelle, Trainings- und Nutzungsdaten sowie Infrastruktur unter europäischer beziehungsweise deutscher Hoheit betrieben werden. Für die öffentliche Verwaltung ist souveräne KI relevant, weil sie Datenschutz, Auditierbarkeit und Unabhängigkeit von Drittstaaten-Anbietern stärkt.

Wie kann eine Behörde mit KI starten?
Empfohlen ist ein abgegrenzter Anwendungsfall mit klarem Nutzen, etwa eine Wissensrecherche im eigenen Aktenbestand oder ein Verwaltungs-GPT für die Mitarbeitenden. Vor dem Rollout sollten Datenschutz-Folgenabschätzung, Rollen- und Rechtekonzept sowie Schulungen vorliegen. Eine Anbindung an souveräne Infrastrukturen wie die Deutsche Verwaltungscloud reduziert Compliance-Risiken.

Fazit

Künstliche Intelligenz ist für die öffentliche Verwaltung kein Zukunftsthema mehr, sondern operative Realität. Mit dem EU AI Act, der DSGVO und nationalen Standards existiert ein klarer rechtlicher Rahmen, der ab dem 2. August 2026 vollständig auf Hochrisiko-KI-Systeme greift. Entscheidend für den verantwortungsvollen Einsatz ist die Kombination aus souveräner Infrastruktur, klarer Governance und qualifizierten Mitarbeitenden. Behörden, die Künstliche Intelligenz heute strukturiert einführen, schaffen die Grundlage für eine handlungsfähige, rechtssichere und bürgernahe Verwaltung der kommenden Jahre.

‍

{{ayunis-core-banner}}

‍

Quellen

1. Europäische Union: Verordnung (EU) 2024/1689 zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz (EU AI Act), Amtsblatt der EU, 12. Juli 2024. https://eur-lex.europa.eu/eli/reg/2024/1689/oj (abgerufen Mai 2026)
2. Europäische Kommission: AI Act – Implementation Timeline, https://digital-strategy.ec.europa.eu/de/policies/regulatory-framework-ai (abgerufen Mai 2026)
3. IT-Planungsrat: Beschlüsse zum Marktplatz der KI-Möglichkeiten (MaKI), 2024, https://www.it-planungsrat.de (abgerufen Mai 2026)
4. Bundesministerium des Innern, CIO Bund: Künstliche Intelligenz in der Verwaltung, https://www.bmi.bund.de/Webs/CIO/DE/digitale-loesungen/datenpolitik/daten-und-ki/daten-und-ki-node.html (abgerufen Mai 2026)
5. BSI: KI-Sicherheit – Empfehlungen und Leitfäden, https://www.bsi.bund.de (abgerufen Mai 2026)
6. ISO/IEC 42001:2023, Information technology – Artificial intelligence – Management system, International Organization for Standardization, 2023

‍