Souveräne KI (Sovereign AI)

Auf einen Blick

• Souveräne KI bezeichnet KI-Systeme, deren Modelle, Daten und Infrastruktur unter rechtlicher, technischer und organisatorischer Kontrolle europäischer Akteure stehen.
• Souveräne KI stützt sich auf die drei Ziele Wechselmöglichkeit zwischen Anbietern, Gestaltungsfähigkeit über die Technologie und Einfluss auf Anbieter (BMDS-Studie, 2025).
• Der EU AI Act ist seit dem 1. August 2024 in Kraft und definiert risikobasierte Pflichten für Anbieter und Betreiber von KI-Systemen in der Europäischen Union.
• Die Bundesregierung hat 2025 einen Entwurf für ein Durchführungsgesetz zum EU AI Act beschlossen, das die Bundesnetzagentur als zentrale Anlaufstelle für die KI-Aufsicht vorsieht.
• Das BMDS verfolgt mit der Plattform KIPITZ einen cloud-agnostischen Platform-as-a-Service-Ansatz mit Open-Source-Sprachmodellen für die Bundesverwaltung.
• Der im Oktober 2025 gestartete Konsultationsprozess zum Deutschland-Stack soll Standards für eine interoperable und modulare föderale Cloud-Infrastruktur erarbeiten.
• Open-Source-Sprachmodelle reduzieren Lock-in-Effekte und gelten als zentraler Baustein souveräner KI in der öffentlichen Verwaltung.

Einordnung und Kontext

Souveräne KI ist die Antwort der öffentlichen Verwaltung auf eine zentrale Frage der digitalen Transformation: Wer kontrolliert die KI-Systeme, die zunehmend Verwaltungsentscheidungen vorbereiten, Bürgeranfragen beantworten und interne Prozesse automatisieren. Während kommerzielle KI-Dienste großer Anbieter aus den USA oder China schnelle Verfügbarkeit versprechen, entstehen dabei Abhängigkeiten in Bezug auf Daten, Modelle und Infrastruktur. Für Behörden, die mit personenbezogenen Daten, Verschlusssachen oder kritischer Infrastruktur arbeiten, ist diese Abhängigkeit ein strategisches und rechtliches Risiko. Souveräne KI verbindet daher die Konzepte der digitalen Souveränität und der Künstlichen Intelligenz zu einem eigenständigen Handlungsfeld der Verwaltungsmodernisierung.

Kernmerkmale souveräner KI

Souveräne KI lässt sich entlang von vier Ebenen beschreiben, die jeweils kontrollierbar sein müssen:

• Modellebene: Die zugrundeliegenden Sprach- oder Bildmodelle sind quelloffen oder vertraglich vollständig kontrollierbar. Open-Source-Modelle wie LLaMA, Mistral oder Teuken-7B ermöglichen Audit, Anpassung und Betrieb in eigener Umgebung.
• Datenebene: Trainings-, Eingabe- und Ausgabedaten verbleiben in europäischen Rechtsräumen. Daten der Verwaltung werden nicht zur Modellverbesserung externer Anbieter verwendet.
• Infrastrukturebene: Der Betrieb erfolgt auf souveräner Cloud-Infrastruktur, etwa nach BSI C5, oder im Eigenbetrieb. Eine cloud-agnostische Architektur erlaubt den Anbieterwechsel ohne Systembruch.
• Governance-Ebene: Verträge, Lizenzen und Betriebsmodelle gewährleisten, dass die Verwaltung über Updates, Modellauswahl und Datenflüsse entscheidet.

Eine Studie des Bundesministeriums für Digitales und Staatsmodernisierung (BMDS) aus dem Jahr 2025 fasst diese Merkmale in drei Souveränitätszielen zusammen: Wechselmöglichkeit, Gestaltungsfähigkeit und Einfluss auf Anbieter.

Rechtlicher und regulatorischer Rahmen

Der rechtliche Rahmen für souveräne KI in Deutschland ergibt sich aus mehreren Ebenen:

• EU AI Act (Verordnung 2024/1689): In Kraft seit 1. August 2024. Definiert risikobasierte Pflichten für KI-Systeme. Hochrisiko-KI in der öffentlichen Verwaltung unterliegt besonderen Anforderungen an Transparenz, Datenqualität und menschliche Aufsicht.
• Durchführungsgesetz zum AI Act (Entwurf 2025): Die Bundesregierung hat 2025 einen Gesetzentwurf beschlossen, der die Bundesnetzagentur als zentrale Marktüberwachungsbehörde vorsieht.
• Datenschutz-Grundverordnung (DSGVO): Bei jeder KI-Verarbeitung personenbezogener Daten anwendbar, mit besonderer Bedeutung für Drittlandtransfers.
• BSI-Grundschutz und C5: Maßgebliche Sicherheitsstandards für den Betrieb von KI-Systemen in souveränen Cloud-Umgebungen.
• Deutschland-Stack: Der vom BMDS im Oktober 2025 gestartete Konsultationsprozess soll Standards für eine interoperable, modulare föderale Cloud- und KI-Infrastruktur etablieren.

Stand der Angaben: Mai 2026.

Anwendung in der Praxis

In der öffentlichen Verwaltung wird souveräne KI bereits in mehreren Feldern erprobt und produktiv eingesetzt:

• Verwaltungs-Chatbots und Assistenzsysteme: Mitarbeitende nutzen KI-Assistenten zur Recherche in Rechtsvorschriften, zur Texterstellung oder zur Bearbeitung interner Dokumente. Plattformen wie KIPITZ stellen solche Funktionen auf souveräner Infrastruktur bereit.
• Antragsbearbeitung: KI-Modelle unterstützen die Vorprüfung von Anträgen, etwa im Sozialwesen oder im Baurecht, ohne dass Antragsdaten an externe Dienste fließen.
• Dokumentenanalyse: Behörden nutzen souveräne KI für die strukturierte Auswertung von Akten, Stellungnahmen oder Förderanträgen.
• Bürgerkommunikation: Kommunen setzen souveräne Chatbots ein, um häufige Anfragen rund um die Uhr zu beantworten und gleichzeitig Datenschutz und Nachvollziehbarkeit sicherzustellen.

Anbieter wie Ayunis stellen mit Ayunis Core eine souveräne KI-Plattform bereit, die mehrere europäische und Open-Source-Modelle bündelt und in Verwaltungsumgebungen DSGVO-konform betrieben werden kann.

Herausforderungen und Grenzen

Souveräne KI ist kein Selbstläufer. In der Praxis stehen Verwaltungen vor mehreren Hürden:

• Leistungsabstand: Europäische und Open-Source-Modelle holen auf, liegen in einzelnen Disziplinen aber weiter hinter den Spitzenmodellen großer US-Anbieter.
• Infrastrukturkosten: Der Betrieb großer Sprachmodelle erfordert spezialisierte Hardware (GPU) und Rechenzentrumskapazitäten, die nicht jede Behörde vorhält.
• Fachkräftemangel: Der Aufbau und Betrieb souveräner KI-Plattformen erfordert Kompetenzen, die im öffentlichen Sektor knapp sind.
• Vergaberecht: Bestehende Vergabeverfahren bevorzugen häufig große, etablierte Anbieter und erschweren die Beschaffung souveräner Lösungen.
• Begriffliche Unschärfe: Der Begriff "souverän" wird teils auch von Anbietern verwendet, die nur Teilkomponenten in Europa betreiben. Eine genaue Prüfung der vier Ebenen Modell, Daten, Infrastruktur und Governance ist daher unverzichtbar.

Abgrenzung zu verwandten Begriffen

• Digitale Souveränität: Übergeordneter Begriff. Beschreibt die Fähigkeit von Staat, Wirtschaft und Gesellschaft, digitale Technologien selbstbestimmt zu gestalten und zu nutzen. Souveräne KI ist eine Teilmenge davon.
• Datensouveränität: Fokussiert auf die Kontrolle über Daten. Souveräne KI setzt Datensouveränität voraus, geht aber über sie hinaus, weil auch Modelle und Infrastruktur souverän sein müssen.
• Souveräne Cloud: Beschreibt die Infrastrukturebene. Eine souveräne Cloud ist notwendige, aber nicht hinreichende Voraussetzung für souveräne KI.
• Open-Source-KI: Bezieht sich primär auf die Lizenzierung von Modellen. Open Source ist ein wichtiger Baustein souveräner KI, aber nicht mit ihr identisch, da Betrieb und Governance separat zu betrachten sind.

Häufige Fragen

Was ist souveräne KI?

Souveräne KI bezeichnet KI-Systeme, deren Modelle, Daten und Infrastruktur unter rechtlicher, technischer und organisatorischer Kontrolle europäischer Akteure stehen. Sie ermöglicht öffentlichen Verwaltungen den Einsatz von Künstlicher Intelligenz, ohne strukturell von außereuropäischen Anbietern abhängig zu sein.

Wie kann eine Behörde souveräne KI einführen?

Eine Behörde führt souveräne KI typischerweise in vier Schritten ein: Bedarfsanalyse, Auswahl einer souveränen Plattform mit Open-Source- oder europäischen Modellen, Betrieb auf souveräner Cloud- oder Eigeninfrastruktur sowie Etablierung von Governance-Regeln für Datenflüsse und Anbieterwechsel. Plattformen wie KIPITZ oder Ayunis Core bieten dafür standardisierte Bausteine.

Welche rechtlichen Pflichten gelten für KI in der öffentlichen Verwaltung?

Für KI in der öffentlichen Verwaltung gelten der EU AI Act (in Kraft seit 1. August 2024), die DSGVO sowie sektorale Fachgesetze. KI-Systeme in Hochrisiko-Bereichen unterliegen besonderen Anforderungen an Transparenz, Datenqualität, menschliche Aufsicht und Risikomanagement. In Deutschland ist nach dem 2025 beschlossenen Gesetzentwurf die Bundesnetzagentur als zentrale Aufsichtsbehörde vorgesehen.

Was ist der Unterschied zwischen souveräner KI und digitaler Souveränität?

Digitale Souveränität ist der Oberbegriff und beschreibt die selbstbestimmte Gestaltung digitaler Technologien insgesamt. Souveräne KI ist eine spezifische Teilmenge, die sich ausschließlich auf KI-Systeme bezieht. Eine Verwaltung kann digital souverän sein, ohne KI einzusetzen, aber sie kann keine souveräne KI betreiben, ohne digitale Souveränität als Grundprinzip zu verfolgen.

Welche Rolle spielen Open-Source-Modelle für souveräne KI?

Open-Source-Modelle sind ein zentraler Baustein souveräner KI, weil sie Audit, Anpassung und Betrieb in eigener Umgebung ermöglichen. Sie reduzieren Lock-in-Effekte und schaffen Wechselmöglichkeit zwischen Anbietern. Die Bundesverwaltung setzt im Rahmen der Plattform KIPITZ explizit auf anwendungsspezifische Open-Source-Sprachmodelle.

Reicht ein europäischer Cloud-Anbieter für souveräne KI aus?

Ein europäischer Cloud-Anbieter ist eine notwendige, aber keine hinreichende Bedingung für souveräne KI. Souveränität muss zusätzlich auf Modell-, Daten- und Governance-Ebene gegeben sein. Wenn das KI-Modell selbst von einem außereuropäischen Anbieter stammt und Trainingsdaten dorthin abfließen, ist die KI trotz europäischer Cloud nicht souverän.

Fazit und Bedeutung für die Verwaltung

Souveräne KI ist für die öffentliche Verwaltung kein Luxus, sondern eine strategische Voraussetzung, um KI rechtskonform, sicher und langfristig einsetzbar zu machen. Sie verbindet die Anforderungen des EU AI Act, der DSGVO und der digitalen Souveränität zu einem konkreten Handlungsfeld. Der Deutschland-Stack, die Plattform KIPITZ und Lösungen privater Anbieter zeigen, dass souveräne KI technisch und organisatorisch realisierbar ist. Entscheidend bleibt, dass Behörden die vier Ebenen Modell, Daten, Infrastruktur und Governance konsequent prüfen und nicht auf einzelne Souveränitätsversprechen vertrauen.

‍

{{ayunis-core-banner}}

‍

Quellen

1. Bundesministerium für Digitales und Staatsmodernisierung (BMDS): Souverän statt abhängig. Verwaltung setzt bei KI auf eigene Lösungen. https://bmds.bund.de/aktuelles/pressemitteilungen/detail/souveraen-statt-abhaengig-verwaltung-setzt-bei-ki-auf-eigene-loesungen (Stand: 2025)
2. Bundesministerium für Digitales und Staatsmodernisierung (BMDS): KI in der Verwaltung. https://bmds.bund.de/themen/kuenstliche-intelligenz/ki-in-der-verwaltung (Stand: 2025)
3. Bundesministerium für Digitales und Staatsmodernisierung (BMDS): Digitale Souveränität in der öffentlichen Verwaltung. https://bmds.bund.de/themen/digitale-souveraenitaet/digitale-souveraenitaet-in-der-oeffentlichen-verwaltung (Stand: Oktober 2025)
4. Europäische Union: Verordnung (EU) 2024/1689 zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz (AI Act). https://eur-lex.europa.eu/eli/reg/2024/1689/oj (Stand: 1. August 2024)
5. Deutscher Bundestag: Anträge zur Stärkung der digitalen Souveränität erörtert. https://www.bundestag.de/dokumente/textarchiv/2025/kw46-de-digitale-souveraenitaet-1123426 (Stand: November 2025)
6. Bitkom e. V.: Deutschland zum KI-Hotspot machen. https://www.bitkom.org/sites/main/files/2025-05/bitkom-publikation-deutschland-zum-ki-hotspot-machen.pdf (Stand: Mai 2025)

‍