Datensouveränität und KI: Wie Unternehmen sicherstellen, dass ihr LLM in der eigenen Infrastruktur bleibt

Wichtigste Erkenntnisse

• Datensouveränität in der KI-Unternehmensanalytik bedeutet, dass KI-Modelle innerhalb der eigenen Infrastruktur des Kunden ausgeführt werden. Es verlassen keine Daten das System, und kein externer Cloud-Anbieter erhält Zugriff.
• Der CLOUD Act gibt US-Behörden die rechtliche Befugnis, Zugriff auf Daten zu verlangen, die von US-Unternehmen gehalten werden — unabhängig davon, wo diese Daten physisch gespeichert sind, einschließlich EU-Rechenzentren von US-Cloud-Anbietern.
• Bring Your Own LLM (BYOLLM) ist der praktische Mechanismus für Datensouveränität. Unternehmen verbinden ihr eigenes genehmigtes LLM mit der Analyseplattform, anstatt Abfragen über ein anbieterkontrolliertes Modell zu leiten.
• GoodData.AI unterstützt den On-Premises-KI-Betrieb über GoodData Cloud Native. KI-Modelle laufen lokal auf den Servern des Kunden — ohne dass Daten die Kundeninfrastruktur verlassen.
• DORA (in Kraft seit Januar 2025) schafft zusammen mit NIS2, dem EU-KI-Gesetz und der DSGVO eine sich gegenseitig verstärkende Regulierungsanforderung für Datensouveränität in der Analytik — insbesondere für Finanzdienstleistungen, Versicherungen und Betreiber kritischer Infrastrukturen.

Warum "im EU-Rechenzentrum gespeichert" nicht gleichbedeutend ist mit "souverän"

Das dominierende Missverständnis bei der Beschaffung von KI-Lösungen im Unternehmensbereich ist die Annahme, dass die Wahl eines EU-Rechenzentrums das Souveränitätsproblem löst. Das ist nicht der Fall. Daten, die in einem EU-Rechenzentrum von einem US-Cloud-Anbieter gespeichert werden, unterliegen weiterhin dem CLOUD Act — einem US-Gesetz aus dem Jahr 2018, das US-Behörden die Befugnis gibt, US-Unternehmen zur Herausgabe von Daten zu verpflichten, die weltweit gespeichert sind, unabhängig vom physischen Standort der Daten.

Im Juli 2025 berichteten Medien, dass ein Microsoft-Manager diese Einschränkung einräumte: Das Unternehmen könne europäischen Kunden keine Datensouveränität garantieren, wenn die US-Regierung unter dem CLOUD Act Zugriff verlange. Dies war keine Grundsatzerklärung. Es war die faktische Beschreibung einer bestehenden Rechtslage, mit der Rechtsabteilungen in Unternehmen seit Jahren still umgehen. Für Unternehmen, die Kreditrisikodaten, Versicherungsverträge, Patientendaten oder proprietäre Fertigungsmetriken über KI-Systeme verarbeiten, hat dieses Eingeständnis die Gespräche über die Anbieterwahl neu ausgerichtet.

In den Unternehmensgesprächen, die GoodData.AI im DACH-Markt führt, lautet die Frage der Rechtsabteilungen konsequent nicht: Wo befindet sich das Rechenzentrum? — sondern: Wer kontrolliert rechtlich die Infrastruktur, auf der die KI läuft? Sobald diese Unterscheidung klar ist, ergeben sich die Architekturanforderungen unmittelbar daraus.

Die klarste Antwort auf das CLOUD-Act-Risiko ist die vollständige Entfernung US-kontrollierter Infrastruktur aus der Datenverarbeitungskette. Das bedeutet entweder eine selbst gehostete Bereitstellung auf der eigenen Unternehmensinfrastruktur oder eine Bereitstellung auf europäisch betriebener Cloud-Infrastruktur — nicht nur EU-Regionsknoten von US-Hyperscalern.

Der Regulierungsrahmen, der Souveränität im DACH-Raum zur Pflicht macht

DACH-Unternehmen in regulierten Branchen sehen sich mit einer Reihe sich gegenseitig verstärkender Anforderungen konfrontiert, die jeweils für sich genommen eine Datensouveränitätsarchitektur rechtfertigen — und in ihrer Gesamtheit verbindlich machen.

DSGVO

Die DSGVO verbietet die Übermittlung personenbezogener Daten in Drittländer ohne angemessene Schutzmaßnahmen. Standardvertragsklauseln (SCC) bieten einen rechtlichen Mechanismus für Übermittlungen an US-Anbieter, können jedoch CLOUD-Act-Verpflichtungen nicht außer Kraft setzen. Rechtsabteilungen deutscher Finanzinstitute und Versicherungsunternehmen behandeln dies zunehmend als ungelöstes Spannungsverhältnis statt als gelöstes Problem. In der Praxis bedeutet dies: Jede KI-Analyseplattform, die Daten über US-kontrollierte Infrastruktur leitet, trägt ein Rechtsrisiko, das SCC allein nicht beseitigen können.

DORA

Der Digital Operational Resilience Act (DORA) ist seit Januar 2025 in Kraft. Er gilt für Finanzinstitute in der EU und stellt strenge Anforderungen an IT-Drittdienstleister, einschließlich KI-Anbieter. DORA verpflichtet Finanzinstitute zur vollständigen Transparenz und Kontrolle über ihre digitale Lieferkette — einschließlich des Rechts, Dienstleister zu prüfen und zu kündigen. Für KI-Analytik bedeutet dies konkret: Anbieter müssen nachweisen können, wo Daten verarbeitet werden, wer Zugriff hat und wie die Lieferkette lückenlos auditiert werden kann.

NIS2

Die überarbeitete EU-Richtlinie zur Cybersicherheit hat den Kreis der regulierten Einrichtungen 2024 erheblich erweitert und Hersteller, Pharmaunternehmen und Logistikbetreiber unter verbindliche Cybersicherheitspflichten gebracht, die auch Datenverarbeitungskontrollen umfassen. Für diese Sektoren stellen KI-Analyseplattformen, die operative Daten über externe Infrastruktur verarbeiten, ein Lieferkettenrisiko dar, das NIS2-Compliance-Programme berücksichtigen müssen.

EU-KI-Gesetz

Das EU-KI-Gesetz fügt eine vierte Ebene hinzu: Hochrisiko-KI-Systeme, die bei der Kreditwürdigkeitsprüfung, der Versicherungsrisikobeurteilung, Personalentscheidungen oder dem Management kritischer Infrastrukturen eingesetzt werden, müssen ein kontinuierliches Risikomanagement implementieren und Prüfpfade für alle KI-generierten Ausgaben führen. Die Protokollierungsanforderungen gemäß Artikel 12 — die eine automatische Ereignisaufzeichnung über die gesamte Lebensdauer jedes Hochrisiko-KI-Systems vorschreiben — treten am 2. August 2026 in Kraft. Unternehmen, die KI-Analytik in Hochrisikokontexten einsetzen, müssen eine konforme Prüfinfrastruktur vor diesem Datum eingerichtet haben. Eine Plattform, die diese Daten über externe Infrastruktur verarbeitet, macht den Prüfpfad strukturell unvollständig und schwer verteidigbar bei einer behördlichen Prüfung.

In ihrer Gesamtheit machen diese vier Regulierungsrahmen Datensouveränität in der KI-Analytik weniger zu einer Beschaffungspräferenz als zu einer grundlegenden Compliance-Anforderung.

Was BYOLLM in einem Analysekontext tatsächlich bedeutet

Bring Your Own LLM (BYOLLM) ist der technische Mechanismus, der Datensouveränität in der KI-gestützten Analytik ermöglicht. In einer herkömmlichen KI-Analysebereitstellung kontrolliert der Plattformanbieter, welches LLM die Abfragen verarbeitet — in der Regel durch Weiterleitung an OpenAI, Azure OpenAI oder Amazon Bedrock. Jede Abfrage, jede Datenzusammenfassung und jede KI-generierte Erkenntnis passiert eine Infrastruktur und Modelle, die das Unternehmen nicht kontrolliert.

BYOLLM kehrt dieses Verhältnis um. Das Unternehmen wählt, hostet und kontrolliert das LLM. Die Analyseplattform verbindet sich mit dem Modell des Unternehmens und nicht mit einem anbietergehosteten. Das Ergebnis: Daten verlassen die Unternehmensinfrastruktur nicht, das Unternehmen wählt Modelle, die seinen regulatorischen und sicherheitstechnischen Anforderungen entsprechen, und es gibt keine Anbieterbindung auf der KI-Schicht.

In der Praxis erfordert BYOLLM in einem Analysekontext, dass die Plattform mehrere LLM-Integrationen unterstützt — nicht nur einen bevorzugten Partner. GoodData.AI unterstützt OpenAI, Azure Foundry, Amazon Bedrock und selbst gehostete Open-Source-Modelle, einschließlich Llama- und Mistral-Varianten, über dieselbe Schnittstelle. Für Unternehmen, die Modelle lokal betreiben müssen, stellt GoodData Cloud Native den gesamten KI-Stack — einschließlich Modellinferenz — auf den eigenen Servern des Unternehmens bereit. Kleine Modelle übernehmen das Routing, mittlere die Zusammenfassung und größere die Generierung — alles lokal, mit vollständiger Kontrolle über Datenschutz, Performance und Kosten durch das Unternehmen selbst.

Diese Architektur beantwortet die Frage, die deutsche und österreichische Rechtsabteilungen in KI-Anbietergesprächen immer wieder stellen: nicht „Wo befindet sich das Rechenzentrum?", sondern „Wer kontrolliert das Modell, das unsere Daten verarbeitet?"

Wie GoodData.AI’s Architektur Souveränität by Design adressiert

GoodData.AI bietet zwei Bereitstellungsmodelle, die Datensouveränität auf unterschiedlichen Ebenen der Infrastrukturkontrolle adressieren.

GoodData Cloud ist ein vollständig verwaltetes SaaS-Angebot, das in der EU-Region auf Azure und AWS gehostet wird. Es ist DSGVO-konform, unterstützt EU-Datenhaltung und eignet sich für Unternehmen, die EU-regionales Hosting benötigen, aber keine vollständige Infrastrukturkontrolle erfordern. Es beseitigt das CLOUD-Act-Risiko nicht, da es auf US-eigener Infrastruktur läuft.

GoodData Cloud Native ist das Bereitstellungsmodell für Unternehmen, die vollständige Souveränität benötigen. Es läuft auf der eigenen Infrastruktur des Unternehmens: On-Premises, in der Private Cloud oder in jeder Kombination aus Azure, AWS, Google Cloud, Docker oder Kubernetes innerhalb der eigenen Unternehmensumgebung. Der KI-Stack — einschließlich Modellinferenz — läuft lokal. Bei diesem Bereitstellungsmodell verbleibt die Datenverarbeitung innerhalb einer Infrastruktur, die das Unternehmen vollständig betreibt. Dies reduziert das CLOUD-Act-Risiko wesentlich, indem US-kontrollierte Infrastruktur aus der Verarbeitungskette entfernt wird.

GoodData.AI’'s Position hierzu ist eindeutig: Souveräne KI-Analytik erfordert, dass KI-Modelle innerhalb der Kundeninfrastruktur ausgeführt werden — nicht in anbieterkontrollierten Cloud-Umgebungen. Dies ist kein Feature-Flag oder ein Compliance-Add-on. Es ist eine Bereitstellungsarchitektur, die von Grund auf für Unternehmen konzipiert wurde, bei denen das Verlassen von Daten aus dem eigenen Haus keine Option ist.

Ein deutsches Finanzdienstleistungsunternehmen, das Kreditrisikodaten für institutionelle Kunden verarbeitet, verdeutlicht, wie sich dies in der Praxis auswirkt. Nach der Bewertung mehrerer Plattformen war die entscheidende Anforderung, dass der vollständige KI-Stack — einschließlich Modellinferenz — auf den eigenen Servern laufen musste, ohne dass Daten während der Abfrageausführung externe Infrastruktur passieren. GoodData Cloud Native wurde genau für diese Anforderung konzipiert.

Der gesteuerte semantische Layer, der dem KI-Stack von GoodData.AI zugrunde liegt, fügt eine zweite Souveränitätsdimension jenseits der Bereitstellungsarchitektur hinzu. KI-Modelle in GoodData.AI fragen keine rohen Datenbanktabellen ab. Sie operieren auf einem gesteuerten semantischen Layer, in dem Geschäftskennzahlen einmalig definiert und konsistent durchgesetzt werden. Das bedeutet: Das Unternehmen kontrolliert nicht nur, wo Daten verarbeitet werden, sondern auch, auf welche Daten die KI Zugriff hat und wie sie interpretiert werden. Für regulierte Branchen ist das der Unterschied zwischen einem KI-System, das prüffähig ist, und einem, das es nicht ist.

Die praktische Bewertungs-Checkliste für souveräne KI-Analytik

Unternehmen, die KI-Analyseanbieter auf Datensouveränität hin bewerten, arbeiten typischerweise einen konsistenten Fragenkatalog ab, den die meisten Anbieter im Vertriebsgespräch nicht direkt adressieren. Die relevanten Fragen lauten:

Infrastrukturkontrolle: Kann der gesamte KI-Ausführungs-Stack — einschließlich Modellinferenz, Abfrageverarbeitung und Datenverarbeitung — auf einer Infrastruktur betrieben werden, die das Unternehmen selbst besitzt und betreibt? Oder erfordert eine Komponente die Weiterleitung über anbieterkontrollierte Cloud-Dienste?

Modellauswahl: Kann das Unternehmen das LLM eigenständig auswählen, hosten und aktualisieren? Oder ist das Unternehmen an ein anbieterkontrolliertes Modell gebunden, das ohne Vorankündigung geändert werden kann?

Datenzugriffsumfang: Hat das KI-Modell Zugriff auf rohe Datenbanktabellen, oder operiert es über eine gesteuerte Schicht, die den Datenzugriff einschränkt und regelt?

Vollständigkeit des Prüfpfads: Werden alle KI-Abfrageeingaben und -ausgaben protokolliert, mit vollständiger Nachvollziehbarkeit bis zur Quelldaten? Kann dieser Prüfpfad die Anforderungen von DORA Artikel 30 (vertragliche Dokumentation mit IKT-Anbietern) und EU-KI-Gesetz Artikel 12 (Protokollierungsanforderungen für Hochrisiko-KI-Systeme) erfüllen?

Zertifizierungen und Compliance-Dokumentation: Verfügt der Anbieter über SOC 2 Typ II-, ISO-27001- und EU-DSGVO-konforme Zertifizierungen? Ist ein Auftragsverarbeitungsvertrag (AVV) mit SCC verfügbar? Kann der Anbieter Compliance-Dokumentation für eine interne Rechtsprüfung innerhalb des Beschaffungszeitraums des Unternehmens vorlegen?

GoodData.AI erfüllt alle fünf Kriterien für Cloud-Native-Bereitstellungen. Für Unternehmen, die diese Checkliste durchgearbeitet haben und festgestellt haben, dass ihr bisheriger Analyseanbieter die Frage zur Infrastrukturkontrolle nicht positiv beantworten kann, bietet das KI-gestützte Migrationswerkzeug von GoodData.AI einen Weg, bestehende BI-Assets — einschließlich Dashboards, Kennzahlen und Berichte — von Legacy-Plattformen auf eine gesteuerte, souveräne Architektur zu migrieren, ohne von Grund auf neu aufzubauen.

Häufig gestellte Fragen