Der EU AI Act ist da - und sagt Ihnen trotzdem nicht, wo Ihre Daten hingehen

Was diese Woche wirklich passiert ist

Kaum ein europäisches Gesetz hat in den letzten Jahren so viele Schlagzeilen produziert wie die KI-Verordnung - und kaum eines so viel Verwirrung. Deshalb zuerst die Fakten, Stand dieser Woche: Am 29. Juni hat der Rat der EU den sogenannten Digital Omnibus final angenommen, nachdem das Europäische Parlament bereits am 16. Juni zugestimmt hatte. Diese Änderungsverordnung tritt in diesen Tagen in Kraft - und sie verschiebt einen erheblichen Teil des AI Act nach hinten.

Konkret: Die Pflichten für Hochrisiko-KI-Systeme, die eigentlich ab dem 2. August 2026 gegolten hätten, greifen nun erst ab dem 2. Dezember 2027 - für KI, die in regulierte Produkte eingebettet ist, sogar erst ab August 2028. Für den Mittelstand betrifft das vor allem KI im Personalbereich: Systeme, die Bewerbungen filtern, Beförderungen vorschlagen oder Mitarbeiterleistung bewerten, und Systeme zur Kreditwürdigkeitsprüfung.

Was viele in den Schlagzeilen überlesen: Verschoben wurde längst nicht alles. Die Transparenzpflichten des Artikels 50 kommen unverändert zum 2. August 2026 - also in wenigen Wochen. Und zwei Pflichtenblöcke gelten schon heute: das Verbot bestimmter KI-Praktiken und die Pflicht zur KI-Kompetenz im Unternehmen (seit Februar 2025) sowie die Transparenzregeln für die großen KI-Basismodelle (seit August 2025).

Was ab dem 2. August für Sie gilt

Wenn Ihr Unternehmen KI einsetzt - und sei es nur ChatGPT oder ein Copilot im Büroalltag -, sind Sie im Sinne der Verordnung „Betreiber“. Ab dem 2. August 2026 heißt das konkret:

• Wer KI-generierte Bilder, Videos oder Audio veröffentlicht, die echt wirken, muss offenlegen, dass sie künstlich erzeugt sind - auch ganz ohne Täuschungsabsicht.
• Wer KI-Texte veröffentlicht, um die Öffentlichkeit über Themen von öffentlichem Interesse zu informieren, muss das kennzeichnen. Ausnahme: Der Text wurde von einem Menschen geprüft und jemand trägt die redaktionelle Verantwortung. Interne Nutzung - E-Mails, Präsentationen, Protokolle - ist nicht kennzeichnungspflichtig.
• Wer Emotionserkennung oder biometrische Kategorisierung einsetzt, muss die Betroffenen informieren.
• Dass Chatbots sich als KI zu erkennen geben, ist dagegen Pflicht des Anbieters, nicht Ihre - sie muss ins Produkt eingebaut sein.

Ab demselben Tag ist das auch durchsetzbar: Verstöße gegen die Transparenzpflichten können bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes kosten. Für kleine und mittlere Unternehmen gilt immerhin der jeweils niedrigere Wert als Obergrenze. Und Deutschland? Das nationale Durchführungsgesetz, das die Bundesnetzagentur zur zentralen Aufsichtsbehörde macht, hängt noch im Bundesrat - die Länderkammer entscheidet am 10. Juli. Die europäischen Pflichten gelten trotzdem. Wer auf die deutsche Aufsicht wartet, um anzufangen, wartet auf das falsche Signal.

Die Lücke, über die niemand spricht

Jetzt zur eigentlichen Pointe. Viele Geschäftsführer glauben nach der Lektüre der Schlagzeilen: „Wenn der AI Act gilt und mein KI-Anbieter konform ist, sind meine Daten geregelt.“ Das ist ein Irrtum - und zwar ein gefährlicher.

Der AI Act regelt, wie KI-Systeme gebaut, dokumentiert und gekennzeichnet werden. Er regelt nicht, wo Ihre Daten verarbeitet werden, wer darauf zugreifen kann und in welchem Rechtsraum sie liegen. Artikel 2 der Verordnung stellt das ausdrücklich klar: Die Datenschutzgrundverordnung bleibt unberührt. Datenflüsse in Drittländer, Serverstandorte, Zugriff durch ausländische Behörden - all das bleibt eine reine DSGVO-Frage. Ein KI-System kann vollständig AI-Act-konform sein und Ihre Kundendaten trotzdem auf US-Servern verarbeiten, mit ihnen trainieren und sie US-Behörden zugänglich machen müssen.

Denn auch daran ändert der AI Act nichts: Der amerikanische CLOUD Act verpflichtet US-Anbieter, Behördenzugriff auf Daten zu gewähren, die ihrer Kontrolle unterliegen - unabhängig davon, ob der Server in Frankfurt oder in Virginia steht. Ein „EU-Rechenzentrum“ auf dem Prospekt eines US-Anbieters ist eine Beruhigungspille, keine Rechtsgrundlage. Warum diese Abhängigkeit nicht nur die KI, sondern Ihren gesamten digitalen Arbeitsplatz betrifft, haben wir in „Kein zweiter Kniefall“ aufgeschrieben - hier geht es um das, was Sie konkret prüfen können.

Ein Werkzeug liefert der AI Act trotzdem

Eine Sache sollten Sie sich zunutze machen: Seit August 2025 müssen die Anbieter großer KI-Modelle eine öffentliche Zusammenfassung ihrer Trainingsdaten veröffentlichen - nach einem verbindlichen EU-Formular, das eine bemerkenswerte Frage ausdrücklich enthält: Wurde dieses Modell mit den Daten aus Nutzerinteraktionen trainiert? Diese Dokumente müssen prominent auf der Website des Anbieters stehen und alle sechs Monate aktualisiert werden.

Lesen Sie sie. Dort steht - vom Anbieter selbst unterschrieben -, ob Ihre Eingaben von gestern das Modell von morgen füttern. Viele KI-Dienste nutzen Kundendaten standardmäßig zum Training, solange niemand widerspricht. Das ist eine eigene Datenverarbeitung, die eine eigene Rechtsgrundlage braucht - und die Sie vertraglich ausschließen können, wenn Sie danach fragen.

Sieben Fragen an jeden KI-Anbieter

Weil der AI Act die Datenfrage nicht für Sie beantwortet, müssen Sie sie selbst stellen. Sieben Fragen, die jeder Anbieter präzise beantworten können sollte - Ausweichen ist auch eine Antwort:

• Erstens: In welchem Land laufen die Produktivsysteme - und in welchem die Backups?
• Zweitens: Gibt es eine echte EU-only-Option, bei der kein einziger Verarbeitungsschritt die EU verlässt?
• Drittens: Werden meine Eingaben und Dokumente für das Training Ihrer Modelle verwendet - und wo ist das vertraglich ausgeschlossen?
• Viertens: Wer sind Ihre Sub-Auftragsverarbeiter, und in welchen Ländern sitzen sie?
• Fünftens: Aus welchen Rechtsräumen kann Ihr Support- und Engineering-Personal auf Kundendaten zugreifen?
• Sechstens: Unterliegen Sie oder ein Konzernunternehmen dem CLOUD Act - und wie adressieren Sie das technisch, nicht nur vertraglich?
• Siebtens: Welcher Transfermechanismus deckt jeden einzelnen grenzüberschreitenden Datenfluss ab, und wann wurde er zuletzt geprüft?

Wer diese Fragen an einen US-Hyperscaler stellt, bekommt in der Regel viele Worte und wenig Zusagen. Das ist keine Böswilligkeit - es ist Jurisdiktion. Ein US-Konzern kann Ihnen den CLOUD Act nicht wegverhandeln.

Unsere Antwort: Transparenz braucht keine Fußnoten

Bei Nexoria haben wir diese sieben Fragen nicht als Compliance-Übung beantwortet, sondern als Bauplan benutzt. Die gesamte Plattform - Backend, Datenbanken, Vektorspeicher, KI-Inferenz - läuft auf Servern in Deutschland. Als Sprachmodell setzen wir auf Mistral aus Europa. Es gibt keinen US-Anbieter im kritischen Pfad, keine versteckten Sub-Auftragsverarbeiter in Übersee, und Ihre Daten trainieren keine fremden Modelle. Die Antwort auf „Wo gehen meine Daten hin?“ lautet bei uns in einem Satz: auf deutsche Server, unter europäisches Recht, nirgendwo sonst hin.

Das ist der Maßstab, den der AI Act nicht setzt - den Sie aber setzen können. Die Verordnung bringt Ordnung in die Frage, wie KI gebaut und gekennzeichnet wird. Die Frage, wem Sie Ihre Daten anvertrauen, beantwortet weiterhin niemand für Sie. Sie ist auch keine juristische Frage. Sie ist eine unternehmerische - und sie stellt sich jetzt.