Der EU AI Act ist da. Und sagt Ihnen trotzdem nicht, wo Ihre Daten hingehen

Was wirklich passiert ist

Korrekturhinweis vom 23. August 2026: Dieser Beitrag vom 2. Juli 2026 war auf den damaligen Stand geschrieben und nannte die Transparenzpflichten nach Art. 50 sowie die Entscheidung des Bundesrates als noch bevorstehend. Beides ist überholt. Die Änderungsverordnung (EU) 2026/1744 wurde am 24. Juli 2026 im Amtsblatt veröffentlicht und ist seit dem 27. Juli 2026 in Kraft. Die Transparenzpflichten nach Art. 50 gelten seit dem 2. August 2026. Das nationale Durchführungsgesetz hat der Bundesrat am 10. Juli 2026 gebilligt. Der Text unten ist entsprechend korrigiert.

Kaum ein europäisches Gesetz hat in den letzten Jahren so viele Schlagzeilen produziert wie die KI-Verordnung, und kaum eines so viel Verwirrung. Deshalb zuerst die Fakten: Am 29. Juni 2026 hat der Rat der EU den sogenannten Digital Omnibus final angenommen, nachdem das Europäische Parlament bereits am 16. Juni zugestimmt hatte. Die Änderungsverordnung (EU) 2026/1744 wurde am 24. Juli 2026 im Amtsblatt veröffentlicht und ist seit dem 27. Juli 2026 in Kraft. Sie verschiebt einen erheblichen Teil des AI Act nach hinten.

Konkret: Die Pflichten für Hochrisiko-KI-Systeme, die eigentlich ab dem 2. August 2026 gegolten hätten, greifen nun erst ab dem 2. Dezember 2027. Für KI, die in regulierte Produkte eingebettet ist, sogar erst ab August 2028. Für den Mittelstand betrifft das vor allem KI im Personalbereich: Systeme, die Bewerbungen filtern, Beförderungen vorschlagen oder Mitarbeiterleistung bewerten, und Systeme zur Kreditwürdigkeitsprüfung.

Was viele in den Schlagzeilen überlesen: Verschoben wurde längst nicht alles. Die Transparenzpflichten des Artikels 50 gelten unverändert seit dem 2. August 2026. Und zwei Pflichtenblöcke gelten schon heute: das Verbot bestimmter KI-Praktiken und die Pflicht zur KI-Kompetenz im Unternehmen (seit Februar 2025) sowie die Transparenzregeln für die großen KI-Basismodelle (seit August 2025).

Was seit dem 2. August für Sie gilt

Wenn Ihr Unternehmen KI einsetzt (und sei es nur ChatGPT oder ein Copilot im Büroalltag), sind Sie im Sinne der Verordnung „Betreiber“. Seit dem 2. August 2026 heißt das konkret:

• Wer KI-generierte Bilder, Videos oder Audio veröffentlicht, die echt wirken, muss offenlegen, dass sie künstlich erzeugt sind, auch ganz ohne Täuschungsabsicht.
• Wer KI-Texte veröffentlicht, um die Öffentlichkeit über Themen von öffentlichem Interesse zu informieren, muss das kennzeichnen. Ausnahme: Der Text wurde von einem Menschen geprüft und jemand trägt die redaktionelle Verantwortung. Interne Nutzung (E-Mails, Präsentationen, Protokolle) ist nicht kennzeichnungspflichtig.
• Wer Emotionserkennung oder biometrische Kategorisierung einsetzt, muss die Betroffenen informieren.
• Dass Chatbots sich als KI zu erkennen geben, ist dagegen Pflicht des Anbieters, nicht Ihre. Diese Pflicht muss ins Produkt eingebaut sein.

Seit demselben Tag ist das auch durchsetzbar: Verstöße gegen die Transparenzpflichten können bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes kosten. Für kleine und mittlere Unternehmen gilt immerhin der jeweils niedrigere Wert als Obergrenze. Und Deutschland? Das nationale Durchführungsgesetz, das die Bundesnetzagentur zur zentralen Aufsichtsbehörde macht, hat der Bundesrat am 10. Juli 2026 in seiner 1067. Sitzung gebilligt. Die europäischen Pflichten galten ohnehin unabhängig davon. Wer auf die deutsche Aufsicht wartet, um anzufangen, wartet auf das falsche Signal.

Die Lücke, über die niemand spricht

Jetzt zur eigentlichen Pointe. Viele Geschäftsführer glauben nach der Lektüre der Schlagzeilen: „Wenn der AI Act gilt und mein KI-Anbieter konform ist, sind meine Daten geregelt.“ Das ist ein Irrtum, und zwar ein gefährlicher.

Der AI Act regelt, wie KI-Systeme gebaut, dokumentiert und gekennzeichnet werden. Er regelt nicht, wo Ihre Daten verarbeitet werden, wer darauf zugreifen kann und in welchem Rechtsraum sie liegen. Artikel 2 der Verordnung stellt das ausdrücklich klar: Die Datenschutzgrundverordnung bleibt unberührt. Datenflüsse in Drittländer, Serverstandorte, Zugriff durch ausländische Behörden, all das bleibt eine reine DSGVO-Frage. Ein KI-System kann vollständig AI-Act-konform sein und Ihre Kundendaten trotzdem auf US-Servern verarbeiten, mit ihnen trainieren und sie US-Behörden zugänglich machen müssen.

Denn auch daran ändert der AI Act nichts: Der amerikanische CLOUD Act verpflichtet US-Anbieter, Behördenzugriff auf Daten zu gewähren, die ihrer Kontrolle unterliegen, unabhängig davon, ob der Server in Frankfurt oder in Virginia steht. Ein „EU-Rechenzentrum“ auf dem Prospekt eines US-Anbieters ist eine Beruhigungspille, keine Rechtsgrundlage. Warum diese Abhängigkeit nicht nur die KI, sondern Ihren gesamten digitalen Arbeitsplatz betrifft, haben wir in „Kein zweiter Kniefall“ aufgeschrieben. Hier geht es um das, was Sie konkret prüfen können.

Ein Werkzeug liefert der AI Act trotzdem

Eine Sache sollten Sie sich zunutze machen: Seit August 2025 müssen die Anbieter großer KI-Modelle eine öffentliche Zusammenfassung ihrer Trainingsdaten veröffentlichen, nach einem verbindlichen EU-Formular, das eine bemerkenswerte Frage ausdrücklich enthält: Wurde dieses Modell mit den Daten aus Nutzerinteraktionen trainiert? Diese Dokumente müssen prominent auf der Website des Anbieters stehen und alle sechs Monate aktualisiert werden.

Lesen Sie sie. Dort steht, vom Anbieter selbst unterschrieben, ob Ihre Eingaben von gestern das Modell von morgen füttern. Viele KI-Dienste nutzen Kundendaten standardmäßig zum Training, solange niemand widerspricht. Das ist eine eigene Datenverarbeitung, die eine eigene Rechtsgrundlage braucht und die Sie vertraglich ausschließen können, wenn Sie danach fragen.

Sieben Fragen an jeden KI-Anbieter

Weil der AI Act die Datenfrage nicht für Sie beantwortet, müssen Sie sie selbst stellen. Sieben Fragen, die jeder Anbieter präzise beantworten können sollte. Ausweichen ist auch eine Antwort:

• Erstens: In welchem Land laufen die Produktivsysteme, und in welchem die Backups?
• Zweitens: Gibt es eine echte EU-only-Option, bei der kein einziger Verarbeitungsschritt die EU verlässt?
• Drittens: Werden meine Eingaben und Dokumente für das Training Ihrer Modelle verwendet, und wo ist das vertraglich ausgeschlossen?
• Viertens: Wer sind Ihre Sub-Auftragsverarbeiter, und in welchen Ländern sitzen sie?
• Fünftens: Aus welchen Rechtsräumen kann Ihr Support- und Engineering-Personal auf Kundendaten zugreifen?
• Sechstens: Unterliegen Sie oder ein Konzernunternehmen dem CLOUD Act, und wie adressieren Sie das technisch, nicht nur vertraglich?
• Siebtens: Welcher Transfermechanismus deckt jeden einzelnen grenzüberschreitenden Datenfluss ab, und wann wurde er zuletzt geprüft?

Wer diese Fragen an einen US-Hyperscaler stellt, bekommt in der Regel viele Worte und wenig Zusagen. Das ist keine Böswilligkeit. Es ist Jurisdiktion. Ein US-Konzern kann Ihnen den CLOUD Act nicht wegverhandeln.

Unsere Antwort: Transparenz braucht keine Fußnoten

Bei Nexoria haben wir diese sieben Fragen als Bauplan benutzt. Dateien, Datenbanken und Wissensindex der Kernplattform liegen auf Servern in Deutschland; auch die semantische Suche wird dort verarbeitet. Die KI-Antwortgenerierung erfolgt durch Mistral AI in Frankreich. Die von Nexoria an Mistral AI übermittelten Daten werden nicht für Modelltraining verwendet. Der Ausschluss ist im Auftragsverarbeitungsvertrag zwischen Nexoria und Mistral AI vereinbart. Die Aussage bezieht sich auf die Nexoria-Konfiguration und den individuellen Vertrag, nicht auf sämtliche Mistral-Angebote. Weitere Dienstleister und optionale Integrationen sind unter [Sicherheit](/security) einzeln beschrieben.

Das ist der Maßstab, den der AI Act nicht setzt, den Sie aber setzen können. Die Verordnung bringt Ordnung in die Frage, wie KI gebaut und gekennzeichnet wird. Die Frage, wem Sie Ihre Daten anvertrauen, beantwortet weiterhin niemand für Sie. Sie ist auch keine juristische Frage. Sie ist eine unternehmerische. Und sie stellt sich jetzt.