EU AI Act für Anwender

Viele halten KI-Compliance für ein Problem der Anbieter wie Microsoft oder OpenAI. Der EU AI Act sieht das anders: Er verteilt die Pflichten über die gesamte KI-Lieferkette. Wer ein Tool wie Copilot oder ChatGPT im Unternehmen einsetzt, trägt Verantwortung, ob er will oder nicht.

Führen Sie ChatGPT beispielsweise in der Personalabteilung ein, stehen Sie plötzlich in der Pflicht bei Bias-Monitoring, Erklärbarkeit und Dokumentation. Die Pflichten greifen zwar schrittweise, die Durchsetzung aber beginnt sofort, und es drohen Bußgelder von bis zu 7 % des Umsatzes. Dieser Artikel zeigt, wie die Risikostufen funktionieren, wie sich Copilot und ChatGPT unterscheiden und welche Checkliste Anwender abarbeiten sollten.

Die vierstufige Risikoleiter des EU AI Act

Das Grundprinzip des AI Act ist die Einstufung in vier Risikokategorien: unannehmbar, hoch, begrenzt und minimal. Diese Einstufung bestimmt, wie viel Compliance-Last Sie tragen: den Umfang der Dokumentation, die menschliche Aufsicht, Meldepflichten und Transparenz.

Entscheidend ist der Einsatzkontext

Ein häufiger Irrtum: Man betrachtet ein neues Produktivitätstool und nimmt an, es falle automatisch in die Kategorie „minimal“. Maßgeblich ist jedoch nicht, wie ein System aussieht, sondern was es tut und in welchem Kontext Sie es einsetzen. Ein Chatbot für Social-Media-Beiträge mag risikoarm sein. Nutzen Sie dieselbe Engine für Personalbeschaffung, Compliance-Berichte oder Kredit-Scoring, stufen die Regulierungsbehörden sie als Hochrisiko ein, und zwar sofort statt schrittweise.

Manche Anwendungen gelten von vornherein als Hochrisiko, etwa:

• automatisierte Lebenslaufprüfung und Rekrutierungsscoring,
• biometrische Identifizierung,
• KI in der Strafverfolgung oder bei der Grenzkontrolle.

Generative Modelle wie ChatGPT und Copilot unterliegen eigenen Transparenzanforderungen. Sie sind nicht automatisch Hochrisiko. Anwender müssen aber den KI-Charakter klar offenlegen und teils zusätzliche Pflichten erfüllen, wenn das Modell sensible Entscheidungen beeinflusst. Ein und dasselbe System kann je nach Einsatz mehrere Klassifizierungen abdecken: Copilot für die Zusammenfassung von Besprechungsnotizen ist eine begrenzte bis minimale Einstufung, Copilot für Governance-Einreichungen und Compliance-Berichte bringt Sie auf die oberen Stufen mit vollen Verpflichtungen.

Zeitplan: Kein Grund zur Entspannung

Das Gesetz greift gestaffelt. Verbotene Praktiken wie manipulative Verhaltens-KI oder Social Scoring werden schnell untersagt, Transparenz- und Kennzeichnungspflichten folgen kurz darauf. Die schwerwiegenden Verpflichtungen für Hochrisikosysteme greifen erst in einigen Jahren. Das ist keine Nachsicht: Anwender sollten ihre Anwendungsfälle jetzt planen, denn die Fristen rücken schnell näher.

Je höher ein Projekt auf der Skala liegt, desto umfangreicher wird die Checkliste. Am unteren Ende genügt vielleicht eine Transparenznotiz. Am oberen Ende stehen Risikomanagement-Dokumente, prüfbare Protokolle, Überwachungsmechanismen und dokumentierte Mitarbeiterschulungen. Bewertet wird nach Nutzen und Wirkung, nicht nach Marketingsprache oder internen Präsentationen.

Copilot: Compliance by Design – mit geteilter Verantwortung

Microsoft positioniert Copilot als unternehmenstauglich und für Governance entwickelt. Das hat einen konkreten Hintergrund: Copilot läuft in Microsoft 365, einem regulierten Arbeitsbereich mit Compliance-Zertifizierungen und langjährigen Sicherheitsstandards. Die Governance-Schutzmaßnahmen sind bereits im Grundgerüst eingebettet, Sie müssen sie nicht in letzter Minute nachrüsten.

Datenschutz und Datenfluss

Laut Microsoft werden Copilot-Prompts, die Antworten und über Microsoft Graph abgerufene Daten nicht zum Training der grundlegenden LLMs verwendet. Copilot läuft auf Azure OpenAI, gehostet innerhalb der Microsoft 365 Service-Grenze. Was Sie eingeben, bleibt in Ihrem Tenant unter den Berechtigungen Ihrer Organisation. Diese Trennung ist sowohl für die DSGVO als auch für den AI Act relevant.

Eine Nuance gehört dazu: Microsoft setzt eine EU-Datengrenze durch. Dokumente im Trust Center weisen aber darauf hin, dass Anfragen bei hoher Auslastung zur Kapazitätssicherung in andere Regionen ausweichen können. Es gilt also „zuerst EU mit Überlauf“, nicht „immer nur EU“. Diesen Unterschied erkennen auch Regulierungsbehörden.

Sicherheitsmechanismen und Werkzeuge

Im Hintergrund filtern Klassifikatoren schädliche oder voreingenommene Ausgaben, bevor sie im Entwurf landen. Einige blockieren sogar Rückschlüsse auf sensible persönliche Attribute komplett. Für die Einführung stehen zusätzlich bereit:

• Microsoft Purview für Datenerkennung, Klassifizierung und Aufbewahrung direkt in der Copilot-Umgebung,
• das Microsoft Trust Center mit Dokumentation, Folgenabschätzungen und Vorlagen für den Fall einer Prüfung.

Wichtig ist die Präzision: Copilot entbindet Sie nicht von Ihren Pflichten. Das Gesetz sieht ein Modell der geteilten Verantwortung vor. Microsoft liefert das Grundgerüst, aber konfigurieren, protokollieren und betreiben müssen Sie selbst. Auditoren fragen nach Ihren Aufzeichnungen, nicht nur nach denen von Microsoft. Copilot bringt Sie auf halbem Weg den Berg hinauf, den Aufstieg müssen Sie selbst bewältigen.

ChatGPT: Flexibilität trifft auf Compliance-Aufwand

ChatGPT beeindruckt durch Flexibilität: Es lässt sich auf fast alles ansetzen und liefert flüssige Texte. Unter dem AI Act wird genau diese Flexibilität schnell zum Compliance-Problem. In der Standard-Consumer-Version gilt ChatGPT als begrenztes Risiko, etwa für Brainstorming, Notizzusammenfassungen oder harmlose Alltagsfragen. Sobald es Entscheidungen über Menschen beeinflusst, etwa bei Einstellungen, Kreditgenehmigungen oder im Gesundheitskontext, rutscht es in den Hochrisikobereich. Die Variable ist nicht der Code, sondern der Nutzungskontext.

Keine Zusicherungen von Haus aus

Anders als bei Copilot bietet die öffentliche Version von ChatGPT die Zusicherung, Daten nicht für das Training zu nutzen, nicht standardmäßig. Anwender müssen Dokumentation, Bedingungen und Verträge von OpenAI prüfen: Welche Daten werden gespeichert, wie werden sie verwendet, existieren zusätzliche Leitplanken? Mit ChatGPT sind Sie Architekt, Bauunternehmer und Compliance-Beauftragter in einer Person. Es ist wie ein Hochleistungsmotor ohne Fahrgestell: leistungsstark, aber ohne Sicherheitsgurte, Airbags und Plaketten.

Transparenz, Rückverfolgbarkeit und DSGVO

Generative Ausgaben, also Text, Bilder und Audio, müssen klar als KI-generiert gekennzeichnet werden. Auch die Rückverfolgbarkeit von Prompts und die Erklärung des Systemverhaltens sind erforderlich. Das ist in der Praxis schwieriger, als es klingt: Der Hinweis, dass ein Modell Tokenwahrscheinlichkeiten vorhersagt, ist keine rechtlich ausreichende Erklärung dafür, warum es eine Einstellungsempfehlung beeinflusst hat. Erzeugt ChatGPT Sprach- oder Videoinhalte, die einer echten Person ähneln, droht die Einstufung als Deepfake mit noch strengerer Aufsicht.

Enthalten Prompts Identifikatoren, sind Sie für eine rechtmäßige, faire und transparente Verarbeitung verantwortlich: Einwilligung, wo erforderlich, Datenminimierung und Wahrung der Betroffenenrechte. Der öffentliche Dienst richtet diese Schutzmaßnahmen nicht automatisch für Sie ein.

Der Mittelweg: verwaltete Plattformen

Greifen Sie auf die Fähigkeiten über verwaltete Plattformen wie Azure OpenAI oder in Unternehmensumgebungen integrierte Schnittstellen zu, verbessert sich die Lage. Sie erhalten Audit-Logs, Garantien zur Datenresidenz und Überwachung innerhalb Ihrer Tenant-Grenzen. Das entbindet nicht von der Verantwortung, verschiebt die Frage aber von „Wir haben keine Aufsicht“ zu „Wir müssen validieren, ob die vertraglich zugesicherte Aufsicht funktioniert“.

Häufige Fehler und Stolpersteine

• Das Tool für harmlos halten: Entscheidend ist der Einsatzzweck. Wer ein Tool „nur zum Spaß“ einordnet, wird von Prüfern nicht daran gemessen.
• Informelle Nutzung von ChatGPT: Texte ohne Kennzeichnung entwerfen, Lebensläufe ohne Bias-Prüfung einspeisen oder sensible Notizen ohne Datentrennung verarbeiten kann eine Einstufung mit begrenztem Risiko über Nacht in einen Hochrisikoeinsatz verwandeln. Das Gesetz misst an den Auswirkungen, nicht an der Absicht.
• Auf den Anbieter verlassen: Regulierungsbehörden fragen nicht, ob Purview existiert, sondern ob Sie die Kontrollen implementiert haben. Sie akzeptieren nicht, dass Copilot Protokollierungsoptionen hat, sondern verlangen Ihre Protokolle.
• Tools besitzen statt nachweisen: Compliance heißt belegen zu können, dass die Werkzeuge korrekt konfiguriert in Ihrer Umgebung liefen und nachvollziehbare Ergebnisse lieferten.
• Fristen unterschätzen: Dass die schwersten Pflichten erst später greifen, ist kein Freibrief für späte Planung.

Die Konsequenzen sind real: zweistellige Millionenstrafen, öffentliche Aufmerksamkeit und Vertrauensverlust bei Kunden.

Die Compliance-Checkliste für Anwender

Das Gesetz verlangt operative Checklisten, keine vagen Zusicherungen. Drei Punkte sind zentral, ein vierter gehört dazu.

1. DSFA durchführen und VVT führen. Setzen Sie KI in Bereichen ein, die Personen betreffen, etwa Einstellung, Gesundheit oder Bonitätsprüfung, wird erwartet, dass Sie Risiken durchdacht und Verarbeitungsflüsse dokumentiert haben. Die Datenschutzfolgenabschätzung deckt das Risiko auf, das Verzeichnis von Verarbeitungstätigkeiten belegt, dass Sie die Verarbeitung nachverfolgen.
2. Daten klassifizieren und kontrollieren. Mit Microsoft Purview kennzeichnen Sie sensible Inhalte automatisch, legen Aufbewahrungsrichtlinien fest und setzen DLP durch. Kombinieren Sie das mit dem Prinzip der geringsten Berechtigung: Beschränken Sie Copilot-Abfragen über semantische Indizes und Berechtigungsmodelle, sodass nur auf Daten zugegriffen wird, für die Nutzer zugelassen sind. Ohne Grenzen kann ein Mitarbeiter versehentlich vertrauliche Daten an ein KI-Modell weitergeben.
3. Jede Interaktion protokollieren und aufbewahren. Konfigurieren Sie den Copilot-Aktivitätsverlauf, aktivieren und speichern Sie die Audit-Protokolle in Azure und Microsoft 365 und setzen Sie Aufbewahrungsrichtlinien mit Purview durch. Wer nicht nachweisen kann, wer wann welche KI wofür genutzt hat, steht ohne Aufsichtsnachweis da. Die Aufbewahrung sollte lange genug nützlich sein, ohne zu digitalem Ballast zu werden.
4. Personal schulen. Artikel 4 verlangt KI-Kompetenz, und zwar rollenbasiert: Technisches Personal muss Risikomodelle und Protokollierungsmechanismen verstehen, Personalabteilungen Voreingenommenheit, Dokumentation und Offenlegung. Schulung ist ein eigenes Compliance-Artefakt.

Regulierung als Gerüst, nicht als Käfig

Erstickt der AI Act Innovation? Der Gedanke greift zu kurz. Das Gesetz will Unsicherheit durch einen stabilen Rahmen ersetzen. Wenn Verantwortliche genau wissen, was gefordert ist, hören sie auf, im Verborgenen zu experimentieren, und können KI systemweit einsetzen. Klare Verpflichtungen beseitigen Zögern: Früher blieben Projekte im luftleeren Raum, weil niemand wusste, ob etwa ein Lebenslaufscanner legal war. Heute gibt es definierte Referenzpunkte.

Ein Beispiel liefert die Rechtsabteilung von Microsoft, die Copilot nutzt, um Mitarbeitern bei der Auslegung des AI Act zu helfen – ein Anwendungsfall, der unter regulatorischer Unsicherheit kaum denkbar gewesen wäre.

Man sollte die Regulierung dennoch nicht romantisieren. Bestimmte fortschrittliche Modelle kommen wegen Compliance-Aufwand, Kosten und Rechtsunsicherheit langsamer nach Europa. Anbieter zögern teils, Dienste hier zu starten, weil Audit-Dokumentation und Haftungsregeln Mehraufwand bedeuten. Europäische Kunden warten dann auf konforme Versionen. Das ist der Preis für das Rahmenwerk, ein Kompromiss zugunsten von Stabilität und öffentlichem Vertrauen.

Im direkten Vergleich: Copilot arbeitet innerhalb von Microsoft 365 unter Compliance-Standards auf Unternehmensebene und mit festen Datengrenzen. Die standalone ChatGPT-Version ist ein reines Modell. Für einen Blogbeitrag bleibt es im Bereich geringer Risiken, für die Personalauswahl landen die Lasten sofort bei Ihnen. Keines der Systeme wird durch die Regulierung vernichtet. Der Unterschied liegt darin, ob Ihnen die Leitplanken bei der Installation mitgegeben werden oder ob Sie sie selbst bauen müssen.

Praktische Takeaways

• Die Pflichten liegen entlang der gesamten KI-Lieferkette, auch bei Ihnen als Anwender.
• Klassifizieren Sie jeden KI-Anwendungsfall anhand der Risikoleiter: unannehmbar, hoch, begrenzt, minimal.
• Der Einsatzkontext entscheidet über die Risikostufe, nicht das Tool selbst.
• Bei Copilot ist ein Großteil der Governance-Struktur integriert. Konfigurieren, dokumentieren und überwachen müssen Sie trotzdem.
• Bei ChatGPT prüfen Sie Verträge und Datenverwendung selbst und bauen die Kontrollen eigenständig auf. Verwaltete Plattformen wie Azure OpenAI erleichtern das.
• Führen Sie eine DSFA durch und pflegen Sie ein VVT.
• Nutzen Sie Microsoft Purview, den Copilot-Aktivitätsverlauf und das Responsible AI-Dashboard zur Dokumentation und Kontrolle.
• Kennzeichnen Sie KI-generierte Inhalte und sichern Sie die Rückverfolgbarkeit.
• Schulen Sie Ihr Personal rollenbasiert gemäß Artikel 4.
• Verfolgen Sie Updates über das Microsoft Trust Center.

Fazit

Copilot kommt Compliance by Design näher, weil es in Microsoft 365 mit vorhandener Governance- und Auditstruktur integriert ist. Das senkt Ihr rechtliches Risiko, eliminiert es aber nicht. ChatGPT bietet maximale Flexibilität, verlangt in der eigenständigen Form aber, dass Sie das Compliance-Gerüst selbst errichten. Welches Tool Sie auch wählen: Die Aufsicht prüft Ihren Einsatz, nicht die Versprechen des Anbieters. Wer seine Anwendungsfälle frühzeitig einstuft, Daten und Protokolle im Griff hat und Mitarbeiter schult, schafft die Grundlage, KI sicher und skalierbar einzusetzen.