Prompt Injection & KI-Governance

Ein Chatbot soll Mitarbeitende bei täglichen Aufgaben unterstützen. Schon nach wenigen Minuten schlägt er Maßnahmen vor, die voreingenommen, irreführend oder für Kunden nutzlos sind. Das ist kein Science-Fiction-Szenario, sondern die Folge fehlender Sicherheitsvorkehrungen für verantwortungsvolle KI. Die Konsequenzen reichen von Compliance-Verstößen über Misstrauen bei Kunden bis zu einer alarmierten Führungsebene.

Dieser Artikel zeigt, wie Prompt Injection funktioniert, warum KI-Ergebnisse unvorhersehbar sein können und was der EU AI Act für Ihre Projekte bedeutet. Außerdem erfahren Sie, welche Governance-Schritte Sie in Microsoft 365 und der Power Platform schon heute umsetzen können.

Prompt Injection: Wenn die KI vom Skript abweicht

Stellen Sie sich einen KI-Terminassistenten vor, der Besprechungen anpassen und dringende Notizen markieren soll. Stattdessen bevorzugt er bestimmte Kollegen, lässt andere stillschweigend aus Einladungen fallen oder vergräbt die Nachricht Ihrer Vorgesetzten im Junk-Ordner. Sie wollten eine zuverlässige Uhr und bekommen einen Kollegen, der Regeln erfindet, die niemand abgesegnet hat.

Gefährlicher wird es, wenn jemand gezielt eingreift. Bei einer Prompt Injection nutzen Angreifer sorgfältig formulierte Texte, um Sicherheitsregeln zu umgehen. Ein kleiner, in einer Anfrage versteckter Satz kann genügen, damit ein höflicher Assistent Informationen preisgibt, Voreingenommenheit verbreitet oder Unsinn wiedergibt.

Warum Modelle Angriffe nicht erkennen

Die meisten Basismodelle behandeln jede gut formulierte Anweisung als gültig. Ohne vorgelagerte Sicherheitsebenen erkennen sie weder Beweggründe noch Absichten. Bitten Sie die KI, eine Besprechung zusammenzufassen, und im Text steckt versteckt die Anweisung, eine private Agenda-Datei auszugeben, dann behandelt sie beides gleich. Sie prüft keine Ethik und vermutet keine Täuschung. Es ist, als würde man mit gefälschten, aber als autorisiert gekennzeichneten Dokumenten durch eine Kontrolle gehen.

Leitplanken helfen, reichen aber nicht immer aus, denn clevere Formulierungen können Regeln austricksen. Da Ergebnisse nicht deterministisch sind, ein Modell also nie zweimal exakt dieselbe Antwort gibt, verschärft sich das Problem. Ein Angreifer kann so lange nachhaken, bis das Modell die gewünschte Antwort liefert, ähnlich wie beim Würfeln.

Fehler verbreiten sich in Maschinengeschwindigkeit

Der Schaden bleibt selten auf einen Posteingang beschränkt. Fehlerhafte Ausgaben wandern schneller durch Workflows, als es menschliche Fehler je könnten. Ein falscher Vorschlag beeinflusst Entscheidungen, falsche Bezeichnungen verbreiten Fehlinformationen. Ein einziger manipulativer Prompt kann so eine Kaskade auslösen.

Eindämmung: beobachten, testen, prüfen, begrenzen

Dagegen helfen mehrschichtige Abwehrsysteme aus automatisierten Filtern, Regeln aus dem Bestärkungslernen und menschlichen Prüfern, die durchgerutschtes Material kontrollieren. Neue Co-Piloten sollten zunächst in abgeschirmten, prüfbaren Umgebungen getestet werden. So begrenzen Sie den Schadensradius, bevor echte Nutzer oder Daten betroffen sind. Ergänzend sucht kontinuierliches Red-Teaming fortlaufend nach Schwachstellen. Automatische Schutzmechanismen leisten die Hauptarbeit, die menschliche Überprüfung sichert den Kurs, wenn einfache Regeln versagen.

Deterministisch vs. nicht-deterministisch: Warum KI unberechenbar sein kann

Ein Taschenrechner liefert bei 2 plus 2 immer 4, auch nach tausend Wiederholungen. Diese Vorhersehbarkeit ist sein Zweck. Tabellenkalkulationen und regelbasierte Formeln funktionieren genauso: Am Montag wie am Samstag führt dieselbe Eingabe zum selben Ergebnis.

Generative KI arbeitet anders. Sie folgt keinem festen Pfad, sondern tastet sich durch Möglichkeiten. Sampling, stochastische Prozesse, Modellupdates und sogar Datendrift sorgen für unterschiedliche Ergebnisse. Das gleicht einer Improvisationsbühne: Sie schreiben die Szene, aber der Darsteller erfindet die Pointe spontan. Das liegt nicht an schlechtem Design, sondern daran, wie große Sprachmodelle Sprache erzeugen. In Geschäftsprozessen ist Kreativität jedoch nicht gleich Genauigkeit.

Klassische Automatisierung als Gegenpol

Regelbasierte Workflows, wie sie in der Power Platform üblich sind, verhalten sich eher deterministisch. Sie legen eine Bedingung fest, und wenn der Auslöser greift, läuft die definierte Regel präzise ab. Das hält Compliance-Datenflüsse und Audit-Trails stabil. Generative Co-Piloten machen dagegen aus jeder Eingabe einen offenen Interpretationsraum: Sie fassen zusammen, kombinieren neu und formulieren um.

Drift am Beispiel der Kreditprüfung

Ein KI-gestütztes Kreditprüfungstool bewertet einen Antrag als genehmigt. Am nächsten Tag liefern dieselben Daten ein „abgelehnt“. Der Antragsteller ist irritiert, und die Aufsichtsbehörde sieht eine Inkonsistenz, die nach Diskriminierung aussieht. Solche Verschiebungen nennt man Drift. Anders als einen Menschen kann man das Modell nicht fragen, was sich geändert hat. Im Produktivbetrieb summieren sich kleine Abweichungen bei Hunderten Fällen zu Regelverstößen. Aufsichtsbehörden fordern Stabilität, Nachvollziehbarkeit und klare Erklärungen.

Governance wirkt hier wie ein Schiedsrichter: Sie erstickt Innovation nicht, sondern hält die Zufälligkeit in definierten Bahnen. Man kann einen Co-Pilot nicht zum Taschenrechner machen, aber man kann Sicherheitsnetze um ihn spannen: menschliche Aufsicht, Überwachungssysteme und Governance-Frameworks. Protokolle und Erklärbarkeitsmaßnahmen gehören von Anfang an in den Einsatz.

EU AI Act: Was die Regulierung für Ihre KI-Projekte bedeutet

Der EU AI Act macht Aufsicht nicht nur empfehlenswert, sondern verpflichtend. Sein Kern ist die Kategorisierung von Systemen in vier Risikostufen:

• Minimales Risiko: zum Beispiel ein Chatbot, der Kunden bei FAQs hilft.
• Begrenztes Risiko: eine eigene Stufe mit geringeren Anforderungen.
• Hohes Risiko: etwa Recruiting-Tools, Kreditbewertung und Arbeitsplatzüberwachung.
• Inakzeptables Risiko: manipulative oder gefährliche Anwendungen, die faktisch verboten sind.

Diese Einstufungen sind mit konkreten Pflichten verbunden. Bei hohem Risiko müssen Sie Transparenz und Erklärbarkeit bieten, detaillierte Protokolle für Audits bereithalten und menschliche Aufsicht implementieren.

Was die Pflichten konkret heißen

• Transparenz bedeutet Protokolle darüber, wie Entscheidungen zustande kommen, nicht eine vage Folie in einer Präsentation.
• Auditierbarkeit verlangt, dass jeder Entscheidungsweg gespeichert und für Prüfungen abrufbar ist.
• Menschliche Aufsicht bedeutet, dass echte Personen das System beobachten und eingreifen können, wenn das Modell vom Kurs abweicht.

Eine Recruiting-App, die Lebensläufe in der Power Platform bewertet, kann dadurch plötzlich in den Hochrisikobereich fallen. Sie ist nicht defekt, sie beeinflusst Menschen aber in einer Weise, die das Gesetz als sensibel einstuft. Funktionen, die früher im Sprinttempo entstanden, erfordern nun womöglich Compliance-Prüfungen schon vor der ersten Demo.

Compliance lässt sich nicht aufschieben. Protokolle und Kontrollen nachträglich einzubauen, ist teurer, als sie von Anfang an einzuplanen. Neben Bußgeldern droht vor allem ein Reputationsschaden: Entdecken Kunden, dass ein Tool eine rote Linie überschritten hat, schwindet das Vertrauen in das gesamte Unternehmen. Klug ist deshalb eine Bestandsaufnahme: Welche Ihrer KI-Funktionen gelten als hochriskant, etwa die Lebenslaufsortierung oder eine Prognose in sensiblen Bereichen wie Anstellung oder finanziellen Aussichten? Die Klassifizierung bringt Pflichten mit sich, ob Sie sie anerkennen oder nicht.

Schutzmechanismen in Microsoft 365 und Power Platform nutzen

Microsoft 365 und Power Platform enthalten Governance-Werkzeuge, die oft übersehen werden. Sie sind keine Dekoration, sondern Teil der Grundausstattung, die Sie nur aktivieren und konfigurieren müssen.

Überwachung und Protokollierung

Integrierte Überwachungsfunktionen erlauben es, das Verhalten von Modellen nachzuverfolgen, Entscheidungen zu protokollieren und Erklärungen in verständlicher Sprache anzuzeigen. Statt einer Blackbox erhalten Sie einen Feedback-Loop mit Signalen, sobald ein Algorithmus vom Kurs abweicht.

Erklärbarkeit und Responsible AI

Microsoft setzt auf seinen Standard für verantwortungsvolle KI und Werkzeuge wie das Responsible AI-Dashboard. Es liefert Erklärbarkeitsberichte, Leistungsdaten und Hinweise für ein verantwortungsvolles Design und zeigt, welche Variablen die Entscheidung eines Modells beeinflusst haben. Andere Anbieter gehen eigene Wege, etwa mit KI-Service-Karten bei AWS oder mit Methoden wie SHAP und SageMaker Clarify. So können Prüfer Entscheidungen nachvollziehen, und Nutzer sehen, ob ein Ergebnis fair war.

Datenschutz und Audit-Trails

Aktivieren Sie die Verhinderung von Datenverlusten (Data Loss Prevention), damit sensible Informationen nicht in falsche Hände geraten. Kombinieren Sie sie mit der Aufbewahrung von Protokollen und Audit-Trails. Zusammen wirken sie wie ein Flugschreiber: Jede Aktion und jede Abweichung wird katalogisiert, sodass Sie Fehler zurückverfolgen können.

Ein Beispiel: Eine Power-App, die mit KI-Bildern erstellt wurde, griff in frühen Entwürfen mehr personenbezogene Daten ab, als sich rechtfertigen ließ. Namen, Datensätze und sensible Felder lagen offen. Nach dem Aktivieren der Compliance-Einstellungen stoppte der Datenabfluss, die App funktionierte weiter, und die Datenschutzregeln wurden eingehalten, ohne die Architektur neu zu bauen.

Sandbox und Dashboards

Testen Sie Co-Piloten zunächst in einer kontrollierten, prüfbaren Sandbox. Unerwartetes Verhalten bleibt so in einer sicheren Zone, bevor Sie geschäftskritische Workflows freigeben. Governance-Dashboards geben Teams eine aktive Übersicht: Vorgesetzte können KI-Ausgaben in Echtzeit hinterfragen, genehmigen oder ablehnen. Das verankert Human-in-the-Loop im System. Werden diese Kontrollen als Schutz verstanden, entwickeln sie sich von einer Last zum Produktivitätsmultiplikator: Nachbesserungen entfallen, und Protokolle für Regulierungsbehörden sind schnell verfügbar. Die Schutzmechanismen arbeiten aber nicht von allein. Sie müssen konfiguriert, geprüft und von Menschen laufend überwacht werden.

Das Governance-Gremium: Die letzte Verteidigungslinie

Technische Leitplanken interpretieren nicht, hinterfragen nicht und antizipieren nicht. Dafür braucht es ein Governance-Gremium, das als funktionsübergreifendes Team aufgestellt ist:

• Technologieverantwortliche
• Daten-Governance-Experten
• Rechts- oder Compliance-Berater
• ein Vertreter des Unternehmens
• mindestens ein unabhängiger Prüfer

Das ist wichtig, weil KI nicht in einem Bereich bleibt: Ein Tool zur Lebenslaufauswertung betrifft das Personalwesen, ein Prognosealgorithmus das Finanzwesen, ein Chatbot spricht direkt mit Kunden.

Aufgaben des Gremiums

• regelmäßige Audits zu Voreingenommenheit und Fairness
• Bestätigung der Datenherkunft und Prüfung von Compliance-Berichten
• Festlegung von Prüfzeitplänen, damit Probleme vor dem Start auffallen
• Definition von Kennzahlen für Fairness, Genauigkeit und Abweichung, damit Überwachung messbar wird
• Red-Teaming von Prompts und Protokollierung unerwarteter Ergebnisse
• Rückholen des Menschen in die Schleife, wenn automatische Filter etwas übersehen

Fünf Grundprinzipien

Fairness verhindert Benachteiligung aufgrund demografischer Merkmale. Transparenz macht Entscheidungen für Nutzer und Compliance erklärbar. Rechenschaftspflicht benennt eine Rolle, die für das Ergebnis einsteht, nicht die KI. Sicherheit verhindert Schaden und Missbrauch. Datenschutz schützt sensible Daten. Erst zusammen machen diese Prinzipien verantwortungsvolle KI unter genauer Prüfung tragfähig.

Der Unterschied zeigt sich in der Praxis: Mit Gremium deckt ein Fairness-Audit Voreingenommenheit in einem Recruiting-Modell schon im Test auf, und die Einführung verläuft ohne Skandal. Ohne Aufsicht landet die Geschichte zuerst in der Presse. Ein Recruiting-Beispiel zeigt, wie Modelle mit fehlerhaften Trainingsdaten unbemerkt Kandidaten bestimmter Gruppen herabstuften. Fairness-Audits und Herkunftsprüfungen hätten das vor der Produktion erkannt. Prävention kostet Zeit, Nachbesserung kostet Reputation.

Häufige Fehler und Stolpersteine

• Governance-Dashboards nur überfliegen: Die vorhandenen Werkzeuge sind Überlebensausrüstung, kein optionales Zubehör.
• KI wie einen Taschenrechner behandeln: Wer gleichbleibende Ergebnisse erwartet, übersieht Drift und Nicht-Determinismus.
• Auf Leitplanken allein vertrauen: Sie interpretieren nicht und lassen sich durch clevere Formulierungen austricksen.
• Funktionen falsch einschätzen: Was als harmloser Helfer gilt, kann nach dem EU AI Act hochriskant sein.
• Compliance aufschieben: Nachträglich eingebaute Protokolle und Kontrollen sind teurer als ein Design mit Compliance von Beginn an.
• Aufsicht als einmalige Checkliste: Wirksam wird sie erst als fortlaufender Prozess mit Testzyklen, Fairness-KPIs und Drift-Analysen.
• Schutzmechanismen ohne Pflege: Ohne Konfiguration, Überprüfung und Überwachung bleiben sie wirkungslos.

Praktische Takeaways

• Erfassen Sie alle KI-Anwendungsfälle und bewerten Sie deren Risiko, um hochriskante Projekte früh zu erkennen.
• Aktivieren Sie die Schutzmaßnahmen, die Microsoft 365 und Power Platform bereits mitbringen: Überwachung, Protokolle, Audit-Trails und Verhinderung von Datenverlusten.
• Testen Sie neue Co-Piloten in einer abgeschotteten, prüfbaren Sandbox, bevor sie in produktive Workflows gehen.
• Ergänzen Sie automatisierte Filter durch Red-Teaming und menschliche Prüfer.
• Planen Sie Transparenz, Auditierbarkeit und menschliche Aufsicht von Beginn an ein.
• Gründen Sie ein funktionsübergreifendes Governance-Gremium mit unabhängigem Prüfer.
• Legen Sie Kennzahlen für Fairness, Genauigkeit und Abweichung fest und überwachen Sie sie regelmäßig.

Fazit

Verantwortungsvolle KI ist keine Bonuseinstellung, sondern der Sicherheitsapparat, der entscheidet, ob Ihre Projekte kommende Turbulenzen überstehen. Prompt Injection und nicht-deterministisches Verhalten machen KI-Systeme verwundbar und unvorhersehbar, und der EU AI Act verlangt Nachweise statt guter Absichten. Wer Risiken erfasst, die vorhandenen Schutzmechanismen aktiviert und ein Governance-Gremium etabliert, baut Vertrauen auf, reduziert Risiken und schafft die Basis für langfristigen Erfolg.