WEBVTT

00:00:00.000 --> 00:00:02.220
Ihr Co-Pilot-Problem ist eigentlich kein Problem der Funktion.

00:00:02.620 --> 00:00:04.040
Es ist ein Vertrauensproblem bezüglich des Nöde.

00:00:04.400 --> 00:00:08.400
Die meisten Teams glauben immer noch, Sicherheit bestünde aus Prompts, Berechtigungen und ein paar Filtern am Rande.

00:00:08.940 --> 00:00:13.040
Aber die Sache ist die, Angreifer müssen nicht ihren Prompt knacken, sie müssen nur den Kontext drumherum vergiften.

00:00:13.180 --> 00:00:14.080
Und genau da geht alles schief.

00:00:14.400 --> 00:00:20.020
Einfache Filter können offensichtlich den Müll erkennen, aber sie übersehen die Schadlast, die in einer E-Mail, einer SharePoint-Datei oder einem Formularfeld versteckt ist.

00:00:20.220 --> 00:00:25.040
Dieser abgerufene Inhalt liegt dort unbemerkt, bis Co-Pilot ihn einliest und wie eine direkte Anweisung behandelt.

00:00:25.040 --> 00:00:30.300
Wir haben die Warnsignale bereits beim Echo League in Microsoft 365 Copilot und beim Share League in Copilot Studio gesehen.

00:00:30.900 --> 00:00:33.160
Und die Realität ist, dass Patches dieses Muster nicht beendet haben.

00:00:33.500 --> 00:00:40.700
Da Co-Pilot in ihrer gesamten Microsoft 365 Umgebung suchen, zusammenfassen und agieren kann, kann sich ein fehlerhafter Anweisungspfad schnell verbreiten.

00:00:41.060 --> 00:00:43.640
Es geht also nicht darum, ihrem Stack ein weiteres Dashboard hinzuzufügen,

00:00:43.860 --> 00:00:48.780
sondern Azure Logic Apps in den Pfad zu schalten, um schädliche Payloads zu prüfen, zu bewerten und zu blockieren, bevor Co-Pilot überhaupt läuft.

00:00:49.360 --> 00:00:51.240
Die wahre Gefahr ist die Architektur, nicht der Prong.

00:00:51.240 --> 00:00:55.420
Das alte Modell geht davon aus, dass man das System sicher halten kann, indem man bessere Anweisungen für das Modell schreibt.

00:00:55.660 --> 00:00:59.780
Man gibt ihm einen starken System-Prompt, fügt Trennzeichen hinzu und sagt den Benutzern, was sie nicht tun sollen.

00:01:00.260 --> 00:01:05.600
Das klingt theoretisch sinnvoll, aber in der Realität setzt das Modell Vertrauensgrenzen nicht so durch wie ein Sicherheitssystem,

00:01:05.720 --> 00:01:09.980
der als Sprache über einen einzigen gemeinsamen Kanal liest, in dem Anweisungen und Daten um Aufmerksamkeit konkurrieren.

00:01:10.620 --> 00:01:11.660
Diese Annahme ist der Fehler.

00:01:12.340 --> 00:01:15.140
Wenn ein Modell nicht zuverlässig zwischen einem Benutzer, der um Hilfe bittet,

00:01:15.140 --> 00:01:18.700
und einem Dokument, das ihm leise befiehlt, frühere Anweisungen zu ignorieren, unterscheiden kann,

00:01:18.700 --> 00:01:21.140
darf der Kontrollpunkt nicht nur auf der Prompt-Ebene liegen.

00:01:22.120 --> 00:01:26.880
Sie versuchen, das Verhalten am Rande abzusichern, während das eigentliche Risiko im Kontextfluss liegt, der in das Modell gelangt.

00:01:27.700 --> 00:01:30.880
Das wurde vielen Teams klar, als Copilot-Workloads mit hohem Abrufaufkommen auftaucht.

00:01:31.340 --> 00:01:35.620
In dem Moment, in dem Copilot anfängt, Daten aus Microsoft Graph E-Mails, Dateien und dem Chatverlauf zu ziehen,

00:01:35.700 --> 00:01:36.960
ändert sich die Angriffsfläche komplett.

00:01:37.600 --> 00:01:41.920
Sie sichern nicht mehr nur eine Konversation ab, sondern einen Livestream aus Eingaben mit gemischtem Vertrauensgrad.

00:01:42.160 --> 00:01:44.560
Und eine Ebene tiefer, Copilot vergrößert die Reichweite.

00:01:45.020 --> 00:01:48.280
Es beantwortet nicht nur Fragen, es ruft ab, fasst zusammen und folgt Referenzen.

00:01:48.700 --> 00:01:51.300
In manchen Setups kann es sogar Tools oder Workflows auslösen.

00:01:51.960 --> 00:01:56.720
Wenn also nicht vertrauenswürdiger Inhalt in diese Kette gelangt, kann das Modell diesen Einfluss auf sensible Aktionen übertragen.

00:01:57.240 --> 00:01:59.320
Deshalb ist indirektes Prompt-Injection derzeit so wichtig.

00:02:00.060 --> 00:02:04.380
Im Produktionssystem ist der häufigste Angriff nicht immer ein Benutzer, der ignoriere deine Regeln in das Chatfenster tippt.

00:02:04.920 --> 00:02:09.720
Die gefährlichere Variante verbirgt sich in abgerufenen Inhalten, oft Wochen, bevor sie überhaupt jemand bemerkt.

00:02:10.620 --> 00:02:14.720
Ein präpariertes Dokument, eine gefälschte E-Mail oder ein Formulareintrag wirken auf Menschen harmlos,

00:02:14.820 --> 00:02:17.140
enthalten aber Anweisungen direkt für das Modell.

00:02:17.140 --> 00:02:23.860
Später ruft Co-Pilot diesen Inhalt als relevanten Kontext ab, vermischt ihn mit vertrauenswürdigem Material und das Modell folgt dem Falschen.

00:02:24.260 --> 00:02:26.620
Die Angriffskette ist simpel und genau das macht sie so gefährlich.

00:02:27.080 --> 00:02:29.920
Zuerst platziert der Angreifer Inhalte dort, wo Co-Pilot sie erreichen kann,

00:02:30.460 --> 00:02:34.980
dann bringt die Suche diese in die Sitzung und das Modell behandelt die Nutzlast als Anweisung statt als Daten.

00:02:35.620 --> 00:02:35.900
Daten.

00:02:35.900 --> 00:02:43.140
Danach kann es damit beginnen, sensible Informationen vorzubereiten, Antworten zu manipulieren oder Daten über Links- oder Tool-Nutzung nach außen zu leiten.

00:02:44.280 --> 00:02:48.540
Für Führungskräfte ist das also nicht nur KI-Hygiene, sondern Laufzeitkontrolle, die direkt an die Zugriffsverwaltung gebunden ist.

00:02:48.540 --> 00:02:55.160
Wenn Co-Pilot weitreichenden Zugriff im Tenant hat und das Modell Kontext unterschiedlicher Vertrauenswürdigkeit ohne Trennung verarbeitet,

00:02:55.340 --> 00:02:58.060
muss Ihr Sicherheitsmodell den Zufluss vor der Ausführung kontrollieren.

00:02:58.980 --> 00:03:00.380
Sobald Sie das erkennen, ändert sich auch die Lösung.

00:03:00.740 --> 00:03:04.900
Sie hören auf, sich nur auf perfekte Prompts zu konzentrieren und beginnen Kontrollen dort zu platzieren, wo der Kontext fließt.

00:03:05.620 --> 00:03:07.160
Warum grundlegende Abwehrmechanismen in der Produktion?

00:03:07.160 --> 00:03:09.840
Die meisten Teams machen von Anfang an einen grundlegenden Fehler.

00:03:10.520 --> 00:03:14.520
Sie gehen davon aus, dass die Sicherheitskontrollen der App-Entwicklung genauso gut für Co-Pilot funktionieren.

00:03:14.840 --> 00:03:15.020
Tuff.

00:03:15.360 --> 00:03:20.580
Sie schreiben einen stärkeren System-Prompt, verpacken Benutzereingaben in Sonderzeichen, veröffentlichen Richtlinien und fühlen sich dann sicher.

00:03:20.920 --> 00:03:21.680
Und fühlen sich dann sicher.

00:03:21.980 --> 00:03:26.240
Diese Schritte sind nicht schlecht und ich rate nicht davon ab, aber sie bilden keine echte Sicherheitsgrenze.

00:03:26.820 --> 00:03:31.180
Sie versuchen lediglich, das Modell zu überreden, sich korrekt zu verhalten, doch in der Sicherheit ist Überzeugung nicht dasselbe wie Durchsetzung.

00:03:31.640 --> 00:03:32.320
Genau hier liegt die Löcke.

00:03:32.320 --> 00:03:40.300
Ein System-Prompt sagt dem Modell, was sie bevorzugen, aber er kann nicht verhindern, dass eine bösartige Datei die Aufmerksamkeit des Modells auf sich zieht, sobald sie im Arbeitsbereich ist.

00:03:41.340 --> 00:03:45.720
Brennzeichen helfen zwar bei der Textstrukturierung, geben dem Modell jedoch keine Möglichkeit, Sicherheitsfreigaben zu prüfen.

00:03:46.760 --> 00:03:52.760
Mitarbeiterrichtlinien helfen gegen Flüchtigkeitsfehler, bewirken aber nichts gegen ein vergiftetes Dokument oder versteckte Nutzlasten in ihren Daten.

00:03:53.960 --> 00:03:57.220
Die Kontrolle existiert als Empfehlung, nicht als harte Regel, die bei der Ausführung greift.

00:03:57.720 --> 00:03:58.680
Regex hat ein ähnliches Problem.

00:03:59.100 --> 00:04:01.800
Es ist schnell und kostengünstig, daher eignet es sich gut für einen ersten Stellen durch.

00:04:02.320 --> 00:04:06.620
Wenn ein Benutzer-Ignorierer alle vorherigen Anweisungen eingibt, sollte Ihr System dies in Millisekunden erkennen.

00:04:07.180 --> 00:04:12.060
Sie können es auch nutzen, um offensichtliche Umgehungsversuche oder SQL-ähnliche Zeichen in Ihren Tool-Argumenten zu markieren.

00:04:12.760 --> 00:04:15.760
Dieser Teil funktioniert zwar, aber Regex erkennt nur vorab definierte Muster.

00:04:15.940 --> 00:04:20.420
Es versagt also, wenn sich die Formulierung leicht ändert oder der Angriff auf der Bedeutung statt auf bestimmten Wörtern basiert.

00:04:21.160 --> 00:04:22.640
Genau deshalb benötigen Sie Klassifikator eben.

00:04:22.940 --> 00:04:27.300
Azure AI Content Safety bietet Prompt-Schilde, die sowohl direkte als auch indirekte Injektionsangriffe erkennen können.

00:04:27.300 --> 00:04:33.840
In einer Logic-App können Sie eine API aufrufen, um den Prompt zu prüfen, bevor das Modell ihn sieht und den Workflow bei einem erkannten Angriff umleiten.

00:04:35.300 --> 00:04:41.020
Dies ist eine weitaus stärkere Kontrolle als einfacher String-Abgleich, da Sie die Absicht hinter den Wörtern im Prompt und in Dokumenten zusammen betrachtet.

00:04:41.760 --> 00:04:46.300
Doch Erkennung allein reicht nicht aus, denn ein Risiko zu sehen bringt nichts, wenn man keine Möglichkeit hat, es zu stoppen.

00:04:46.300 --> 00:04:50.260
Sicherheitsteams unterschätzen diesen speziellen Teil des Prozesses oft.

00:04:51.300 --> 00:04:55.800
Eine Warnung in einer Protokolldatei ist keine Eindämmung und ein schickes Dashboard-Element ist das ebenfalls nicht.

00:04:56.620 --> 00:05:03.000
Selbst eine Prioritätswarnung in Ihrem CM versagt, wenn die Nutzlers bereits Co-Pilot durchlaufen und eine Aktion in einem nachgelagerten System ausgelöst hat.

00:05:03.580 --> 00:05:08.300
Das Geschehene nachträglich zu überprüfen, hilft bei der Untersuchung, reicht aber nicht aus, wenn ein Angriff in Sekunden abläuft.

00:05:08.300 --> 00:05:12.680
Sie haben es mit einem Modell zu tun, das innerhalb von Systemen agieren kann, denen Ihr Unternehmen bereits vertraut.

00:05:13.260 --> 00:05:16.660
Es gibt auch das Problem der falsch-negativen Ergebnisse, das die meisten Produktvermarktung ignorieren.

00:05:17.260 --> 00:05:24.960
Indirekte Angriffe verursachen einen großen Teil der unentdeckten Vorfälle in der Praxis, da die gefährliche Anweisung völlig normal aussieht, bis das Modell sie mit dem Rest des Gesprächs kombiniert.

00:05:25.600 --> 00:05:30.300
Bis ein Mensch das Ergebnis prüft und merkt, dass etwas nicht stimmt, hat die fehlerhafte Eingabe ihrer Arbeit bereits erledigt.

00:05:31.100 --> 00:05:37.520
Der praktische Fehler hier ist sehr simpel. Teams verbringen ihre ganze Zeit damit zu beobachten, was Co-Pilot sagt, kontrollieren aber nicht mit der gleichen Disziplin, was hineingelangt.

00:05:37.520 --> 00:05:44.180
Sie prüfen die Antwort nach der Generierung, lassen aber ungeprüftes Material einfließen, bevor die Arbeit beginnt. Diese Reihenfolge ist komplett verkehrt.

00:05:44.560 --> 00:05:48.440
Sobald man diesen Fehler erkennt, ändert sich das gesamte Ziel Ihrer Sicherheitsstrategie.

00:05:49.040 --> 00:05:53.540
Sie hören auf zu fragen, wie man sichere Prompts schreibt und fangen an zu fragen, wo Sie die Daten abfangen können, bevor das Modell Sie ausführt.

00:05:54.320 --> 00:05:55.500
Das Logic App Firewall Modell

00:05:55.500 --> 00:05:59.520
Wenn Abfangen das Ziel ist, müssen wir uns ansehen, wie diese Kontrolle in der Praxis tatsächlich aussieht.

00:06:00.100 --> 00:06:04.220
Sie sollten Azure Logic Apps als Richtlinien-Ebene verwenden, die vor der Ausführungsphase geschaltet ist.

00:06:04.220 --> 00:06:07.880
Es sollte kein passives Werkzeug sein, das erst einen Bericht sendet, wenn der Schaden bereits entstand.

00:06:08.160 --> 00:06:13.320
Sie müssen es direkt in den Pfad der Benutzereingaben und abgerufenen Daten setzen, damit diese geprüft werden können, bevor das Modell die Arbeit aufnimmt.

00:06:13.600 --> 00:06:13.720
Nein.

00:06:14.400 --> 00:06:17.380
Dieser Wandel ist wirkungsvoll, da Apps für Orchestrierung konzipiert sind.

00:06:18.000 --> 00:06:23.140
Es kann durch bestimmte Ereignisse ausgelöst werden, andere APIs aufrufen und Entscheidungen auf Basis komplexer Bedingungen treffen.

00:06:23.980 --> 00:06:31.220
Sie können Daten weiterleiten, Warnmeldungen an Microsoft Sentinel senden und den Prozess mit externen Informationen anreichern, ohne ein Sicherheits-Gateway von Grund auf neu zu entwickeln.

00:06:31.220 --> 00:06:36.880
Sie versuchen hier nicht, Co-Pilot zu ersetzen. Sie fügen lediglich eine Kontrollschicht in den umgebenden Ablauf ein.

00:06:37.420 --> 00:06:39.020
Die Logik hinter diesem Modell ist bewusst einfach geil.

00:06:39.600 --> 00:06:41.800
Zuerst lösen Sie den Prozess aus, dann normalisieren Sie die Daten.

00:06:42.240 --> 00:06:46.080
Sie prüfen diese, bewerten das Risiko, treffen eine Entscheidung und leiden das Ergebnis schließlich weiter oder protokollieren.

00:06:46.360 --> 00:06:47.300
Das ist das gesamte Muster.

00:06:47.720 --> 00:06:52.540
Wenn eine Anfrage oder ein Inhalt in den Workflow gelangt, übernimmt die Logic App diese Nutzlast und standardisiert sie.

00:06:53.200 --> 00:06:56.780
Rohdaten sind oft unübersichtlich, da verschiedene Konnektorendaten unterschiedlich verarbeiten.

00:06:56.780 --> 00:07:02.720
Eine E-Mail sieht anders aus als ein Formulareintrag und Dateienhalte oder Toolparameter haben alle unterschiedlichen Metadaten und Felder.

00:07:03.160 --> 00:07:08.040
Wenn Sie eine Prüfung durchführen, bevor Sie die Daten normalisiert haben, wird Ihr Erkennungssystem extrem ungenau sein.

00:07:08.660 --> 00:07:12.000
Sobald die Nutzlast in ein einheitliches Format gebracht wurde, beginnt der erste Prüfdurchlauf.

00:07:12.540 --> 00:07:14.460
Hier hat Ihre benutzerdefinierte Regex immer noch ihr Aufgaben.

00:07:15.020 --> 00:07:19.120
Sie ist kein finales Urteil und keine Wunderlösung, fungiert aber als sehr schneller Filter am Rande Ihres Systems.

00:07:19.120 --> 00:07:26.420
Sie können schnell nach bekannten Override-Sprachen, Codierungshinweisen oder verdächtigen Mustern in Toolparametern suchen, um eine sofortige Ersteinschätzung der Lage zu erhalten.

00:07:27.240 --> 00:07:30.700
Anschließend gehen Sie zum zweiten Prüfdurchlauf über, der wesentlich tiefer in den Inhalt eindringt.

00:07:31.200 --> 00:07:33.800
Hier rufen Sie die Azure AI Content Safety Prompt Shields auf.

00:07:34.480 --> 00:07:40.180
Die Logic App sendet die Benutzeranfrage und alle abgerufenen Dokumente an die API und verzweigt dann je nachdem, ob ein Angriff erkannt wurde.

00:07:41.000 --> 00:07:44.460
Das ist wichtig, da Prompt Injections nicht immer wie offensichtlicher Computercode aussehen.

00:07:44.460 --> 00:07:49.640
Manchmal wird die Gefahr erst deutlich, wenn der Prompt und das Dokument als eine Einheit ausgewertet werden.

00:07:50.140 --> 00:07:54.180
Es gibt noch eine weitere Ebene, die dies von einem einfachen Filter zu einer echten Sicherheitskontrolle macht.

00:07:54.420 --> 00:07:55.160
Threat Intelligence.

00:07:55.760 --> 00:08:01.380
Wenn ein Inhalt auf eine bekannte schädliche Domain oder eine verdächtige URL verweist, die Ihrem Team bereits bekannt ist, sollte dies hier eine Entscheidung beeinflussen.

00:08:01.820 --> 00:08:07.360
Logic Apps kann das Ereignis mit Defender Threat Intelligence oder anderen Drittanbieter-Feeds abgleichen, um die Risikobewertung mit einem Konfidenzwert zu versehen.

00:08:07.360 --> 00:08:14.840
Das bedeutet, dass ein ungewöhnliches Muster von einer vertrauenswürdigen Quelle zugelassen werden könnte, während dasselbe Muster bei einer negativen Reputationsbewertung sofort blockiert wird.

00:08:15.880 --> 00:08:19.180
Dies macht Ihren Entscheidungsbaum zu mehr als nur einer Ja- oder Nein-Wahl.

00:08:20.140 --> 00:08:25.220
Sie können die Anfrage zulassen, wenn der Risikowert niedrig ist, oder sie bereinigen, indem Sie unsichere Fragmente entfernen.

00:08:25.560 --> 00:08:28.360
Sie können die Daten unter Quarantäne stellen, falls die Quelle eine manuelle Überprüfung erfolgt.

00:08:28.800 --> 00:08:32.980
Wenn die Aktion sensible Daten betrifft, können Sie sogar eine menschliche Freigabe verlangen, bevor sie fortgesetzt wird.

00:08:33.140 --> 00:08:36.960
Wenn das Signal stark genug ist, blockieren Sie die Anfrage natürlich einfach und lösen einen Alarm aus.

00:08:37.340 --> 00:08:40.260
Genau diese Auswahlmöglichkeiten machen dieses Modell für ein Unternehmen wirklich praktikabel.

00:08:41.280 --> 00:08:45.020
Sicherheitsteams verhindern oft die Akzeptanz, weil sie jeden Fall ablehnen, der leicht unsicher wirkt.

00:08:45.300 --> 00:08:47.820
Und wenn Kontrollen zu streng sind, umgehen die Leute sie einfach.

00:08:48.620 --> 00:08:52.880
Ein bewerteter Workflow gibt Ihnen den Spielraum, auf der Grundlage des tatsächlichen Risikos zu reagieren, statt in Panik zu kommen.

00:08:53.140 --> 00:08:56.300
Genau deshalb sind Logic Apps besser geeignet als eine Sammlung separater Tools.

00:08:57.000 --> 00:09:01.120
Sie sind bereits mit dem restlichen Microsoft-Ökosystem verbunden, funktionieren perfekt mit Sentinel Playbooks.

00:09:01.340 --> 00:09:05.800
Sie können eine Inhaltsüberprüfung anfordern, Bedrohungsdaten abrufen und Auditereignisse zentral steuern.

00:09:05.800 --> 00:09:11.440
Sie benötigen keinen langen Entwicklungszyklus, wenn ein Angreifer seine Ausdrucksweise ändert oder ein neuer Weg ins System auftaucht.

00:09:11.860 --> 00:09:13.800
Die Regel, die das alles ermöglicht, ist sehr einfach.

00:09:14.580 --> 00:09:18.100
Sie müssen jedes einzelne Stück Kontext als nicht vertrauenswürdig behandeln, bis es bewertet wurde.

00:09:18.800 --> 00:09:23.720
Das bedeutet nicht nur die Benutzeraufforderung, sondern auch den E-Mail-Text, die hochgeladene Datei und das SharePoint-Formularfeld.

00:09:23.720 --> 00:09:28.300
Es umfasst die Connector-Payload, die abgerufenen Dokumenten-Chunks und sogar die Tool-Argumente.

00:09:28.940 --> 00:09:30.020
Alles davon muss überprüft werden.

00:09:30.280 --> 00:09:34.780
Sobald Sie davon ausgehen, dass eine dieser Quellen standardmäßig sicher ist, haben Sie eine neue Lücke für Angreifer geschaffen.

00:09:35.260 --> 00:09:40.980
Sobald Ihr Workflow diese Regel konsequent durchsetzt, müssen Sie sich nicht mehr darauf verlassen, dass Co-Pilot Gute von schlechten Daten selbst trennt.

00:09:41.440 --> 00:09:41.720
Trennt.

00:09:42.360 --> 00:09:44.060
Der Prozess wird zu einem kontrollierten Eingangssystem.

00:09:44.060 --> 00:09:51.240
Auf dem Papier klingt das nach einer großartigen Theorie, aber was die Leute wirklich interessiert ist, was passiert, wenn eine gefährliche Payload in der Praxis auf den Workflow trifft.

00:09:52.140 --> 00:09:54.000
Was der Workflow zur Laufzeit tatsächlich tut.

00:09:54.160 --> 00:10:01.520
Wenn das System live geht, er scannt nicht nur Texte auf schlechte Wörter, sondern erstellt ein vollständiges Bild der Anfrage, bevor eine Entscheidung getroffen wird, bevor eine Entscheidung getroffen wird.

00:10:01.520 --> 00:10:10.200
Ein Ereignis trifft an Ihrem Eingangspunkt an, etwa eine Formularübermittlung, ein E-Mail-Flow oder ein Dokumenten-Upload für einen Co-Pilot-Prozess und Logic-Apps versieht dieses Ereignis sofort mit Metadaten.

00:10:10.200 --> 00:10:16.180
Es protokolliert, wer die Anfrage gesendet hat, welche App darauf zugegriffen hat, woher die Datei stammt und was das System als nächstes tun wird.

00:10:16.660 --> 00:10:21.240
Dieser zusätzliche Kontext ist entscheidend, da derselbe Satz je nach Herkunft etwas völlig anderes bedeuten kann.

00:10:21.960 --> 00:10:25.420
Sobald diese Daten erfasst sind, wird die Nutzlast in spezifische Vertrauenszonen aufgeteilt.

00:10:25.840 --> 00:10:27.080
Sie müssen diese Trennung strikt einhalten.

00:10:27.080 --> 00:10:33.240
Die Benutzereingabe kommt in einen Bereich, abgerufene Dokumente in einen anderen und der Gesprächsverlauf oder Toolparameter erhalten Ihren eigenen Platz.

00:10:33.840 --> 00:10:38.620
Wenn Sie all das zu früh vermischen, verlieren Sie die Möglichkeit zu erkennen, wo eine riskante Anweisung tatsächlich begann.

00:10:38.620 --> 00:10:41.240
Und Ihr Prüfprozess wird zum reinen Rätsel raten.

00:10:42.260 --> 00:10:48.060
Viele Teams überspringen diesen Schritt, weil das Kombinieren schneller erscheint, aber in Wirklichkeit verschleiert es nur den Pfad, dem Sie folgen müssen.

00:10:48.800 --> 00:10:50.560
Als nächstes geht der Workflow zur Normalisierung über.

00:10:51.140 --> 00:10:54.120
Das ist der langweilige Teil der Arbeit, aber er macht Ihre Erkennung erst wirklich brauchbar.

00:10:54.780 --> 00:11:02.680
Sie müssen Markup entfernen, das Rauschen erzeugt, URL-Codierungen oder Base64-Spuren dekodieren und verschachtelte Felder glätten, damit die Prüfung auf einer stabilen Struktur basiert.

00:11:02.680 --> 00:11:09.960
Wenn ein Connector Rich Text sendet und ein anderer JSON-Fragmente, sollten diese in Felder reduziert werden, die Ihre Prüfungen konsistent lesen können.

00:11:10.620 --> 00:11:14.900
Ohne dies verbringt Ihre Logik mehr Zeit damit, gegen Formatabweichungen zu kämpfen, als tatsächliche Angriffe zu finden.

00:11:15.320 --> 00:11:18.100
Nachdem die Daten bereinigt sind, erfolgt zuerst der schnelle Musterabgleich.

00:11:18.500 --> 00:11:20.200
Dieser muss kostengünstig, direkt und schnell sein.

00:11:20.580 --> 00:11:23.600
Sie suchen nach Formulierungen, die versuchen, das Systemverhalten zu überschreiben.

00:11:23.960 --> 00:11:27.440
Die Variation von Ignoriere alle vorherigen Anweisungen oder Systemoverride.

00:11:27.440 --> 00:11:33.860
Sie achten auch auf Extraktionssprache, bei der jemand auffordert, vertrauliches Material preiszugeben, Geheimnisse offen zu legen oder Datenschutzeinstellungen zu umgeben.

00:11:34.460 --> 00:11:40.640
In Logic Apps handhaben Teams dies meist durch Ausdrücke oder Kompositionsschritte die Flex setzen, anstatt die Anfrage bei jedem Treffer sofort zu blockieren.

00:11:41.460 --> 00:11:45.080
Diese Markierung ist wichtig, da ein einzelner Ausdruck nicht immer bedeutet, dass jemand missbräuchlich handelt.

00:11:45.900 --> 00:11:50.640
Eine Person in einem legitimen Sicherheitsworkflow muss möglicherweise buchstäblich nach der Handhabung vertraulicher Inhalte fragen.

00:11:51.340 --> 00:11:56.500
Um dies zu lösen, sendet der Workflow die umfangreichere Nutzlast für eine tiefere Analyse an die Azure AI Content Safety Prompt Chills.

00:11:56.500 --> 00:12:03.360
Der API-Aufruf umfasst sowohl die Benutzereingabe als auch die abgerufenen Dokumente, da das eigentliche Problem meist in der Beziehung zwischen beiden verborgen liegt.

00:12:04.680 --> 00:12:10.180
Der Dienst gibt ein einfaches Signal zurück und wenn ein Angriff erkannt wird, ändert der Workflow einfach den Pfad, bevor der Modellaufruf überhaupt stattfindet.

00:12:10.860 --> 00:12:12.360
Dann müssen Sie externen Kontext hinzufügen.

00:12:12.780 --> 00:12:15.620
Threat Intelligence Abfragen geben dem Workflow eine weitere Perspektive zu analysieren.

00:12:16.040 --> 00:12:23.220
Sie können Microsoft Defender Threat Intelligence oder jede vertrauenswürdige Tax-Dirquelle abfragen, um auf Domains, URLs oder Indikatoren zu prüfen, die mit Missbrauch in Verbindung stehen.

00:12:23.220 --> 00:12:30.080
Sie sollten Konfidenzscores einbeziehen, sofern verfügbar, da die Reputation einer Quelle den Endwert beeinflussen, aber nicht vollständig ersetzen sollte.

00:12:30.960 --> 00:12:35.980
Eine schwache Nutzlast aus einer riskanten Quelle sollte immer höher eingestuft werden als dieselbe Nutzlast aus einem bekannten internen Prozess.

00:12:36.880 --> 00:12:38.340
Schließlich erstellt das System ein Gesamtwert.

00:12:38.840 --> 00:12:43.900
Es betrachtet die Stärke von Mustererkennungen, das Ergebnis von Prompt Shields, die Quellenreputation und die Sensibilität der angeforderten Aktion.

00:12:43.900 --> 00:12:50.020
Eine risikoarme Anfrage zur Zusammenfassung eines öffentlichen Artikels hat nicht dasselbe Gewicht wie eine, die geschützte Dateien offenlegen könnte.

00:12:50.580 --> 00:12:52.280
Dieser kombinierte Wert bestimmt die weitere Vorgänge zu haben.

00:12:52.640 --> 00:12:54.300
Unbedenkliche Ereignisse werden wie geplant fortgesetzt.

00:12:54.600 --> 00:12:57.760
Fälle mit mittlerem Risiko werden bereinigt oder an einen sicheren Ausweichpfad weitergeleitet.

00:12:58.460 --> 00:13:00.920
Hochrisikofälle werden blockiert, noch bevor Co-Pilot ausgeführt wird.

00:13:01.700 --> 00:13:04.640
Alles wird in einem Audit-Protokoll unter Beibehaltung des Entscheidungswegs festgehalten.

00:13:05.180 --> 00:13:09.080
Diese blockierten Ereignisse zeigen Ihnen, wo sich Druck aufbaut und welche Quellen immer wieder Probleme verursachen.

00:13:09.080 --> 00:13:14.740
Wenn Sie sehen, welche Muster in Ihre Geschäftsabläufe gelangen, haben Sie endlich die Daten, um das System für die nächste Runde zu optimieren.

00:13:16.460 --> 00:13:18.520
Optimierung für geringes Rauschen und echten geschäftlichen Nutzen.

00:13:18.880 --> 00:13:21.000
Sobald das System läuft, ändert sich die Art der Arbeit.

00:13:21.440 --> 00:13:23.000
Der Aufbau des Ablaufs ist eigentlich der einfache Teil.

00:13:23.480 --> 00:13:30.140
Die Feinabstimmung, damit die Leute darauf vertrauen und keine Umwege suchen, entscheidet darüber, ob dies eine echte Sicherheitskontrolle wird oder nur ein weiteres gescheitertes Experiment.

00:13:30.620 --> 00:13:35.560
Wenn das System zu viel Reibung erzeugt, werden die Benutzer einfach Wege finden, es zu umgehen, was das gesamte Projekt sinnlos macht.

00:13:35.780 --> 00:13:37.020
Sie sollten klein anfangen.

00:13:37.020 --> 00:13:40.080
Versuchen Sie nicht, am ersten Tag jeden einzelnen Kuppelortberührungspunkt zu bewerben.

00:13:40.480 --> 00:13:46.160
Wählen Sie stattdessen Bereiche mit dem höchsten Risiko und einem klaren Pfad, wie Tool-gestützte Aktionen oder hochwertige Datenquellen.

00:13:46.760 --> 00:13:51.500
Sie könnten mit einem SharePoint-gestützten Prozess oder einem spezifischen Formular-Workflow beginnen, um ein auswertbares Signal zu erhalten.

00:13:51.980 --> 00:13:54.720
Ein kleinerer Umfang gibt Ihnen Raum zum Lernen ohne in Daten zu ertrinken.

00:13:55.460 --> 00:13:59.640
Wenn Sie Ihre ersten Prüfungen einrichten, optimieren Sie Ihre Ablehnung auf Trefferquote statt auf absolute Gewissheit.

00:13:59.760 --> 00:14:04.660
Der erste Durchgang soll verdächtige Sprache frühzeitig erkennen, nicht böswillige Absichten zweifelsfrei belegen.

00:14:04.660 --> 00:14:09.100
Wenn Sie Ihre Muster erzwingen, werden Sie starr und übersehen genau die Dinge, die Ihnen wichtig sind.

00:14:09.760 --> 00:14:15.600
Es ist besser, das System anfangs etwas mehr markieren zu lassen und dann spätere Prüfungen Kontext hinzufügen zu lassen, um das Rauschen zu reduzieren.

00:14:16.140 --> 00:14:17.960
Deshalb ist die Bewertung wichtiger als einzelne Treffer.

00:14:18.680 --> 00:14:25.020
Eine Phrasenübereinstimmung allein sollte eine Anfrage nicht immer stoppen, aber kombiniert mit einem Prompt-Shield-Flag und einer riskanten Quelle ändert sich das Bild.

00:14:25.020 --> 00:14:30.140
Schwache Signale sollten sich summieren und starke Signale, die Blockierung, beschleunigen.

00:14:30.960 --> 00:14:36.120
Dies ist der grundlegende Unterschied zwischen einem starren, lästigen Filter und einem Richtlinienmodell, das für ein Unternehmen wirklich funktioniert.

00:14:36.720 --> 00:14:38.440
Sie müssen außerdem eine Obergrenze für festlegen.

00:14:38.900 --> 00:14:44.020
Versuchen Sie, unter 2% zu bleiben, denn sobald Nutzer das Gefühl haben, dass die Kontrolle Ihre Arbeit behindert, verlieren Sie das Vertrauen des Systems.

00:14:44.340 --> 00:14:45.380
Dann beginnen die Umgehungslösungen.

00:14:45.380 --> 00:14:51.060
Nutzer kopieren Texte in nicht verwaltete Tools, Teams erstellen Schattenworkflows und Administratoren fordern pauschale Ausnahmen.

00:14:51.780 --> 00:14:56.580
Die Kontrolle wird von innen heraus kollabieren, nicht weil die Erkennung versagt hat, sondern weil die Reibungsverluste zu groß wurden.

00:14:57.360 --> 00:14:59.360
Um das zu verhindern, müssen Sie die richtigen Kennzahlen im Blick behalten.

00:14:59.780 --> 00:15:02.600
Vergessen Sie Vanity Dashboards und konzentrieren Sie sich auf die durchschnittliche Erkennungszeile.

00:15:02.880 --> 00:15:05.900
Diese sollte für alles, was eine manuelle Prüfung erfordert, unter 15 Minuten liegen.

00:15:06.200 --> 00:15:11.100
Verfolgen Sie zudem Ihre automatisierte Eindämmungszeit und streben Sie weniger als 5 Minuten an, sofern eine Blockierung sicher möglich ist.

00:15:11.480 --> 00:15:15.340
Wenn der Workflow ständig auslöst, aber nie eine Entscheidung beeinflusst, ist er nur Rauschen.

00:15:16.120 --> 00:15:18.060
Die Kosten sind ein weiterer Faktor, der ständig optimiert wird.

00:15:18.980 --> 00:15:23.940
Verbrauchsbasierte Logic-Apps sind ideal für schwankende Arbeitslasten oder kleine Pilotprojekte, da Sie nur für die Ausführung bezahlen.

00:15:24.660 --> 00:15:29.720
Der Standardtarif ist jedoch sinnvoller, sobald Ihr eigenes Volumen vorhersehbar und hoch genug ist, dass die Kosten pro Lauf ins Gericht fallen.

00:15:30.620 --> 00:15:31.200
Warten Sie hier nicht.

00:15:31.720 --> 00:15:35.580
Messen Sie Ihre tatsächlichen Triggeranzahlen und Nutzlastgrößen, bevor Sie sich für ein Preismodell entscheiden.

00:15:35.580 --> 00:15:37.240
Seien Sie vorsichtig beim Umgang mit Speicher.

00:15:37.620 --> 00:15:42.880
Sie benötigen ausreichend Verlauf für Vorfallanalysen und Compliance-Nachweise, aber keine riesige Datenbank voller sensibler Inhalte.

00:15:43.400 --> 00:15:48.280
Behalten Sie die spezifischen Felder, die Entscheidungen begründen und entfernen Sie Ihren nötigen Ballast, der ein Aufbewahrungsrisiko darstellt.

00:15:48.940 --> 00:15:53.280
Zu viel Datenspeicherung kann Ihr Sicherheitstool bei mangelnder Vorsicht zu einem Datenschutzrisiko machen.

00:15:53.820 --> 00:15:56.360
Verknüpfen Sie schließlich all diese Optimierungen mit Ihrer umfassenderen Gavern.

00:15:56.620 --> 00:16:02.580
Ordnen Sie den Workflow, den NIST-AI-RMF-Funktionen wie Messen und Verwalten zu und verknüpfen Sie ihn mit Ihren Vertraulichkeitsbezeichnungen Purview.

00:16:02.580 --> 00:16:08.460
Manchmal ist die beste Lösung kein intelligenterer Detektor, sondern einfach die Begrenzung der Reichweite des Workflows, bevor es zum Problem wird.

00:16:08.920 --> 00:16:12.780
Wenn Sie diesen Punkt erreichen, debattieren Sie nicht mehr nur abstrakt über KI-Sicherheit.

00:16:13.460 --> 00:16:17.460
Sie betreiben ein echtes Betriebsmodell mit Schwellenwerten und Abwägungen, die ein Unternehmen tatsächlich verwalten kann.

00:16:18.000 --> 00:16:20.080
Was sich dadurch für Führungskräfte und Architekten inne.

00:16:20.620 --> 00:16:25.740
Sobald Sie dies implementiert haben, agiert Co-Pilot nicht mehr als blindes Vertrauenssystem und genau hier geschieht der eigentliche Wandel.

00:16:26.240 --> 00:16:31.400
Vor dieser Änderung erhielt das Modell nur einen wirrwarr angemischten Kontexten, während Ihr Team hoffte, dass die richtigen Anweisungen sich durchsetzen.

00:16:31.400 --> 00:16:36.260
Jetzt wird dieser Kontext gefiltert, bewertet und weitergeleitet, bevor das Modell ihn überhaupt berühren kann.

00:16:36.840 --> 00:16:40.640
Das Sicherheitsergebnis ist keine abstrakte Richtlinie mehr, sondern fungiert nun als kontrollierte Ausführung.

00:16:41.220 --> 00:16:44.180
Für Architekten verändert dies den Ort, an dem Sicherheit in Ihrem Design tatsächlich verankert ist.

00:16:45.220 --> 00:16:50.400
Es liegt nicht mehr nur in Mandanteneinstellungen, Berechtigungen oder Promptvorlagen, sondern direkt im Transaktionspfad.

00:16:52.020 --> 00:16:56.400
Jede wichtige Anfrage erhält einen Abfangpunkt und jede sensible Aktion folgt einem spezifischen Entscheidungspfad.

00:16:57.400 --> 00:17:01.380
Das bedeutet, dass jeder neue Connector, Agent oder jedes Plugin als Eingangspfad bewertet wird.

00:17:01.400 --> 00:17:03.260
Und nicht nur als weiteres Produktivitätsfeature.

00:17:03.880 --> 00:17:07.240
Dies ist entscheidend, da Architektur Drift meist der Grund für das Scheitern solcher Programme ist.

00:17:07.820 --> 00:17:14.740
Ein Team führt Co-Pilot für einen Anwendungsfall ein, dann verbindet ein anderes Team ein Formular und schließlich fügt jemand ein Workflow hinzu oder gibt einem Agenten Tool Zugriff.

00:17:15.480 --> 00:17:20.660
Jede dieser Änderungen wirkt für sich genommen klein, aber zusammen schaffen sie einen viel größeren Angriffspfad, als je geplant war.

00:17:20.660 --> 00:17:26.760
Wenn sie keine Abfangmechanismen in ihr Betriebsmodell integrieren, wird sich die Umgebung viel schneller ausdehnen, als ihre Kontrollenschritt halten können.

00:17:27.120 --> 00:17:31.740
Für Sicherheitsverantwortliche löst dieser Ansatz endlich ein komplexes Zuständigkeitsproblem, das die meisten Unternehmen plagt.

00:17:32.300 --> 00:17:35.420
Aktuell fallen Co-Pilot-Risiken meist in die Lücken zwischen verschiedenen Teams.

00:17:36.080 --> 00:17:39.940
Das SOC sieht die Warnungen, die Microsoft 365 Admins sehen die Konfiguration.

00:17:40.360 --> 00:17:42.400
Und dem KI-Verantwortlichen geht es nur um die Akzeptanz.

00:17:42.400 --> 00:17:47.840
Wenn sie einen Logic-Apps-Kontrollpfad nutzen, können all diese Gruppen endlich auf Basis eines gemeinsamen Reaktionsmodells arbeiten.

00:17:48.440 --> 00:17:55.980
Sie nutzen denselben Ereignispfad, dieselbe Bewertungslogik und denselben Verlauf, was die Verwirrung minimiert, wenn ein riskanter Prompt oder ein schädliches Dokument in einem Live-Workflow auftaucht.

00:17:57.000 --> 00:17:59.400
Die geschäftliche Seite ist dabei viel direkter, als die meisten erwarten.

00:18:00.060 --> 00:18:02.940
Eine Bedrohung frühzeitig zu blockieren, ist immer günstiger, als sie später bereinigen zu müssen.

00:18:03.500 --> 00:18:11.220
Bereinigung bedeutet Untersuchungen, rechtliche Prüfungen, Unterbrechungen der Nutzer und endet meist mit einer unangenehmen Runde von Zugriffsprüfungen, die vor dem Deployment hätten stattfinden sollen.

00:18:12.400 --> 00:18:15.620
Führungskräfte brauchen keine lange Vorlesung über KI-Ethik, um das zu verstehen.

00:18:15.740 --> 00:18:20.880
Sie müssen nur erkennen, dass Laufzeitkontrolle weniger kostet, als unkontrollierte Risiken in den täglich genutzten Systemen zuzulassen.

00:18:22.140 --> 00:18:25.020
Für Führungskräfte wirft dies einen unangenehmen Punkt darüber auf, wo Risiken lauten.

00:18:26.360 --> 00:18:30.940
KI-Risiken stecken nicht mehr in einer Sandbox oder einem Pilotprojekt, sondern jetzt in Word, Outlook, SharePoint und Teams.

00:18:32.040 --> 00:18:35.140
Die Leute gehen bereits davon aus, dass diese Bereiche sicher genug für schnelles Arbeiten sind.

00:18:35.200 --> 00:18:37.660
Und genau dieses geliehene Vertrauen erhöht das Risiko für das Unternehmen.

00:18:38.260 --> 00:18:41.920
Ein fehlerhafter Workflow in einer experimentellen App ist ein begrenztes Problem.

00:18:42.340 --> 00:18:45.740
Aber ein Fehler innerhalb Ihrer täglichen Produktivitäts-Suite ist eine ganz andere Geschichte.

00:18:46.720 --> 00:18:48.740
Ihr Rollout-Pfad sollte klein und sehr gezielt bleiben.

00:18:49.160 --> 00:18:51.740
Beginnen Sie mit einem Anwendungsfall, einem Auslöser und einem Bewertungsmodell.

00:18:52.140 --> 00:18:55.900
Wählen Sie einen Pfad, bei dem die Daten wirklich wichtig sind und das Verhalten leicht für Sie zu beobachten ist.

00:18:56.260 --> 00:18:59.580
Sie müssen nachweisen, dass der Workflow riskante Eingaben erkennt und saubere durchleitet,

00:18:59.860 --> 00:19:02.460
während er bei notwendigen Prüfungen den Menschen nützliche Informationen liefert.

00:19:02.940 --> 00:19:05.200
Sobald Sie dies belegt haben, können Sie mit der Erweiterung beginnen.

00:19:05.740 --> 00:19:09.080
Weiter können Sie Anomalieerkennung oder Ausgabekontrollen dort hinzufügen, wo Sie sinnvoll sind.

00:19:09.080 --> 00:19:12.000
Sie können sogar eine tiefergehende Überwachung auf Werkzeugmissbrauch ergänzen,

00:19:12.080 --> 00:19:15.180
aber das erste Tor muss genau dort bleiben, wo der nicht vertrauenswürdige Kontext in das System gelang.

00:19:15.660 --> 00:19:19.880
Wenn dieses erste Tor schwach bleibt, versucht jede spätere Kontrolle nur einen schlechten Ausgangspunkt auszugleichen.

00:19:20.880 --> 00:19:22.260
Der Wandel hier ist eigentlich sehr einfach.

00:19:22.260 --> 00:19:26.020
Hören Sie auf, Prompt Injection als bloßes Formulierungsproblem zu behandeln

00:19:26.020 --> 00:19:29.600
und betrachten Sie es als Laufzeitkontrolle über nicht vertrauenswürdigen Kontext im Co-Pilot.

00:19:30.520 --> 00:19:33.640
Nehmen Sie sich diese Woche die Zeit, einen Co-Pilot-Workflow von Anfang bis Ende abzubilden.

00:19:34.100 --> 00:19:37.500
Finden Sie den letzten sicheren Abfangpunkt vor der Ausführung und erstellen Sie eine Logik-App,

00:19:37.580 --> 00:19:39.980
die diesen spezifischen Pfad bewertet, blockiert und protokolliert.

00:19:40.640 --> 00:19:42.720
Wenn Sie mehr über Co-Pilot-Sicherheit ohne Schnickschnack erfahren möchten,

00:19:42.900 --> 00:19:44.540
abonnieren Sie den Kanal und hinterlassen Sie eine Bewertung.

00:19:44.540 --> 00:19:47.160
Sie können sich auch auf LinkedIn mit mir, Mirko Peters, vernetzen,

00:19:47.240 --> 00:19:50.420
um mir von einem spezifischen Mandanten-Szenario zu berichten, das Sie absichern möchten.
