Votre problème copilote n'est pas vraiment un problème de fonctionnalité. C'est un problème de confiance dans le modèle qu'il sous-tend. La plupart des équipes pensent encore que la sécurité réside dans les invites, les autorisations et quelques filtres en périphérie. Mais voilà, les attaquants n'ont pas besoin de contourner votre invite, ils ont juste besoin d'empoisonner le contexte qui l'entoure, et c'est là que les choses se gâtent. Les filtres de base peuvent détecter des éléments indésirables évidents, mais ils ne voient pas la charge utile cachée dans un email, un fichier SharePoint ou un champ de formulaire. Ce contenu récupéré reste là, tranquillement, jusqu'à ce que copilote l'intègre et le traite comme une instruction directe. Nous avons déjà vu des signes avant-coureurs avec la fuite Echo dans Microsoft 365 Copilot et la fuite Share dans Copilot Studio, et la réalité est que les correctifs n'ont pas mis fin à ce schéma. Étant donné que Copilot peut rechercher, résumer et agir dans l'ensemble votre environnement Microsoft 365, un mauvais chemin d'instruction peut se propager rapidement. Il ne s'agit donc pas d'ajouter un autre tableau de bord à votre pile, mais de placer Azure Logic App sur le chemin pour inspecter, noter et bloquer les charges utiles malveillantes avant même que Copilot ne s'exécute. Le véritable danger réside dans l'architecture, pas dans la vie. L'ancien modèle part du principe que vous pouvez assurer la sécurité du système en écrivant de meilleures instructions autour du modèle. Vous lui donnez une invite système forte, vous ajoutez des délimiteurs et vous dites aux utilisateurs ce qu'ils ne doivent pas faire. Cela semble logique sur le papier, mais en réalité, le modèle n'applique pas de limites de confiance comme le ferait un système de sécurité, car il lit le langage dans un canal partagé où les instructions et les données se disputent l'attention. Cette hypothèse est la faille. Si un modèle ne peut pas faire la différence de manière fiable entre un utilisateur demandant de l'aide et un document en lui demandant discrètement d'ignorer les instructions précédentes, alors le point de contrôle ne peut pas se limiter à la couche d'invite. Vous essayez de sécuriser le comportement à la périphérie tandis que le risque réel réside dans le flux de contexte entrant dans le modèle. Cela fait-il pour de nombreuses équipes lorsque les charges de travail copilotent, nécessitant beaucoup de récupération. Dès que Copilot commence à extraire des emails, des fichiers, l'historique des discussions de Microsoft Graph, la surface d'attaque change complètement. Vous ne vous contentez plus de sécuriser une conversation, vous sécurisez un flux en direct d'entrée de confiance mixte. Et à un niveau plus bas, Copilot augmente sa portée. Il ne se contente pas de répondre aux questions, il récupère, résume et suit les références. Dans certaines configurations, il peut même déclencher des outils ou des travails. Ainsi, lorsque du contenu non fiable entre dans cette chaîne, le modèle peut transmettre cette influence à des actions sensibles. C'est pourquoi l'injection indirecte d'invite est si importante à l'heure actuelle. Dans les systèmes de production, l'attaque courante n'est pas toujours un utilisateur qui tape ignorer vos règles dans la boîte de discussion. La version la plus dangereuse se trouve dans le contenu récupéré souvent des semaines avant même que quiconque ne remarque sa présence. Un document empoisonné, un email fabriqué ou une entrée de formulaire peuvent sembler inoffensives pour les humains, mais ils contiennent un langage d'instruction visant directement le modèle. Plus tard, copilote récupère ce contenu en tant que contexte pertinent. Le mélange avec du matériel fiable et le modèle suit la mauvaise chose. La chaîne d'attaque est simple, et c'est ce qui la rend dangereuse. Tout d'abord, l'attaquant place du contenu à un endroit auquel copilote peut accéder. Ultérieurement, puis la récupération amène ce contenu dans la session, puis le modèle traite la charge utile comme une instruction plutôt que comme des données. Après cela, il peut commencer à organiser des informations sensibles, à façonner des réponses ou à pousser des données vers un chemin d'exfiltration via des liens ou l'utilisation de l'outil via des liens. Ainsi, pour les dirigeants, il ne s'agit pas seulement d'hygiène de l'IA, mais d'un contrôle d'exécution directement lié à la gouvernance des accès. Si copilote a une large portée sur le locataire et que le modèle consomme un contexte de confiance mixte sans séparation stricte, votre modèle de sécurité doit alors tenir compte de ce qui entre dans le flux, avant les flux, avant l'exécution. Une fois que vous voyez cela, la correction change également. Vous cessez de vous focaliser sur des invites parfaites, et vous commencez à placer l'application là où le contexte évolue. Pourquoi les défenses de base échouent en production ? La plupart des équipes font une erreur fondamentale dès le début. Elles supposent que les contrôles de sécurité qu'elles utilisent depuis des années dans le développement d'applications fonctionneront tout aussi bien pour Copilot. Ils écrivent une envie de système plus forte, enveloppent les entrées utilisateurs dans des caractères spéciaux et publient des directives pour les employés, puis ils se sentent en sécurité. Ces étapes ne sont pas mauvaises, et je ne vous dirai pas d'arrêter de les suivre, mais elles ne créent pas de véritables limites de sécurité. Elles essaient simplement de persuader le modèle de bien se comporter, et en matière de sécurité, la persuasion n'est pas la même chose que l'application. C'est là que réside la lacune. Une envie de système indique au modèle ce que vous préférez faire, mais elle ne peut pas empêcher un fichier malveillant de rivaliser pour attirer l'attention du modèle une fois que ce fichier est inséré dans l'espace de travail. L'utilisation de délimiteurs peut aider à structurer le texte, mais elle ne donne pas au modèle un moyen de vérifier les habilitations de sécurité. Les directives pour les employés sont excellentes pour éviter les erreurs honnêtes, mais elles ne font absolument rien contre un document empoisonné ou une charge utile cachée se trouvant dans vos données récupérées. Le contrôle existe sous forme de suggestion, pas comme une règle stricte qui s'exécute lors de l'exécution. Rejax présente un problème similaire. C'est rapide et peu coûteux, il vaut donc la peine de l'utiliser comme un premier passage rapide. Si un utilisateur tape « Ignorer toutes les instructions précédentes », votre système devrait détecter cela en quelques millisecondes. Vous pouvez également l'utiliser pour signaler des phrases évidentes de contrôlement de la confidentialité ou des caractères de style SQL dans vos arguments d'outils. Cette partie fonctionne bien, mais Rejax ne reconnaît que les modèles que vous avez déjà définis. Elle échoue donc lorsque la formulation change légèrement ou lorsque l'attaque est basée sur le sens plutôt que sur des mots spécifiques. C'est pourquoi vous avez besoin de couches de classificateurs. Azure AI Content Safety dispose de bouclés d'invites qui peuvent détecter les attaques par injection directe et indirecte. Dans une application logique, vous pouvez appeler une API pour vérifier l'invite avant que le modèle ne la voie, puis modifier le chemin du workflow si une attaque est détectée. Il s'agit d'un contrôle beaucoup plus puissant qu'une simple correspondance de chaîne car ils recherchent l'intention derrière les mots dans l'invite et les documents ensemble. Même dans ce cas, la détection ne suffit pas à elle seule, car voir un risque n'a pas d'importance si vous n'avez pas de moyens de l'arrêter. Les équipes de sécurité sous-estiment souvent cette partie spécifique du processus. Un avertissement dans un fichier journal n'est pas un confinement et une jolie vignette de tableaux de bord n'est pas non plus un confinement. Même une alerte de priorité élevée dans votre CM échoue si la charge utile a déjà transité par copilote et déclenché une action dans un système en aval. Examiner ce qui s'est passé après coup est utile pour une enquête, mais ce n'est pas suffisant lorsqu'une attaque survient en quelques secondes. Vous avez affaire à un modèle qui peut agir à l'intérieur de ce système auquel votre organisation fait déjà confiance. Il existe également un problème de faux négatif que la plupart des spécialistes du marketing produisent. Les attaques indirectes sont à l'origine d'une grande partie des détections manquées dans le monde réel car l'instruction dangereuse semble parfaitement normale jusqu'à ce que le modèle la combine avec le reste de la conversation. Au moment où un humain examine la sortie et se rend compte que quelque chose ne va pas, la mauvaise entrée a déjà terminé son travail. L'erreur pratique ici est très simple. Les équipes passent tout leur temps à surveiller ce que dit copilote mais elles ne contrôlent pas ce qui y entre avec le même niveau de discipline. Elles inspectent la réponse après qu'elle a été générée tout en laissant entrer des éléments non fiables avant que le travail ne commence. Cet ordre est complètement inversé. Une fois que vous avez identifié cette faille, tout l'objectif de votre stratégie de sécurité change. Vous cessez de vous demander comment écrire une invite plus sûre et commencez à vous demander où vous pouvez intercepter les données avant l'exécution du modèle. Le modèle Logica Firewall Si l'interception est l'objectif, nous devons examiner à quoi ressemble réellement ce contrôle dans la pratique. Vous devez utiliser Azure Logic Apps comme couche de stratégie qui se trouve en amont de la phase d'exécution. Il ne doit pas s'agir d'un outil passif qui envoie un rapport une fois que le dommage est fait. Vous devez le placer directement dans le chemin où les données saisies et récupérées par l'utilisateur sont en direct afin qu'elles puissent être inspectées avant que le modèle ne se mette au travail. Ce changement est puissant car les applications sont conçues pour l'orchestration. Elles peuvent se déclencher sur des événements spécifiques, appeler d'autres API et prendre des décisions en fonction de conditions complexes. Vous pouvez acheminer des données, envoyer des alertes à Microsoft Sentinel et enrichir le processus avec des informations externes sans créer de passerelles de sécurité personnalisées à partir de zéro. Vous n'essayez pas de remplacer copilote ici. Vous insérez simplement une couche de contrôle dans le flux qui l'entoure. La logique derrière ce modèle est volontairement simple. D'abord, vous déclenchez le processus, puis vous normalisez les données. Vous l'inspectez, évaluez le risque, prenez une décision et enfin acheminez ou consignez le résultat. C'est le modèle complet. Lorsqu'une requête ou un élément de contenu entre dans le flux de travail, l'application logique extrait cette charge utile et la standardise. Les entrées brutes sont généralement désordonnées car les différents connecteurs gèrent les données de différentes manières. Un email n'a pas la même apparence qu'une entrée de formulaire et le contenu d'un fichier où les arguments d'un outil sont tous accompagnés de métadonnées et de champs différents. Si vous essayez d'exécuter une inspection avant de normaliser ces données, votre système de détection c'est là que votre expression régulière personnalisée a encore du travail à fait. Ce n'est pas le juge final ni une solution miracle, mais elle fonctionne comme un fil très rapide à la périphérie de votre système. Vous pouvez rapidement rechercher un langage de remplacement connu, des indices d'encodage ou des modèles suspects dans les paramètres de l'outil pour vous permettre un tri instantané de la situation. Vous passez ensuite à la deuxième passe d'inspection qui va beaucoup plus loin dans le contenu. C'est là que vous appelez les boucliers d'invites de sécurité du contenu Azure AI. L'application logique envoie l'invite utilisateur et tous les documents récupérés à l'API puis se divisent en fonction de la détection ou non d'une attaque. Cela est important car les injections d'invites ne ressemblent pas toujours à du code informatique évident. Parfois, le danger ne devient évident que lorsque l'invite et le document sont évalués comme une seule et même unité. Il existe une couche supplémentaire qui transforme ce simple filtre en un véritable contrôle de sécurité, à savoir la veille sur les menaces. Si un élément de contenu fait référence à un domaine malveillant connu ou à une URL suspecte que votre équipe a déjà vu, cela devrait modifier votre décision. Les applications logiques peuvent vérifier l'événement par rapport aux informations sur les menaces de Defender ou à d'autres flutières pour ajouter un score de confiance au risque. Pour ajouter un score de confiance au risque, cela signifie qu'un modèle étrange provenant d'une source fiable peut être autorisé à passer, tandis que ce même modèle associé à un score de réputation hostile est immédiatement bloqué et... Cela transforme votre arbre de décision en quelque chose de plus qu'un simple choix oui ou non. Vous pouvez autoriser la demande si le score de risque est faible ou vous pouvez la nettoyer en supprimant les fragments dangereux. Vous pouvez choisir de mettre les données en quarantaine si la source nécessite un examen manuel. Si l'action implique des données sensibles, vous pouvez même exiger qu'un humain la prouve vous bloquez simplement la demande et déclenchez une alerte. C'est cette gamme d'options qui fait que ce modèle fonctionne réellement pour une entreprise. Les équipes de sécurité freinent souvent l'adoption car elles refusent tous les cas qui semblent légèrement incertains et lorsque les contrôles sont trop stricts et les gens trouvent des moyens de les contourner. Un flux de travail noté vous donne la possibilité de réagir en fonction du risque réel plutôt que de paniquer. C'est exactement pourquoi Logic Apps est plus adapté qu'un ensemble d'outils distincts. Il se connecte déjà au reste de l'écosystème Microsoft et fonctionne parfaitement avec les playbooks Sentinelle. Vous pouvez demander une vérification et envoyer des événements d'audit au même endroit. Vous n'avez pas besoin d'un long cycle de développement à chaque fois qu'un attaquant modifie sa formulation ou qu'une nouvelle façon d'entrer dans le système apparaît. La règle qui fait que tout cela fonctionne est très simple. Vous devez traiter chaque élément de contexte comme non fiable jusqu'à ce qu'il ait été noté. Cela ne concerne pas seulement l'invite utilisateur mais également le corps de l'email, le fichier téléchargé et le champ de formulaire SharePoint. Cela inclut la charge utile du connecteur, les fragments de documents récupérés et même les arguments de l'outil. Tout cela doit être vérifié. Dès que vous supposez que l'une de ces sources est sûre par défaut, vous avez créé une nouvelle faille qu'un attaquant peut exploiter. Une fois que votre flux de travail applique cette règle de manière cohérente, vous n'avez plus besoin de compter sur Copilot pour séparer les bonnes données des mauvaises données par lui-même. Le processus devient un système d'entrée contre eux. Sur le papier, cela semble être une excellente théorie mais ce qui intéresse vraiment les gens, c'est ce qui se passe lorsqu'une charge utile dangereuse atteint réellement le flux de travail dans le monde réel. Ce que fait réellement le flux de travail au moment de l'exécution, lorsque le système est mis en service, c'est qu'il ne se contente pas d'analyser le texte à la recherche de gros mots. Il construit une image complète de la requête avant qu'une décision ne soit prise. Un événement atteint votre point d'entrée. Peut-être une soumission de formulaire, un flux d'email ou un téléchargement de documents liés à un processus Copilot et Logic Apps encapsule immédiatement cet événement avec des métadonnées. Il suit qui a envoyé la requête, quelle application l'a touchée, d'où provient le fichier et ce que le système s'apprête à faire ensuite. Ce contexte supplémentaire est essentiel car la même phrase peut signifier quelque chose de complètement différent selon sa provenance. Une fois ces données capturées, la charge utile est divisée en zones de confiance spécifiques. Vous devez maintenir une séparation claire. L'invite utilisateur va dans un compartiment, les documents récupérés dans un autre et l'historique des conversations ou les paramètres de l'outil ont leur propre espace. Si vous mélangez tout cela trop tôt, vous ne pouvez plus déterminer où une instruction risquée a réellement commencé et votre processus de révision se transforme en une estimation totale. De nombreuses équipes ignorent cette étape car tout combiné semble plus rapide mais en réalité, cela ne fait que masquer le chemin à suivre. Ensuite, le flux de travail passe à la normalisation. C'est la partie ennuyeuse du travail mais c'est aussi ce qui rend votre détection réellement utilisable. Vous devez supprimer le balisage qui ajoute du bruit, décoder l'encodage du RL ou les traces en base 64 et aplatir les champs, imbriquer afin que l'inspection s'exécute par rapport à la forme stable. Si un connecteur envoie du texte enrichi tandis qu'un autre envoie des fragments de JSON, vous souhaitez qu'ils soient tous réduits en champs que vos contrôles peuvent lire de manière cohérente. Sans cela, votre logique passe plus de temps à lutter contre la dérive de format qu'à détecter les attaques réelles. Une fois les données nettoyées, le passage de modèles rapides s'exécute en premier. Cela doit être peu coûteux, direct et rapide. Vous recherchez des phrases qui tentent de remplacer le comportement du système comme des variantes, d'ignorer toutes les instructions précédentes ou de remplacer le système. Vous recherchez également un langage d'extraction dans lequel quelqu'un demande à révéler des éléments confidentiels, à vider des secrets ou à contourner les paramètres de confidentialité. Dans les applications logiques, les équipes gèrent généralement cela via des expressions ou composent des étapes qui définissent des indicateurs plutôt que de bloquer la demande immédiatement à chaque occurrence à chaque occurrence. Ce signalement est important car une seule phrase ne signifie pas toujours que quelqu'un est abusif. Une personne travaillant dans un flux de travail de sécurité valide peut littéralement avoir besoin de demander à examiner la gestion du contenu confidentiel. Pour résoudre ce problème, le flux de travail envoie la charge utile plus riche au bouclier d'invites de sécurité du contenu Azure et AI pour un examen plus approfond. L'appel d'API inclut à la fois l'invite utilisateur et les documents récupérés car la relation entre eux est généralement là où se cache le véritable problème. Le service renvoie un signal simple et si une attaque est détectée, le workflow modifie simplement le chemin avant même que l'appel du modèle ne se produise. Vous devez ensuite ajouter un contexte extérieur. Les recherches de renseignements sur les menaces offrent le workflow une autre perspective à travers laquelle il peut. Vous pouvez interroger les renseignements sur les menaces de Microsoft Defender ou toute autre source d'accès de confiance pour vérifier les domaines, les URL ou les indicateurs de source associés à un abus. Vous devez extraire les scores de confiance lorsqu'ils sont disponibles car la réputation d'une source doit influencer le score final et non le remplacer entièrement. Une charge utile faible provenant d'une source à risque doit toujours être mieux classée que cette même charge utile provenant d'un processus interne bien compris. Enfin, le système établit un score composite. Il examine la force de frappe du modèle, le résultat des protections d'invite, la réputation de la source et la sensibilité de l'action demandée. Une demande à faible risque visant à résumer un article public n'a pas le même poids qu'une demande susceptible d'exposer des fichiers protégés. Ce score combiné est ce qui pilote la branche. Les événements propres se poursuivent comme prévu. Les cas à risque moyen sont nettoyés ou acheminés vers une solution de secours sûre. Les cas à risque élevé sont bloqués avant même que copilote ne s'exécute. Tout est consigné dans une piste d'audit, le chemin de décision étant préservé. Ces événements bloqués vous indiquent où la pression monte et quelles sources continuent de poser problème. Lorsque vous voyez quel schéma se blisse dans vos flux de travail métier, vous disposez enfin des données dont vous avez besoin pour ajuster le système pour la prochaine étape. Comment ajuster pour un fonctionnement silencieux et une utilisation professionnelle ? Une fois que le système est en cours d'exécution, la nature du travail change. La création du flux est en fait la partie la plus facile. L'ajuster pour que les gens lui fassent confiance et n'essaient pas de trouver des solutions de contournement est-ce qu'ils décident si cela devient un véritable contrôle de sécurité ou juste une autre expérience ratée ou juste une autre expérience ratée. Si le système crée trop de friction, les utilisateurs trouveront simplement un moyen de le contourner, ce qui rendra l'ensemble du projet inutile. Vous devriez commencer de manière estre. N'essayez pas de surveiller chaque point de contact copilote dès le premier jour. Choisissez plutôt les endroits où le risque est le plus élevé et où le chemin est clair, comme les actions activées par des outils ou les sources de données à forte valeur ajoutée. Vous pouvez commencer par un processus basé sur SharePoint ou un flux de travail de formulaire spécifique pour obtenir un signal que vous pouvez réellement lire. Une portée limitée vous donne la possibilité d'apprendre sans vous noyer dans les données. Lorsque vous configurez vos vérifications initiales, ajustez vos rejets en fonction du rappel plutôt que de la certitude absolue. Le premier passage est censé détecter rapidement les propos suspects et non prouvés d'intentions malveillantes au-delà de tout doute raisonnables. pour signaler un peu au début puis de laisser les vérifications ultérieures ajouter du contexte pour réduire le bruit. C'est pourquoi la notation est plus importante que les résultats uniques. Une correspondance de phrase à elle seule ne devrait pas toujours tuer une requête. Mais lorsque vous combinez cette correspondance avec un indicateur de bouclier d'invite et une source risquée, la situation change. Les signaux faibles doivent s'empiler les uns sur les autres et les signaux forts doivent accélérer le blocage. C'est la différence fondamentale entre un filtre rigide et ennuyeux et un modèle de politique qui fonctionne réellement pour une entreprise. Vous devez également fixer un plafond pour les faux positifs. Essayez de le maintenir en dessous de 2% car une fois que les gens sentent que le contrôle bloque leur travail normal, ils cesseront de faire confiance au système. C'est là que les solutions de contournement commencent. Les utilisateurs copieront du texte un des outils non gérés, les équipes créeront des flux fantômes, les administrateurs commenceront à demander des exclusions générales. Le contrôle s'effondrera de l'intérieur, non pas parce que la détection a échoué mais parce que les frictions sont devenues trop difficiles à gérer. Pour éviter cela, vous devez surveiller les bonnes mesures. Oubliez les tableaux de bord personnalisés et concentrez-vous sur le temps moyen de détection. Vous devez le maintenir en dessous de 15 minutes pour tout ce qui nécessite une vérification manuelle. Vous devez également suivre votre temps de confinement automatisé et viser moins de 5 minutes lorsque le blocage peut être effectué en toute sécurité. Si le flux de travail se déclenche en permanence mais n'influence jamais réellement une décision, ce n'est que du bruit. Le coût est un autre facteur qui doit être constamment ajusté. Les applications logiques basées sur la consommation sont idéales pour les charges de travail en rafale ou les petits pilotes car vous ne payez que pour ce que vous exécutez. Cependant, le plan standard est plus judicieux une fois que votre volume d'événements est prévisible et suffisamment élevé pour que les coûts par exécution commencent à faire mal. Ne vous fiez position. Mesurez le nombre réel de déclencheurs et la taille de la charge utile avant de vous engager dans un modèle de tarification. Soyez prudent dans la manière dont vous gérez stocker. Vous avez besoin d'un historique d'exécution suffisant pour les examens des incidents et les preuves de gouvernance mais vous n'avez pas besoin d'une base de données volumineuse remplie de contenu sensé. Conservez les champs spécifiques qui expliquent pourquoi une décision a été prise et supprimez le désordre qui crée un risque de rétention. Stocker trop de données peut transformer votre outil de sécurité en un risque de confidentialité si vous ne faites pas attention. Enfin, reliez tous ces réglages à votre gouvernance plus large. Mapez le flux de travail aux fonctions RMF de l'IA du NIST telles que mesurer et gérer et associez-le à vos étiquettes de sensibilité des données dans le champ d'application. Parfois, la meilleure solution n'est pas un détecteur plus intelligent mais simplement de supprimer la portée inutile du flux de travail avant qu'elle ne devienne un problème, un problème. Lorsque vous atteignez ce stade, vous ne débattez plus de la sécurité de l'IA dans l'abstrait. Vous exécutez un véritable modèle d'exploitation avec des seuils et des compromis qu'une entreprise peut réellement gérer. Ce que cela change pour les dirigeants et les architectes. Une fois que vous avez mis cela en place, Coppileau cesse d'agir comme un système de confiance aveugle et c'est là que le véritable changement se produit. Avant ce changement, le modèle ne recevait qu'un fouille de contexte mixte alors que votre équipe espérait que les bonnes instructions l'emporteraient. Désormais, ce contexte est filtré, noté et acheminé avant même que le modèle n'ait la possibilité de le toucher. Le résultat en matière de sécurité n'est plus une simple politique abstraite car il fonctionne désormais comme une exécution contrôlée. Pour les architectes, cela se déplace là où la sécurité réside réellement dans votre conception. Elle ne se trouve plus uniquement dans les paramètres du locataire, les autorisations ou les modèles d'invite mais directement dans le chemin de la transaction. Chaque requête importante obtient un point d'interception et chaque action sensible suit un chemin devient quelque chose que vous évaluez comme un chemin d'entrée plutôt que comme une simple fonctionnalité de productivité. Ceci est essentiel car la dérive de l'architecture est généralement la raison pour laquelle ces programmes échouent. Une équipe déploie copilote pour un cas d'utilisation unique puis une autre équipe connecte un formulaire et finalement quelqu'un ajoute un flux de travail ou donne accès à un outil d'agent. Chacun de ces changements semble mineur en soi mais ensemble, il crée un chemin d'attaque bien plus vaste que quiconque ne l'avait jamais prévu. Si vous n'intégrez pas l'interception dans votre modèle d'exploitation, l'environnement va se développer beaucoup plus vite que vos contrôles ne peuvent suivre. Pour les responsables de la sécurité, cette approche résout enfin un problème de propriété complexe qui afflige la plupart des organisations. Actuellement, le risque lié à copilote se situe généralement entre les différentes équipes. Le SOC voit les alertes, les administrateurs Microsoft 365 voient la configuration et le propriétaire de l'IA ne se soucie que de l'adoption. Lorsque vous utilisez un chemin de contrôle Logic Apps, tous ces groupes peuvent enfin travailler à partir d'un modèle de réponse unique. Ils utilisent la même piste d'événement, la même logique de notation et le même historique de branches qui réduit la confusion totale lorsqu'une invite risquée ou un document toxique apparaît dans un flux de travail en direct. L'aspect commercial de cette approche est bien plus direct que ce que les gens pensent. Bloquer une menace tôt est toujours moins coûteux que d'essayer de la nettoyer plus tard. Le nettoyage implique des enquêtes, des examens juridiques et des interruptions de la part des utilisateurs et il se termine généralement par une série de contrôles d'accès qui aurait dû avoir lieu avant même le déploiement. Les dirigeants n'ont pas besoin d'un long cours sur l'éthique de l'IA pour comprendre cela car ils ont juste besoin de voir que le contrôle de l'exécution coûte moins cher que de laisser un risque non géré se propager dans les systèmes que leur personnel utilise au quotidien. Pour les dirigeants, cela soulève un point délicat concernant la nature du risque. Le risque lié à l'IA ne se trouve plus dans un bac à sable ou en laboratoire pilote mais il se trouve désormais dans World, Outlook, SharePoint et Teams. Les gens partent déjà du principe que ces endroits sont suffisamment sûrs pour évoluer rapidement et cette confiance empruntée est exactement ce qui fait monter les enjeux pour l'entreprise. Un mauvais flux de travail dans une application expérimentale est un problème contenu mais un mauvais flux de travail dans votre pile de productivité quotidienne est une toute autre histoire. Votre chemin de déploiement doit rester restreint et très délibéré. Commencez par un cas d'utilisation, un déclencheur et un modèle de notation. Choisissez un chemin où les données sont réellement importantes et où le comportement est facile à observer. Vous devez prouver que le flux de travail détecte les entrées risquées et achemine les entrées saines tout en fournissant aux humains quelque chose d'utile lorsqu'une révision est nécessaire. Une fois que vous avez prouvé que cela fonctionne, vous pouvez commencer à développer. Plus tard, vous pouvez ajouter la détection des anomalies ou des contrôles de sortie là où ils conviennent. Vous pouvez même ajouter une surveillance plus approfondie pour détecter les abus d'outils mais vous devez maintenir la première porte juste là où le contexte non fiable entre dans le système. Si cette première porte reste faible, chaque contrôle que vous ajouterez par la suite ne fera qu'essayer de compenser un mauvais point de départ. Le changement est en fait très simple. Arrêtez de traiter l'injection rapide comme s'il s'agissait simplement d'un problème de formulation et commencez à la traiter comme un contrôle d'exécution sur un contexte non approuvé transitant par copilote. Prenez le temps de cartographier un workflow copilote de bout en bout cette semaine. Trouvez le dernier point d'interception sûr avant l'exécution et une application logique qui note, bloque et consigne ce chemin spécifique. Si vous souhaitez en savoir plus sur la sécurité de copilote sans fioriture, abonnez-vous et laissez un avis. Vous pouvez également me contacter Mircopiter sur LinkedIn pour me parler du scénario de locataire spécifique que vous essayez de sécuriser.