Prevenir o Shadow IT em Programas de Agentes de IA no Microsoft Foundry

Microsoft Foundry se destaca como uma plataforma poderosa para desenvolver agentes de IA autônomos. Sua capacidade de simplificar cargas de trabalho de IA a torna atraente para organizações que buscam inovar. No entanto, é preciso reconhecer que essa mesma acessibilidade pode dar origem ao próximo risco de shadow IT. Quando usuários criam e implantam aplicações sem supervisão formal, podem expor inadvertidamente dados sensíveis ou violar regulamentações de conformidade. Os recursos de integração do Foundry complicam ainda mais essa questão, especialmente em ambientes corporativos onde a governança rigorosa é essencial. Ao manter-se atento e gerenciar esses riscos de forma proativa, você pode aproveitar o poder do Foundry e, ao mesmo tempo, proteger sua organização.

Principais Conclusões

• O Microsoft Foundry facilita a criação de agentes de IA pelos usuários, mas essa facilidade pode levar a riscos de shadow IT se não for devidamente gerenciada.
• O uso não supervisionado do Foundry pode expor dados sensíveis e causar problemas de conformidade devido à falta de supervisão e a permissões excessivas.
• Os recursos de integração do Foundry aumentam a funcionalidade, mas também elevam os riscos de segurança, especialmente se os controles de dados forem contornados ou os dados forem compartilhados de forma inadequada.
• Os desafios de governança incluem decidir como priorizar, padronizar e proteger o uso do Foundry, além de esclarecer a responsabilidade pelos resultados.
• Sinais de uso não gerenciado do Foundry incluem aplicações não aprovadas e preocupações dos usuários; ferramentas de monitoramento, como análises de uso e análise de tráfego de rede, ajudam a detectar riscos.
• Estabeleça políticas claras e processos de aprovação para orientar o uso seguro do Foundry e impedir que aplicações não autorizadas acessem dados sensíveis.
• Auditorias regulares e relatórios melhoram a visibilidade das atividades do Foundry, ajudando a rastrear ações e manter a conformidade.
• O treinamento dos usuários e a comunicação aberta capacitam as equipes a seguir as regras de governança, reconhecer riscos e reduzir efetivamente o shadow IT.

Acessibilidade e Riscos do Foundry

O Microsoft Foundry reduz significativamente as barreiras para a criação de cargas de trabalho de IA. Seus recursos de capacitação do usuário permitem que indivíduos desenvolvam agentes autônomos rapidamente. Essa capacidade de autoatendimento possibilita que os usuários criem aplicações sem necessidade de amplo conhecimento técnico. No entanto, essa facilidade de uso pode levar a consequências não intencionais.

Recursos de Capacitação do Usuário

Capacidades de Autoatendimento

Com o Foundry, você pode criar agentes que funcionam de forma independente. Essa independência aumenta sua capacidade de inovar, mas também eleva o risco de shadow IT. Por exemplo, agentes podem acessar dados sensíveis sem supervisão. Essa falta de supervisão levanta preocupações sobre conformidade e segurança. A implantação rápida de aplicações sem governança adequada pode gerar vulnerabilidades.

Facilidade de Uso

A interface intuitiva da plataforma permite que os usuários naveguem e utilizem seus recursos com facilidade. Embora isso promova a criatividade, também pode fazer com que as equipes de segurança desconheçam as aplicações criadas. Dados sensíveis podem ser processados sem nenhuma supervisão, levando a possíveis usos indevidos. Agentes podem operar com permissões excessivas, complicando ainda mais o cenário de segurança.

Integração com Sistemas Existentes

Os recursos de integração do Foundry aprimoram sua funcionalidade, mas também representam riscos para a segurança dos dados corporativos.

Acessibilidade de APIs

A plataforma oferece acessibilidade robusta por meio de APIs, permitindo a integração contínua com sistemas existentes. No entanto, essa acessibilidade introduz riscos. Por exemplo, aplicações podem contornar controles de dados lendo dados com o token de um usuário e gravando com o token de outro. É fundamental respeitar os recursos avançados de autorização de usuários do Foundry para evitar ações não autorizadas.

Descrição do Risco	Exemplo
Contornar controles de dados	Ler dados com o token de um usuário e gravar de volta com o token de outro. O Foundry possui recursos avançados de autorização de usuários que devem ser respeitados.
Executar ações sem a compreensão e o consentimento do usuário	As aplicações devem descrever claramente as ações executadas com a conta de um usuário do Foundry e solicitar apenas as permissões necessárias.
Recuperar ou armazenar dados fora do Foundry sem controle de acesso adequado	As aplicações devem evitar armazenar dados recuperados do Foundry e respeitar a sensibilidade desses dados.

Opções de Compartilhamento de Dados

O compartilhamento de dados no Foundry pode impactar a conformidade com as regulamentações de proteção de dados. A plataforma integra as equipes de negócios e de conformidade, possibilitando a colaboração e o acompanhamento dos processos de aprovação. Essa integração reduz atritos e garante que os fluxos de conformidade sejam seguidos. Controles de acesso granulares acompanham os dados ao longo das transformações, limitando o acesso às necessidades legítimas e minimizando a exposição acidental.

Shadow IT e os Desafios de Governança do Foundry

Ao explorar os recursos do Microsoft Foundry, você também deve considerar os desafios de governança decorrentes de seus agentes autônomos. Esses desafios podem levar a riscos significativos se não forem gerenciados. Compreender esses riscos é essencial para manter a integridade dos dados da sua organização e os esforços de conformidade.

Riscos do Uso Não Gerenciado do Foundry

Vulnerabilidades de Segurança de Dados

O uso não gerenciado do Foundry pode expor sua organização a sérias vulnerabilidades de segurança de dados. Quando usuários criam agentes sem supervisão, podem permitir inadvertidamente o acesso a dados sensíveis. Essa falta de controle pode levar a vazamentos de dados e à exfiltração não autorizada de informações. Você pode descobrir que agentes operam com permissões excessivas, o que aumenta o risco de exposição de dados.

As organizações costumam enfrentar vários desafios de governança ao usar o Foundry, incluindo:

• Decisão de priorização: determinar quais processos de negócios devem utilizar a capacidade do Foundry diante de um longo backlog.
• Decisão de padronização: decidir quais recursos do Foundry devem ser padronizados em toda a empresa e quais devem permanecer especializados.
• Decisão de nível de serviço: estabelecer expectativas de confiabilidade e desempenho para o Foundry com base em diferentes casos de uso.
• Decisão de risco: definir a postura de segurança, privacidade e conformidade que sua organização adotará.
• Decisão de responsabilização: esclarecer a propriedade dos resultados quando as iniciativas do Foundry não atenderem às expectativas.

Desafios de Conformidade