Prevenir el Shadow IT en los Programas de Agentes de IA de Microsoft Foundry

Microsoft Foundry se destaca como una plataforma potente para desarrollar agentes de IA autónomos. Su capacidad para simplificar las cargas de trabajo de IA la hace atractiva para las organizaciones que buscan innovar. Sin embargo, debe reconocer que esa misma accesibilidad puede dar lugar al próximo riesgo de TI en la sombra. Cuando los usuarios crean e implementan aplicaciones sin supervisión formal, pueden exponer datos sensibles o incumplir normativas de cumplimiento sin darse cuenta. Las capacidades de integración de Foundry complican aún más este problema, especialmente en entornos empresariales donde la gobernanza estricta es esencial. Si se mantiene consciente y gestiona estos riesgos de forma proactiva, podrá aprovechar el potencial de Foundry y proteger al mismo tiempo su organización.

Conclusiones clave

• Microsoft Foundry facilita a los usuarios la creación de agentes de IA, pero esta facilidad puede generar riesgos de TI en la sombra si no se gestiona adecuadamente.
• El uso no supervisado de Foundry puede exponer datos sensibles y provocar problemas de cumplimiento debido a la falta de supervisión y a permisos excesivos.
• Las funciones de integración de Foundry aumentan la funcionalidad, pero también elevan los riesgos de seguridad, especialmente si se eluden los controles de datos o los datos se comparten de forma indebida.
• Los desafíos de gobernanza incluyen decidir cómo priorizar, estandarizar y asegurar el uso de Foundry, y aclarar la responsabilidad sobre los resultados.
• Entre las señales de un uso de Foundry no gestionado se encuentran las aplicaciones no aprobadas y las inquietudes de los usuarios; las herramientas de monitoreo, como los análisis de uso y el análisis del tráfico de red, ayudan a detectar riesgos.
• Establezca políticas claras y procesos de aprobación para orientar un uso seguro de Foundry y evitar que aplicaciones no autorizadas accedan a datos sensibles.
• Las auditorías y los informes periódicos mejoran la visibilidad de las actividades en Foundry, lo que ayuda a rastrear acciones y mantener el cumplimiento.
• La formación de los usuarios y la comunicación abierta capacitan a los equipos para seguir las reglas de gobernanza, reconocer los riesgos y reducir eficazmente la TI en la sombra.

Accesibilidad de Foundry y riesgos

Microsoft Foundry reduce significativamente las barreras para crear cargas de trabajo de IA. Sus funciones de capacitación del usuario permiten a las personas desarrollar agentes autónomos con rapidez. Esta capacidad de autoservicio permite crear aplicaciones sin necesidad de amplios conocimientos técnicos. Sin embargo, esta facilidad de uso puede tener consecuencias no deseadas.

Funciones de capacitación del usuario

Capacidades de autoservicio

Con Foundry, puede crear agentes que funcionan de forma independiente. Esta independencia mejora su capacidad de innovación, pero también aumenta el riesgo de TI en la sombra. Por ejemplo, los agentes pueden acceder a datos sensibles sin supervisión. Esta falta de supervisión suscita preocupaciones sobre el cumplimiento y la seguridad. La implementación rápida de aplicaciones sin una gobernanza adecuada puede generar vulnerabilidades.

Facilidad de uso

La interfaz intuitiva de la plataforma permite a los usuarios navegar y utilizar sus funciones sin esfuerzo. Aunque esto fomenta la creatividad, también puede provocar que los equipos de seguridad desconozcan las aplicaciones creadas. Los datos sensibles pueden procesarse sin ningún control, lo que conlleva un posible uso indebido. Los agentes podrían operar con permisos excesivos, complicando aún más el panorama de seguridad.

Integración con los sistemas existentes

Las capacidades de integración de Foundry mejoran su funcionalidad, pero también plantean riesgos para la seguridad de los datos empresariales.

Accesibilidad de API

La plataforma ofrece una sólida accesibilidad de API, lo que permite una integración fluida con los sistemas existentes. Sin embargo, esta accesibilidad introduce riesgos. Por ejemplo, las aplicaciones podrían eludir los controles de datos leyendo datos con el token de un usuario y escribiendo con el de otro. Es fundamental respetar las funciones avanzadas de autorización de usuarios de Foundry para evitar acciones no autorizadas.

Descripción del riesgo	Ejemplo
Eludir los controles de datos	Leer datos con el token de un usuario y escribir con el de otro. Foundry dispone de funciones avanzadas de autorización de usuarios que deben respetarse.
Realizar acciones sin que el usuario las comprenda ni consienta	Las aplicaciones deben describir claramente las acciones realizadas con la cuenta de un usuario de Foundry y solicitar únicamente los permisos necesarios.
Recuperar o almacenar datos fuera de Foundry sin control de acceso adecuado	Las aplicaciones deben evitar almacenar datos obtenidos de Foundry y respetar la sensibilidad de los datos.

Opciones de uso compartido de datos

El uso compartido de datos dentro de Foundry puede afectar al cumplimiento de las normativas de protección de datos. La plataforma integra a los equipos de negocio y de cumplimiento, lo que permite la colaboración y el seguimiento de los procesos de aprobación. Esta integración reduce la fricción y garantiza que se sigan los flujos de trabajo de cumplimiento. Los controles de acceso granulares acompañan a los datos a lo largo de las transformaciones, limitando el acceso a las necesidades legítimas y minimizando la exposición accidental.

TI en la sombra y los desafíos de gobernanza de Foundry

Mientras explora las capacidades de Microsoft Foundry, también debe considerar los desafíos de gobernanza que surgen de sus agentes autónomos. Estos desafíos pueden generar riesgos significativos si no se gestionan. Comprender estos riesgos es fundamental para mantener la integridad de los datos de su organización y sus esfuerzos de cumplimiento.

Riesgos del uso no gestionado de Foundry

Vulnerabilidades de seguridad de los datos

El uso no gestionado de Foundry puede exponer a su organización a graves vulnerabilidades de seguridad de los datos. Cuando los usuarios crean agentes sin supervisión, pueden permitir sin darse cuenta el acceso a datos sensibles. Esta falta de control puede provocar fugas de datos y exfiltración no autorizada de información. Es posible que encuentre agentes que operan con permisos excesivos, lo que aumenta el riesgo de exposición de datos.

Las organizaciones suelen enfrentarse a varios desafíos de gobernanza al usar Foundry, entre ellos:

• Decisión de priorización: determinar qué procesos de negocio deben utilizar la capacidad de Foundry ante una cola de pendientes prolongada.
• Decisión de estandarización: decidir qué capacidades de Foundry deben estandarizarse en toda la empresa y cuáles deben seguir siendo especializadas.
• Decisión de nivel de servicio: establecer las expectativas de fiabilidad y rendimiento de Foundry según los distintos casos de uso.
• Decisión de riesgo: definir la postura de seguridad, privacidad y cumplimiento que adoptará su organización.
• Decisión de responsabilidad: aclarar la propiedad de los resultados cuando las iniciativas de Foundry no cumplan las expectativas.

Desafíos de cumplimiento