Autónomos pero responsables: cómo construir sistemas de agentes gobernados con el entorno de ejecución de agentes de Azure AI Foundry

By Mirko Peters · 2025-11-21 · Updated 2025-11-26

Los sistemas de agentes autónomos pero responsables con Azure AI Foundry garantizan gobernanza, trazabilidad y cumplimiento para soluciones de IA responsable listas para la empresa.

Automatically translated with AI from the original post. Read the English original

Azure AI Foundry te ofrece algo más que un modelo potente. Usas un entorno de ejecución de agentes gobernado que mantiene todo organizado. Te ayuda a ver qué ocurre en cada proceso de IA. En tu empresa necesitas algo más que chatbots improvisados. Necesitas sistemas que vigilen las acciones y expliquen las decisiones. Además, estos sistemas siguen reglas. Las empresas que usan sistemas de agentes que se pueden verificar obtienen mejores resultados. Consiguen que más personas los usen y tienen más éxito que con los chatbots sencillos. Muchos grupos afirman obtener hasta un 60 % de mejores resultados. También trabajan más rápido solo unos meses después de poner en marcha estos sistemas. Verás agentes gobernados resolviendo problemas reales cada día. Ayudan con incidencias de clientes, con el trabajo de facturas y con la supervisión de muchos sistemas. La idea de Autónomos pero responsables guía cada paso. Asegura que tu IA sea inteligente y actúe de forma responsable.

Puntos clave

• Azure AI Foundry te permite crear agentes que trabajan por sí solos. Estos agentes pueden tomar decisiones y realizar tareas de forma independiente. Esto ayuda a las empresas a terminar el trabajo más rápido y mejor.

• La responsabilidad es muy importante. Cada agente tiene su propio ID especial. Esto te permite supervisar lo que hacen los agentes y comprobar si cumplen las reglas.

• Los modelos, las instrucciones y las herramientas funcionan juntos en los sistemas de agentes. Esto hace que los agentes sean sólidos y puedan adaptarse a distintos trabajos. Los agentes se mantienen seguros mientras realizan su labor.

• El registro del ciclo de vida mantiene un historial claro de lo que hacen los agentes. Esto ayuda a las empresas a solucionar problemas y cumplir las normas con facilidad.

• Microsoft Entra ayuda a gestionar la identidad de los agentes. Garantiza que los agentes tengan permisos estrictos. Esto mantiene todo seguro y bajo control.

Agentes autónomos pero responsables

Qué hace autónomos a los agentes

Quieres que tu IA haga más que seguir pasos. En Azure AI Foundry, los agentes pueden tomar decisiones por sí solos. Eligen herramientas y planifican qué hacer a continuación. Tú les asignas un trabajo y ellos averiguan cómo completarlo. El agente no necesita que le indiques cada movimiento. Puede observar, decidir y actuar de forma independiente.

Los agentes tienen tres componentes principales que les permiten trabajar:

Puedes cambiar el modelo, actualizar las instrucciones o añadir herramientas. Así tu agente está preparado para nuevos trabajos. Por ejemplo, puedes usar el Agent Service de Azure AI Foundry con Azure OpenAI Service o conectarlo a Azure AI Search. También puedes usar Microsoft Copilot Studio, Azure API Management, Azure Functions o Azure Container Apps. Estas opciones permiten que tu agente aprenda, planifique y haga cosas de muchas maneras.

Los agentes de Azure AI Foundry hacen algo más que reaccionar. Actúan por iniciativa propia. Pueden detectar cambios, elegir herramientas y resolver problemas sin esperar tu intervención. Por eso no son como los scripts sencillos.

Garantizar la responsabilidad en los sistemas de IA

La autonomía es valiosa, pero necesitas confiar en tu IA. Quieres saber qué hizo tu agente, cuándo lo hizo y por qué. Azure AI Foundry se asegura de que cada agente quede registrado. Cada agente recibe un Microsoft Entra Agent ID al crearlo. Este ID indica quién es el propietario del agente, quién puede usarlo y qué hace.

Puedes ver cada movimiento del agente. El sistema registra cada paso para que puedas comprobar lo que ocurrió. Si algo sale mal, puedes revisar el historial y ver los detalles. Las herramientas de seguridad de Microsoft te ayudan a mantener todo protegido. Puedes configurar alertas, revisar los registros y cambiar el funcionamiento del agente si es necesario.

Estas son las formas en que Azure AI Foundry hace que los agentes sean responsables:

• Cada agente tiene un Entra Agent ID especial para su seguimiento.

• Los equipos de seguridad pueden supervisar a los agentes como cualquier otro recurso importante.

• Puedes responder a las alertas y modificar las acciones, los prompts o las herramientas del agente.

• El sistema guarda cada movimiento para revisiones y auditorías.

Necesitas tanto autonomía como responsabilidad para la IA empresarial. La autonomía permite a los agentes resolver problemas y actuar con rapidez. La responsabilidad te da control y confianza.

Veamos en qué se diferencian los agentes y los scripts:

Los scripts siguen una ruta fija. Hacen lo que les indicas, paso a paso. Los agentes en Azure AI Foundry trabajan por su cuenta. Planifican, actúan y registran cada movimiento. Esto hace que tu sistema de IA sea autónomo pero responsable. Obtienes acciones inteligentes y un control claro.

Estructura del agente: modelo, instrucciones y herramientas

Los agentes de Azure AI Foundry usan una estructura clara que te ayuda a crear sistemas de IA fiables y seguros. Trabajas con tres partes principales: el modelo, las instrucciones y las herramientas. Cada una cumple una función específica. Al combinarlas, obtienes agentes capaces de planificar, actuar y aprender de forma potente y, a la vez, fácil de verificar.

El papel del modelo

El modelo es el cerebro de tu agente. Le ayuda a comprender el lenguaje, tomar decisiones y resolver problemas. Puedes elegir entre distintos modelos, como GPT-4o u opciones de código abierto. Esta elección te permite ajustar el modelo a tus necesidades. Si más adelante quieres cambiar de modelo, puedes hacerlo sin modificar el resto del agente. Esta flexibilidad te ayuda a mantener los mismos resultados en cada ejecución. Cuando controlas el modelo y el entorno, tu agente es más fiable y más fácil de confiar.

Los agentes usan el modelo para dividir tareas complejas, reunir información y recordar lo que aprenden. Por ejemplo, algunos agentes científicos usan modelos para planificar pasos, analizar datos y actuar según lo que encuentran. Este enfoque resulta útil en campos como la medicina, donde los agentes deben gestionar trabajos complejos.

Instrucciones como barreras de protección

Las instrucciones indican a tu agente qué debe hacer y cómo comportarse. Funcionan como reglas o barreras de protección. Defines estas instrucciones para mantener al agente encaminado y evitar que cometa errores. Por ejemplo, puedes usar filtros para bloquear preguntas no seguras o impedir que el agente comparta información privada. También puedes establecer reglas para revisar las respuestas del agente antes de que se envíen.

Herramientas y capacidades con permisos

Las herramientas dan a tu agente la capacidad de actuar. Tú decides qué herramientas puede usar. Estas pueden incluir la búsqueda de datos, la ejecución de código o la conexión con aplicaciones de negocio. Controlas el acceso a cada herramienta, de modo que el agente solo use lo que permites. Así tu sistema se mantiene seguro y fácil de gestionar.

Los agentes en la investigación científica real usan herramientas para analizar datos, predecir resultados y conectarse con otros sistemas. Por ejemplo:

• CellAgent usa modelos para dividir tareas complejas de biología.

• DrugAgent predice cómo funcionan los fármacos mediante herramientas especializadas.

• BioMANIA se conecta con herramientas de Python para un análisis de datos en profundidad.

Cuando usas el modelo, las instrucciones y las herramientas juntos, creas agentes que son autónomos pero responsables. Obtienes sistemas inteligentes que siguen tus reglas y dejan un registro claro de cada acción.

Registro del ciclo de vida: hilos, ejecuciones, pasos de ejecución

Hilos persistentes para la auditabilidad

Es importante saber qué hace tu agente. Azure AI Foundry utiliza hilos persistentes para ayudarte con esto. Cada hilo agrupa las conversaciones y las tareas. Puedes revisar lo que ocurrió antes. Esto resulta muy útil para empresas con normas estrictas, como las del sector sanitario o financiero. Cuando puedes demostrar cada paso, la gente confía más en tu sistema.

• Los marcos de gobernanza te ayudan a confiar en tus agentes de IA.

• Debes registrar las interacciones y conservar pistas de auditoría, especialmente en sectores regulados.

• Una buena gobernanza te ayuda a escalar la IA y a cumplir con los requisitos de cumplimiento normativo.

Ejecuciones y estados de ejecución

Las ejecuciones muestran cómo trabaja tu agente en cada hilo. Cuando inicias una tarea, el sistema crea una ejecución. Puedes ver si una ejecución está en espera, en curso o finalizada. Esto te ayuda a saber qué está haciendo tu agente en este momento. Azure AI Foundry gestiona por ti los objetos de conversación y sus estados.

Puedes reutilizar conversaciones y mantener el contexto entre sesiones. Esto significa que no pierdes detalles importantes, aunque cambies de canal o de dispositivo.

Pasos de ejecución para la trazabilidad

Los pasos de ejecución te permiten ver cada acción que realiza tu agente. Puedes revisar cada llamada a herramientas y cada elección de modelo. Así es más fácil encontrar y corregir problemas. Los pasos de ejecución también te ayudan a actuar con rapidez cuando algo sale mal. El sistema te ofrece alertas, paneles y guías para distintos fallos.

Obtienes un sistema autónomo pero responsable. Puedes verificar, auditar y repetir cada acción que realiza tu agente. Esto te ayuda a construir una IA segura y sólida para tu negocio.

Gobernanza, seguridad y observabilidad

Identidad y permisos con Entra

Necesitas reglas sólidas para mantener seguros tus agentes de IA. Azure AI Foundry utiliza Microsoft Entra para gestionar quién puede hacer qué. Cada agente recibe su propia identidad empresarial. Tú decides qué puede hacer cada agente y qué API puede utilizar. Configuras el control de acceso basado en roles, conocido como RBAC, para que los agentes solo obtengan los permisos que necesitan. La mayoría de las personas empiezan con el rol Lector. Solo asignas el rol Colaborador si es necesario. Así se mantiene segura tu solución y se cumple el principio de mínimo privilegio.

La gestión automatizada de identidades te ayuda a añadir, actualizar o eliminar agentes con menor riesgo. También puedes usar reglas de acceso basadas en riesgo para asegurarte de que los agentes solo obtengan los datos y las herramientas que necesitan.

Llamadas a herramientas observables

Quieres saber en todo momento qué hacen tus agentes. Azure AI Foundry registra cada llamada a herramientas y cada acción. Puedes supervisar el comportamiento de los agentes y encontrar problemas con rapidez. El sistema registra con qué frecuencia se producen las solicitudes y sus patrones. Si ocurre algo extraño, recibes alertas. Configuras barreras de protección para que los agentes cumplan las reglas de seguridad antes y después de cada acción.

Registros de evidencia para el cumplimiento normativo

Debes cumplir normativas estrictas en sectores como la sanidad, las finanzas y otros. Azure AI Foundry te ayuda a recopilar pruebas para las auditorías. Puedes ver tus datos, comprobar su calidad y controlar quién puede acceder a ellos. El sistema gestiona los metadatos para que puedas demostrar que asumes la responsabilidad. Puedes automatizar la recopilación de pruebas para facilitar las auditorías.

• El RGPD exige proteger los datos personales.

• La HIPAA regula la información sanitaria.

• La SOX exige registros de auditoría para los datos financieros.

• La Ley de IA de la UE exige seguridad, transparencia y trazabilidad.

Aplicar un modelo de seguridad Zero Trust y las funciones de la nube te ayuda a cumplir las normativas. Puedes hacer un seguimiento de las métricas importantes y usar herramientas de RegTech para estar al día de las nuevas leyes.

Creas sistemas de agentes que funcionan de forma autónoma, pero que siempre dejan un registro claro. Así, tu IA es fiable y está preparada para entornos con normativas estrictas.

Experiencia del desarrollador e inicio rápido

Crear tu primer agente gobernado

Primero, eliges qué quieres que haga tu agente. Después, seleccionas el modelo y escribes instrucciones sencillas. A continuación, eliges las herramientas que usará el agente. Azure AI Foundry facilita la configuración de cada parte. Usas el Agent Service para conectar tu agente con tu negocio. Este servicio te ayuda a añadir agentes con sólidas medidas de seguridad y reglas. Puedes incorporar agentes a tu trabajo sin cambiarlo todo. Muchos desarrolladores piensan que gestionar muchos agentes es difícil. El Agent Service te ofrece una base sólida para controlar y poner en marcha los agentes.

Consejo: empieza con un agente pequeño que resuelva una sola cosa. Añade más funciones a medida que vayas aprendiendo.

Inspeccionar registros y ciclo de vida

Necesitas ver qué hace tu agente en cada paso. Azure AI Foundry guarda un registro de cada acción. Puedes revisar los hilos, las ejecuciones y los pasos de ejecución para ver el proceso completo. Cada agente recibe un artefacto SBOM especial. Este artefacto te permite seguir cada cambio y verificar quién es el agente. Ves qué herramientas ha usado el agente y cuándo tomó sus decisiones. Puedes usar paneles para detectar problemas y solucionarlos rápidamente. Esto te ayuda a mantener tu sistema seguro y en buen funcionamiento.

Integrar Logic Apps y herramientas MCP

Puedes hacer que tu agente sea más inteligente conectándolo con Logic Apps y herramientas MCP. Logic Apps permite que tu agente se conecte con muchos sistemas empresariales. Puedes vincular tu agente con CRM, ERP o herramientas de TI. Las herramientas MCP dan a tu agente nuevas habilidades, como buscar datos o ejecutar código. Tú decides qué herramientas puede usar tu agente. Estableces reglas para que tu agente solo actúe donde tú quieras. Esta configuración te permite ampliar las habilidades de tu agente manteniendo la seguridad y el control.

Nota: empieza con herramientas sencillas y añade más cuando las necesites. Revisa siempre los registros para asegurarte de que tu agente cumple tus reglas.

Los agentes de Azure AI Foundry te permiten trabajar de forma autónoma, pero siguiendo las reglas. Puedes ver y revisar cada acción con registros claros. Unas buenas reglas y un seguimiento adecuado te ayudan a reducir los riesgos y obtener las aprobaciones más rápido. Además, ayuda a que las personas confíen en tu sistema.

• Las reglas automáticas y la supervisión mantienen tu IA segura.

• El seguimiento y el control de versiones facilitan la revisión.

• El trabajo se completa más rápido, y los problemas ocurren con menos frecuencia. Los clientes están más satisfechos.

Puedes empezar ya a automatizar agentes. Los registros que muestran cada paso y las herramientas con permisos definidos te ayudan a cumplir las necesidades del negocio y a prepararte para lo que viene.

Preguntas frecuentes

¿Cuál es la principal diferencia entre un agente y un chatbot?

Con un agente tienes más control. Los agentes pueden planificar, actuar y usar herramientas. Los chatbots solo responden preguntas. Los agentes registran cada acción que realizan. Puedes comprobar lo que han hecho en cualquier momento.

¿Cómo te ayuda Azure AI Foundry a hacer seguimiento de las acciones de los agentes?

Ves cada paso que da tu agente. El sistema registra los hilos, las ejecuciones y los pasos de ejecución. Puedes revisar estos registros para averiguar qué ha pasado, cuándo y por qué. Esto te ayuda a confiar en tu IA.

¿Puedes cambiar el modelo o las herramientas después de crear un agente?

¡Sí! Puedes cambiar de modelo o añadir nuevas herramientas sin empezar de cero. Así puedes actualizar tu agente para nuevas tareas o para obtener mejores resultados. Tus instrucciones y tu historial se mantienen a salvo.

¿Cómo mantienes los agentes seguros y cumples las normas de la empresa?

Asignas permisos a cada agente mediante Microsoft Entra. Decides a qué datos y herramientas puede acceder cada agente. El sistema comprueba cada acción y conserva registros para las auditorías.

¿Por qué necesitas el registro del ciclo de vida en la IA empresarial?

El registro del ciclo de vida te proporciona pruebas de cada acción. Puedes depurar problemas, cumplir los requisitos de cumplimiento normativo y demostrar cómo tomó decisiones tu IA. Esto genera confianza y protege tu negocio.