¿Qué cambia exactamente cuando una empresa pasa de un chatbot de IA a dozanas de herramientas de IA? Al principio parece sencillo. Un equipo añade un chatbot para atención al cliente. Otro usa IA para buscar en documentos de la empresa y las notas de reuniones se redactan automáticamente. Un flujo de trabajo puede leer un correo, extraer una solicitud y enviarle al sistema correo. En poco tiempo la empresa tiene varios modelos, agentes que pueden realizar acciones y herramientas que acceden a datos empresariales. Cada equipo suele conectarse directamente a un proveedor de IA distinto, usando su propia clave, sus límites y sus propias reglas de seguridad. Sus costos se vuelven difíciles. Una clave puede terminar equivocado. Cuando un agente llama a una herramienta es posible que nadie tenga un registro claro de lo que intentó hacer. Aquí es donde entra Microsoft AI Gateway. Al final de este episodio entenderás qué es, cómo encajan sus componentes y cuándo empieza a tener sentido para tu negocio. Piénsalo como un edificio de oficinas con muchas puertas laterales. Podrías dejar cada puerta abierta y esperar que la gente las use bien. O puedes hacer que todos entren por una entrada gestionada. Una puerta principal para la IA. Microsoft AI Gateway es un conjunto de funciones de gestión de API de Azure que le da a tu tráfico de IA un punto de control. Desgloséme en palabras sencillas. Imagina la configuración de IA de tu empresa como un edificio de oficina moda. Los modelos de IA son las salas donde ocurre el pensamiento. Tus agentes son los trabajadores que se mueven por el edificio, decidiendo qué tarea probada hacer después. Las herramientas son puertas de servicio que conducen a lugares como RR. Finanza, registros de clientes y archivos internos. El AI Gateway es la recepción y el puesto de seguridad en la entrada. Comprueba quién entra, aplica las reglas y registra dónde van las solicitudes antes de que lleguen al resto del edificio. Una solicitud sigue un camino sencillo. Una aplicación, un copilot o un agente envía una solicitud a la puerta de enlace. La puerta de enlace comprueba las reglas que se aplican en ese emisor. Luego lo envía al modelo herramienta agente o API empresarial aprobada. Y cuando llega una respuesta, pasa por la puerta de enlace de nuevo antes de llegar al usuario. Ese camino único le da a la empresa un lugar para gestionar el acceso, límites, controles de seguridad y registros sin integrar esos controles en cada aplicación. Esto también separa dos tareas que a menudo se mezclan. Los equipos de aplicaciones pueden centrarse en la experiencia que la gente realmente usa. Dios crea el asistente de soporte, la pantalla de búsqueda de documentos o el flujo de trabajo que ahorra tiempo. Mientras tanto, el equipo de plataforma gestiona las reglas compartidas tras bambalinas, decidiendo qué servicios están aprobados, qué identidades pueden usarlos, cuánto tráfico puede enviar a un proyecto y qué se registra. No querrás que cada equipo invente un nuevo plan de seguridad para cada chatbot. Microsoft AI Gateway puede situarse frente a varios tipos de tráfico de E. Puede gestionar llamadas a modelos de IA y llamadas a herramientas del protocolo de contexto de modelo MSP. También puede gestionar el tráfico de agente a agente A2A y las API empresariales que su compañía ya utiliza como una API para verificar un pedido, leer una política de RR o abrir un ticket de soporte. Esa última parte es importante porque la mayoría de las empresas no necesitan desechar sus sistemas existentes para usar IA, solo necesitan una forma segura para que la IA trabaje con esos sistemas y una puerta de enlace ayuda a poner controles en torno a esa conexión. Para bien, Microsoft AI Gateway no es modelo, no escribe respuestas por sí mismo. Tampoco es un creador de agentes, por lo tanto no lo usas para diseñar un asistente R, H, o para enseñarle a un agente financiero qué hacer. Y no reemplaza Microsoft Foundry, donde los equipos pueden construir, probar y gestionar proyectos de IA. En cambio, se sitúa en el medio. Foundry puede ayudarte a trabajar con modelos y agentes de IA, mientras que Azure API Management AI Gateway ayuda a controlar el tráfico que sus modelos, agentes y herramientas crean. Es posible que ya conozcas Azure API Management como una forma de gestionar APIs normales. Una API es simplemente una forma en que una pieza de software le pide algo a otra pieza de software. Y AI Gateway extiende esa misma idea para el trabajo con IA, porque las solicitudes de IA traen nuevas preguntas. ¿Quién usó qué modelo? ¿Cuántos tokens consumió? ¿Puede este agente llamar a esa herramienta? ¿Debería este prompt llegar al modelo si quiere? Poner la puerta de enlace en el medio te da un lugar único para responder esas preguntas. Y el primer punto de presión aparece cuando cada aplicación comienza a elegir su propio endpoint de modelo. Un endpoint, muchos modelos. Cuando tu aplicación se conecta directamente a un solo endpoint de modelo, esa elección queda integrada en el código mismo. A menudo el código está ligado a un proveedor, un despliegue específico, una región de Azure y un conjunto fijo de límites. Eso funciona bien mientras el proyecto es pequeño, pero imagina que tu sistema de soporte funciona con un modelo en una región. Meses después, ese modelo alcanza su capacidad, aparece un modelo mejor por menos dinero, o tu negocio necesita mudarse a otra región. Sin una capa compartida, cada equipo de aplicaciones tiene que cambiar su código, probarlo de nuevo y desplegar una actualización. Eso resulta en cambios lentos y desordenados. Microsoft AI Gateway brinda, sus aplicaciones, una puerta de entrada estable. Envían las solicitudes allí, y la elección del modelo puede cambiar entre bastidores sin que tenga que tocar la aplicación. Piénselo como el número de Telefón Press. Los clientes marcan un número aunque la llamada se pase a otro equipo u oficina. Nunca necesitan saber cómo se gestiona. Con AI Gateway, su aplicación llama a un punto final aprobado, y detrás de él, la puerta de enlace envía la solicitud al modelo que mejor se adapte a la tarea. Microsoft también tiene un enfoque más reciente llamado Unified Model AP. En pocas palabras, permite que una aplicación utilice un formato de solicitud al estilo de OpenAI, mientras que la puerta de enlace conecta a esa solicitud con distintos proveedores de modelos. Así, su aplicación envía un tipo de solicitud conocido, y la puerta de enlace gestiona todos los detalles del proveedor. Dependiendo de su configuración, esa solicitud podría ir a un despliegue de Azure OpenAI, un modelo Microsoft Foundry, Anthropic, Google Gemini o Amazon Bedrock. La ruta sigue las reglas que usted establece en una opción codificada o oculta dentro de cada aplicación. Esto da al equipo de la plataforma margen para realizar cambios sin afectar a quienes usan la aplicación. Supongamos que se imprese un asistente a día para atención al cliente. La mayoría de las preguntas son sencillas. ¿Dónde está mi pedido? ¿Cómo restablezco mi contraseño? Estas pueden ser respondidas rápidamente por un modelo más pequeño y económico sin gastar más de lo necesario. Luego, un cliente envía una pregunta larga e inusual que requiera un razonamiento cuidadoso o conocimiento del producto. La puerta de enlace dirige ese tipo de solicitud a un modelo más potente. La aplicación de soportes sigue enviando a la solicitud desigual, por lo que su equipo no necesita saber qué modelo gestionó la consulta y sus desarrolladores no tienen que configurar conexiones separadas para cada opción. Hay de la capacidad. Los puntos finales de los modelos de YAC tienen límite. Solo pueden manejar una cierta cantidad de tráfico durante un periodo de tiempo. Si cada solicitud llega a un único despliegue, una hora apunta a poder ralentizar o bloquear toda la experiencia. Una puerta de enlace puede distribuir el tráfico entre múltiples despliegues aprobados dirigiendo a otra región, cuando una se llena, o usando una ruta de respaldo si un punto final cae. Eso no significa que las solicitudes se van a rebotar al azar. Se sigue estableciendo las reglas. Por ejemplo, el tráfico orientado al cliente tiene prioridad en su modelo principal, mientras que las pruebas internas usan una ruta diferente, o una región maneja usuarios locales mientras otra actúa como respaldo. Punto es sencillo. Sus aplicaciones se conectan a una puerta de entrada controlada, y detrás de ella la plataforma puede ajustar modelos, regiones o proveedores con una interrupción mínima. Eso es importante porque la idea evoluciona rápida. Un modelo que funciona hoy podría no ser la mejor opción el mes que viene. Si cada aplicación se comunica directamente con su proveedor, cambiar de modelo se convierte en un proyecto para cada equipo. Con la puerta de enlace, la decisión del modelo reside en un lugar compartido. Una nota breve sobre la API de modelo unificado. Microsoft la incluye como vista previa pública. Las funciones en vista previa pueden cambiar y quizás no estén listas para todo caso de Usum Plus. Aún así, el patrón más amplio no depende de su única función, ya que su gestión de API puede situarse frente a los puntos finales del modelo, aplicar reglas de enrutamiento y ayudarle a gestionar más de un backend. La API de modelo unificado busca facilitar esa experiencia entre proveedores para las aplicaciones. Elegir el modelo correcto es solo la mitad del trabajo porque un modelo puede responder a una pregunta, pero un agente puede decidir tomar una acción que impacte sistemas reales de la empresa. Gobernanza de agentes y herramientas. Un agente lleva la IA más allá de solo responder preguntas. Es un software que puede analizar una tarea, elegir entre opciones aprobadas y llamar a las aprobadas y llamar a una herramienta o servicio para el teletro. Un agente de red podría buscar una política de vacaciones, uno de soporte a verificar un pedido y uno de finanzas a preparar una solicitud de pago. Esa capacidad es útil, pero también cambia el perfil de riesgo. Una respuesta incorrecta de un modelo confunde a alguien, pero un agente que usa la herramienta equivocada puede exponer datos, cambiar un registro o activar un registro o activar un proceso carácter. Es por esto que las herramientas necesitan su propia red. Oirá el término MSP o protocolo de contexto de modelo. Piénselo como una forma de conector estándar que da a la gente una manera conocida encontrar y usar una herramienta empresarial como un servicio de búsqueda de documentos o una app de consulta de pedido. En lugar de construir una conexión diferente para cada agente y sistema, MSP ofrece a los equipos un patrón común. Luego está A2A, agente-agente, una forma estándar, para que un agente contacte a otro. Por ejemplo, un agente de soporte le pide detalles de entrega a un agente de envíos en lugar de intentar entender el sistema de envío por sí mismo. Eso suena ordenado en papel, pero una cadena de agentes se complica cuando cada conexión tiene reglas de acceso diferentes, credenciales ocultas y herramientas desconocidas. Imagina un agente financiero que responde preguntas sobre factura. Solo debería usar una herramienta aprobada de búsqueda de facturas, pero alguien le otorga acceso amplio al sistema financiero porque es más rápido que definir una herramienta limitada. Un usuario envía una instrucción que parece inofensiva, pero las instrucciones ocultas en un documento adjunto empujan a la gente hacia una acción no aprobada. Si el agente tiene demasiado acceso, podría solicitar datos innecesarios o iniciar un flujo de trabajo que debería requerir aprobación humana. La gente no es malintencionada. Solo tuvo demasiada libertad de manejar información no confiable. Microsoft AI Gateway le permite colocar controles frente a los servidores MCP y las API empresariales. En lugar de una ruta directa de una aplicación de IA a una base de datos, usted expone una herramienta pequeña y controlada para una tarea específica. Por ejemplo, un agente pregunta, ¿comprueba el estado de este pedido? La herramienta devuelve solo el estado, no todos los pedidos ni el registro completo del cliente. Es una tarea limitada y la puerta de enlace verifica quién solicita antes de permitir la llamada. La identidad es el centro de esta configuración. Con Microsoft Entry ID, las aplicaciones inician sesión mediante identidades administradas en lugar de compartir claves blog. Una identidad administrada demuestra quién es sin que un desarrollador copie un secreto en el código. Cada agente debe tener su propia identidad. De esa manera, puede ver qué agente llamó a una herramienta, revocar el acceso a uno sin afectar a los demás y aplicar diferentes reglas. Un agente de recursos humanos no debería heredar los permisos de un agente financiero solo porque ambos usan IA. Esto sigue el principio de confianza. Verifique cada solicitud. Otorgue solo el acceso necesario para el trabajo actual y asuma que cualquier respuesta de aviso o herramienta podría ser insegura. En la práctica, el agente obtiene permiso para una herramienta y acción específica. Puede dar un saldo de vacaciones, pero no descargar el archivo de nómina. Puede crear un borrador de ticket de soporte, pero no cerrar un caso. La puerta de enlace también aplica comprobaciones de seguridad a los avisos y el tráfico de herramientas. Si una solicitud contiene contenido dañino o datos que no deberían salir del sistema, una política lo detiene antes de llegar al backend. Ningún filtro detecta todo, pero verificar el tráfico en un punto compartido es mucho más seguro que esperar que cada creador de agentes añada la misma protección. También necesita un catálogo de herramientas aprobadas. API Center actúa como un catálogo privado para API Servicios MSP para que los equipos encuentren la herramienta correcta sin buscar documentos antiguos o copiar direcciones web no verificadas. Eso ayuda a convertir qué herramienta puede usar mi agente en una decisión comercial controlada. Los controles de seguridad protegen la ruta, pero también crean una nueva pregunta. ¿Qué equipos están usando esa ruta y cuánto uso de IA están generando? Costos de tokens, límites y visibilidad. Los costos de IA funcionan de manera diferente en la licencia de software. El medidor funciona con token. ¿Qué es un token? Es un pequeño fragmento de texto. Una palabra corta podría usar un token. Una palabra más larga usa más. El modelo cuenta todo lo que usted envía. Su pregunta. Las instrucciones que añade. Cualquier documento que adjunte y la respuesta que devuelve. Entonces, una pregunta simple usa muy poco. Pero un agente que lee un documento de política largo hace preguntas de seguimiento. Llama a una herramienta y luego crea una respuesta detallada puede usar mucho más de lo que espera. Probablemente hayas visto esto con la transcripción de una red. Pese unas cuantas páginas de nota. El sistema de IA también procesa sus instrucciones del sistema, la transcripción, los datos de la empresa recuperados, los resultados de herramientas y las herramientas y las respuestas. Cada parte aumenta el uso. Por eso un agente ocupado puede agotar el límite de un modelo compartido sorprendentemente rápido. Imagina un equipo probando un nuevo asistente de marketing un viernes por la tarde. Alguien le da un gran conjunto de archivos de campaña y le pide que los compare, los reescriba y los resuma en bucle. Mientras tanto, el servicio de atención al cliente depende de la misma capacidad del modelo para las personas que intentan obtenerlo. Si la carga de trabajo de prueba utiliza la cuota compartida, el asistente de soporte puede ralentizarse o fallar cuando los clientes lo necesiten. El problema no es solo que la empresa haya gastado dinero. La carga de trabajo incorrecta toma capacidad de la carga de trabajo más importante. La puerta de enlace de IA de Azure App y Management puede aplicar límites antes de que eso suceda. Puedes establecer límites de solicitudes, límites de tokens y cuotas para una aplicación, equipo, proyecto o consumidor. Una cuota puede cubrir un intervalo, corto, tokens por minuto o un periodo más largo como una asignación diaria o mensual. Soledad a cada carga de trabajo un límite. El asistente de marketing puede tener un presupuesto adecuado a su propósito. Servicio de atención al cliente puede tener su propia asignación y una prioridad más alta. Cuando el asistente de marketing alcanza su límite, la puerta de enlace puede rechazar o ralentizar su siguiente solicitud. Servicio de atención al cliente sigue funcionando porque un proyecto de prueba no puede usar todo lo disponible. Esto también cambia la conversación sobre los costos mensuales. Sin una vista compartida de un equipo financiero puede recibir una factura de IA grande y preguntar ¿Quién usó todo esto? La respuesta puede ser difícil de encontrar cuando los equipos se conectan directamente a diferentes servicios con claves compartidas. Una puerta de enlace puede registrar al emisor, el modelo, el uso de tokens y el estado de la respuesta y las llamadas herramientas vinculadas a un sitio. Eso te da un rastro más claro. Puedes ver si el gasto provino de un asistente de RR.HH, un entorno de prueba de desarrollo, un chatbot para clientes o un agente que siguió reintentando tras un error. También puedes detectar patrones inusuales, como una aplicación enviando prompts mucho más grandes de lo normal. Si tu equipo comienza en Microsoft Foundry, la puerta de enlace también puede conectarse a ese trabajo. Los proyectos de Foundry pueden usar límites de tokens a nivel de proyecto mientras la puerta de enlace aplica las redes de tráfico a su alrededor. Eso les da a los desarrolladores de IA un punto de partida más simple, mientras el equipo de plataforma mantiene un lugar compartido para gestionar límites y monitoreo. También hay una función útil llamada Cache Semantic. Supongamos que un empleado pregunta ¿Dónde puede encontrar la política de viaje? Unos segundos después, otra pregunta. ¿Dónde está nuestra política para viajes de negocios? Las palabras cambian, pero el significado puede ser lo bastante similar como para que la pasarela reutilice una respuesta anterior adecuada en lugar de volver a llamar a modelo. Eso puede reducir costos y esa era la respuesta. Solo encaja en preguntas donde la reutilice sentido. No guardarías en Cache una solicitud sobre el saldo actual de vacaciones de alguien o el estado de un pedido, porque esas respuestas pueden cambiar. El enrutamiento también puede haber con los costos. Una empresa puede enviar trabajo adecuado, modelo de menor costo, usar la capacidad que ya reservó antes de pagar por uso adicional y cambiar una ruta de respaldo cuando aparece un límite. Aún así, una pasarela no elimina la responsabilidad. Los equipos necesitan presupuesto. Alguien necesita revisar las respuestas del modelo. Alguien necesita decidir si un agente debería existir siquiera. La pasarela te proporciona el medidor, las barreras de protección y registro del tráfico. No toma decisiones de negocio por ti. Una vez que puedes ver y controlar el tráfico, toda la configuración resulta más fácil de visualizar como ejemplo cotidiano. Cree una solicitud sencilla. Imagina a un asistente de recursos humanos dentro de una empresa. Un empleado pregunta, ¿cuántos días de licencia parental puedo tomar y puede iniciar la solicitud por mí? El objetivo es sencillo, dar al empleado una respuesta rápida y útil y luego ayudar con el siguiente paso aprobado. Pero el asistente de RR, Ed, no debe revelar datos de nómina, abrir todos los archivos de personal ni llevar una clave de proveedor de modelos dentro de su código. La solicitud comienza cuando el empleado inicia sesión. Antes de que el asistente envíe algo, un modelo o herramienta, la pasarela verifica quién es el empleado, si puede usar al asistente de RR, H, y qué límites se aplican a esa aplicación. El empleado ve una ventana de chat sencilla mientras estas comprobaciones ocurren detrás de él. Después, el asistente necesita una respuesta. Una pregunta básica sobre políticas puede ir al punto de conexión del modelo aprobado por la empresa. Si ese punto de conexión está ocupado o alcanza un límite establecido, la pasarela puede seguir una ruta de respaldo que la empresa ya aprobó. El empleado sigue recibiendo una respuesta a través del mismo asistente de RR, H. En lugar de ver un error porque una implementación del modelo se saturó, entonces el empleado pide iniciar la solicitud de licencia. En este punto, el agente necesita algo más que un modelo. Necesita una herramienta que pueda verificar los detalles del empleado y crear la solicitud correcta. El agente solicita usar una herramienta MSP aprobada para la gestión de licencias. La pasarela también verifica esa solicitud. Puede este agente de RR llamar a esta herramienta. Tiene este empleado permiso para iniciar este tipo de solicitud. ¿La acción se ajusta a los permisos asignados al agente? ¿Sólo entonces la herramienta recibe la llamada? La herramienta no devuelve una lista gigante de registros de empleado. Solo devuelve lo necesario para la tarea, el saldo de vacaciones disponible del empleado, la política que le aplica y la confirmación de que la solicitud fue creada como borrador. Esa respuesta limitada es importante. El agente tiene suficiente información para ayudar, pero no obtiene un acceso amplio solo por haber hecho una pregunta en lenguaje sencillo. Imagine que el empleado pega texto de un documento externo en el chat. El texto contiene instrucciones que intentan engañar al asistente para que ignore sus reglas o solicite información confidencial. La puerta de enlace puede aplicar controles de seguridad antes de que el prompt llegue al modelo o antes de que una herramienta reciba una solicitud. Si la solicitud infringe una regla, puede detenerse. El mismo tipo de control puede revisar una respuesta antes de que llegue el empleado. No todos los problemas provienen de un mal prompt, tampoco. Un modelo podría generar una respuesta que incluye información que no debería devolver. Un punto de control compartido le da a la empresa un lugar para inspeccionar esa ruta y actuar al respecto. Mientras tanto, la solicitud crea un registro. La empresa puede vincular el token utilizado al proyecto de asistencia de recursos humanos. Puede ver qué modelo manejó la pregunta, si la llamada a la herramienta tuvo éxito, si una solicitud fue bloqueada y cuánto tiempo tomó el proceso. Eso hace que el soporte de la revisión sea mucho más sencillo. Si un equipo de red forma que los empleados no pueden crear solicitudes de vacaciones, el equipo de operaciones puede buscar llamadas a herramientas fallidas. Si una regla de seguridad bloquea preguntas válidas, pueden ver el patrón y mejorar la política. Si un agente de repente usa mucha más capacidad de lo normal, ese cambio se vuelve visible. Y si la empresa actualiza una regla, como requerir una verificación adicional antes de cierta solicitud desde vacaciones, puede actualizar la política de la puerta de la nación. No necesita esperar actualizaciones de código por separado en cada aplicación de REE. H. Chatbot y flujo de trabajo que utilice la misma ruta controlada. El mismo patrón de solicitud sigue funcionando. Cuando la empresa agrega otro modelo, una nueva región, más herramientas internas u otro agente que maneje una tarea de RRRH. Relaciona. Comience con algo pequeño así. Una puerta de enlace se vuelve útil cuando el tráfico compartido es en tráfico compartido. ¿Por dónde empezar? Pues por dónde comience realmente. Comience eligiendo una única carga de trabajo real. Quizás un asistente de soporte que ya llame un modelo o un agente que su equipo planea para RRRH. Finanza su búsqueda de documentos internos. No intente abordar todos los modelos y todas las herramientas. Ese es un camino rápido hacia el cabo. En lugar de dar claves de proveedor directamente a cada aplicación, coloque el punto final del modelo de esa carga de trabajo detrás de la puerta de enlace de IA de Azure API Management. Piénselo como un único puesto de control de seguridad para su tráfico de IA. Luego establezca los básicos. Nombre o propietario clave para la carga de trabajo. Use el acceso basado en Entra para que solo las personas o servicios adecuados puedan llegar a ello. Establezca un límite de tokens adecuado para el trabajo. Ni más ni menos. Activa el registro para que pueda ver lo que se ha sucedido. Agregue una regla de seguridad de contenido que su equipo pueda aprobar en RRRH. Piense en FormaSense. Una vez que la ruta del modelo y el límite de acceso funcionen, agregue herramientas MSIP aprobadas una por una. Cada herramienta debe tener una función específica y una razón clara para que la gente la use. Sin añadido si necesario. A partir de ahí usted crece una carga de trabajo controlada, modelos, herramientas y agentes compartidos. Sin ese punto de control inicial, cada nueva aplicación de IA crea otra vía no administrada hacia los datos de la empresa y otra línea en la factura de IA. Para la siguiente cápsula de conocimiento, ve a Azure API Management Simply Explain. Esa es la base sobre la que se construye Microsoft AI Gateway.