Então, o que muda exatamente quando uma empresa passa de um chatbot de IA para dezenas de ferramentas de app? No início, parece simples. Uma equipe adiciona um chatbot para suporte ao cliente. Outra usa a IA para pesquisar documentos da empresa, e as anotações de reuniões são escritas automaticamente. Um fluxo de trabalho pode ler um e-mail, extrair uma solicitação e enviá-la ao sistema correto. Em pouco tempo, a empresa tem vários modelos, agentes que podem realizar ações e ferramentas que acessam dados comerciais. Cada equipe geralmente se conecta diretamente a um provedor de IA diferente, usando sua própria chave, seus limites e suas próprias regras de segurança, os custos do seu semestre A. Uma chave pode acabar no lugar errado. Quando um agente chama a ferramenta, ninguém pode ter um registro claro do que ele tentou fazer. É aqui que entra o Microsoft IA Gateway. Ao final deste episódio, você entenderá o que é, como seus blocos de construção se encaixam e quando ele começa a fazer sentido para o seu negócio. Pense nisso como um prédio de escritórios com muitas portas laterais. Você poderia deixar todas as portas abertas e esperar que as pessoas as usem corretamente ou pode trazer todos por uma entrada gerenciada. Uma porta de entrada para IA O Microsoft IA Gateway é um conjunto de recursos de gerenciamento de API do Azure que dá ao seu tráfego de IA um ponto de controle único. Vamos explicar de forma simples. Imagine a estrutura de IA da sua empresa com um prédio de escritórios moderno. Os modelos de IA são salas onde o pensamento acontece. Seus agentes são trabalhadores que se movem pelo prédio, decidindo qual tarefa aprovada realizar a seguir. As ferramentas são portas de serviço e levam lugares como RH, finanças, registros de clientes e arquivos internos. O IA Gateway é a recepção e a mesa de segurança na frente. Ele verifica quem está entrando, aplica as regras e registra para onde as solicitações vão antes de chegarem ao restante do prédio. Uma solicitação segue um caminho simples. Um aplicativo, um copiloto ou um agente envia uma solicitação para o Gateway. O Gateway verifica as regras aplicáveis a esse solicitante e em seguida envia para o modelo, ferramenta, agente ou API de negócios aprovado. E quando uma resposta retorna, ela passa pelo Gateway novamente, antes de chegar ao usuário. Esse caminho único dá à empresa um local para gerenciar acesso, limites, verificações de segurança e logs sem integrar esses controles em cada aplicativo. Isso também separa duas funções, que geralmente são misturadas. As equipes de aplicação podem se concentrar na experiência que as pessoas realmente usam. Elas constroem um assistente de suporte, a tela de busca de documentos ou o fluxo de trabalho que economiza até. Enquanto isso, a equipe da plataforma gerencia as regras compartilhadas nos bastidores, decidindo quais serviços são aprovados, quais identidades podem usá-los, quanto tráfego um projeto pode enviar e o que é registrado. Você não quer que cada equipe crie um novo plano de segurança para cada chatbot. O Microsoft AI Gateway pode ficar à frente de vários tipos de tráfego de IA. Ele pode gerenciar chamadas para modelos de IA e chamadas de ferramentas de protocolo de contexto de modelo MCP. Também pode gerenciar tráfego de agente para agente, A2A. E as APIs de negócios que sua empresa já utiliza, como uma API para verificar um pedido, ler uma política de RH ou abrir um chamado de suporte. Essa última parte é importante, porque a maioria das empresas não precisa descartar seus sistemas existentes para usar IA. Elas apenas precisam de uma forma segura para IA trabalhar com esses sistemas. E um gateway ajuda a colocar controles nessa conexão. Bem, o Microsoft AI Gateway não é um modelo. Ele não escreve respostas para o contato. A B não é um consultor de agentes. Portanto, você não usa para projetar um assistente de RH ou ensinar um agente financeiro o que fazer. E ele não substitui o Microsoft Foundry, onde as equipes podem criar, testar e gerenciar projetos de IA. Em vez disso, ele fica no meio. Foundry pode ajudá-lo a trabalhar com modelos e agentes de IA enquanto o Azure API Management AI Gateway ajuda a controlar o tráfego que esses modelos, agentes e ferramentas criam. Talvez já conheça o Azure API Management como uma forma de gerenciar APIs normais. Uma API é simplesmente uma maneira de um software solicitar algo a outro software. O AI Gateway estende essa mesma ideia para o trabalho com IA. Porque solicitações de IA trazem novas perguntas. Quem usou qual modelo? Quantos tokens foram consumidos? Este agente pode chamar aquela ferramenta? Este prompt deveria chegar ao modelo? Colocar o Gateway no meio oferece um lugar único para responder essas perguntas. E o primeiro ponto de pressão aparece quando cada aplicativo começa a escolher seu próprio endpoint de modelo. Um endpoint e muitos modelos. Quando o seu aplicativo se conecta diretamente a um único endpoint de modelo, essa escolha fica integrada ao próprio código. Frequentemente, o código fica vinculado a um provedor, uma implementação específica, uma região do Azure e um conjunto fixo de limites. Isso funciona bem enquanto o projeto é pequeno, mas imagine que seu sistema de suporte roda em um modelo em uma região. Meses depois, esse modelo atinge sua capacidade. Um modelo melhor surge por um custo menor ou sua empresa precisa mudar para outra região. Se é uma camada compartilhada, cada equipe de aplicativo precisa alterar seu código, testá-lo novamente, lançar uma atualização. Isso resulta em mudanças lentas e complicadas. O Microsoft AI Gateway oferece uma porta de entrada estável para suas aplicações. Elas enviam solicitações para lá e a escolha do modelo pode mudar nos bastidores sem que você precise tocar no aplicativo. Pense nisso como um número de telefone da empresa. Os clientes dizem que é um único número, mesmo que a chamada seja transferida para uma equipe ou escritório diferente. Eles nunca precisam saber como isso é tratado. Com o AI Gateway, seu aplicativo chama um endpoint aprovado e atrás desse endpoint, o Gateway envia a solicitação ao modelo adequado para o trabalho. A Microsoft também possui uma abordagem mais recente chamada Unified Model API. Em termos simples, ela permite que um aplicativo use um estilo de solicitação da OpenAI, enquanto o Gateway conecta essa solicitação a diferentes provedores de modelos nos bastidores. Assim, seu aplicativo envia um tipo familiar de solicitação e o Gateway cuida de todos os detalhes do provedor. Dependendo da sua configuração, essa solicitação pode ir para uma implementação do Azure OpenAI em um modelo no Microsoft Foundry, Anthropic, Google Gemini ou Amazon Bedrock. A rota segue regras definidas por você, não uma escolha fixa inserida dentro de cada aplicação. Isso dá à equipe da plataforma espaço para fazer alterações sem perturbar as pessoas que usam o aplicativo. Digamos que sua empresa tenha um assistente de ar para suporte ao cliente. A maioria das perguntas é assim. Onde está meu pedido? Como redefinir minha senha? Essas podem ser respondidas rapidamente para um modelo menor e mais barato, sem gastar mais do que o necessário. Então, o cliente envia uma pergunta longa e incomum que exige raciocínio e cuidadoso ao conhecimento do produto. O Gateway encaminha esse tipo de solicitação para um modelo mais robusto. O aplicativo de suporte continua enviando solicitações da mesma forma para que sua equipe nunca precise saber qual modelo lidou com a pergunta e seus desenvolvedores não precisam configurar conexões separadas para cada opção. E quanto à capacidade? O de modelos de A tem limites. Eles só podem lidar com uma certa quantidade de tráfego durante um período de tempo. Se cada solicitação atingir uma única implementação, uma hora de pico pode desacelerar ou bloquear toda a experiência. Um Gateway pode distribuir o tráfego entre várias implementações aprovadas roteando para outra região quando uma estiver cheia ou usando uma rota de backup se um endpoint cair. Isso não significa que as solicitações devam saltar a mente, mas sendo definidas as regras. Por exemplo, o tráfego voltado para o cliente tem prioridade no seu modelo principal, enquanto testes internos usam um caminho diferente, ou uma região lida com usuários locais enquanto outra atua como backup. O objetivo é assim. Suas aplicações se conectam a uma porta de entrada controlada. E atrás dela, a plataforma pode ajustar modelos, regiões ou provedores com interrupção mínima. Isso é importante porque a IA avança rapidamente. O modelo que funciona hoje pode não ser a melhor escolha no próximo mês. Se cada aplicativo fala diretamente com seu provedor, mudar de modelo vira um projeto para cada equipe. Com o Gateway, a decisão do modelo reside em um só lugar compartilhado. Uma breve nota sobre a API de modelo unificada. A Microsoft é lista como versão preliminar. Recursos em prévia podem mudar e talvez não estejam prontos para todo caso de uso em produto. Ainda assim, o padrão mais amplo não depende apenas desse recurso, pois sua gestão de API já pode ficar à frente dos endpoints de modelo, aplicar regras de roteamento e ajudar a gerenciar mais de um back-end. A API de modelo unificada visa tornar essa experiência entre provedores mais fácil para os aplicativos. Escolher o modelo certo é apenas metade do trabalho, pois o modelo pode responder uma pergunta, mas um agente pode decidir agir, acessando sistemas reais da empresa. Governança de agentes e ferramenta Um agente leva IA, além de apenas responder perguntas. É um software que pode analisar uma tarefa, escolher entre opções aprovadas e chamar uma ferramenta ou serviço para realizar o trabalho. Um agente de RH pode consultar uma política de licença, um agente de suporte pode verificar um pedido e um agente financeiro pode preparar um pedido de pagamento. Essa capacidade é útil, mas também altera o perfil de risco. Uma resposta errada de um modelo confunde alguém, mas um agente usando a ferramenta errada pode expor dados, alterar um registro ou disparar um processo que jamais deveria tocar. É por isso que as ferramentas precisam de suas próprias regras. Você ouvirá o termo MCP, ou protocolo de contexto de modelo. Pense nele como um formato de conector padrão que dá ao agente uma maneira conhecida de encontrar e usar uma ferramenta da empresa, como um serviço de busca de documentos ou API de consulta de pedidos. Em vez de criar uma conexão diferente para cada agente de sistema, o MCP oferece às equipes um padrão comum. Depois, ao A2A, agente para agente, uma forma padrão de um agente contatar outro. Por exemplo, um agente de suporte solicita detalhes de entrega a um agente de logística em vez de tentar entender o sistema de logística por conta própria. Isso parece organizado no papel, mas uma cadeia de agentes complica quando cada conexão tem regras de acesso diferentes, credenciais ocultas e ferramentas desconhecidas. Imagine um agente financeiro que responde à dúvida sobre a fatura. Ele deveria usar apenas uma ferramenta aprovada de consulta de faturas, mas alguém lhe dá acesso amplo ao sistema financeiro por ser mais rápido do que definir uma ferramenta restrita. Um usuário envia um prompt que parece inofensivo, mas instruções ocultas e um documento anexado levam o agente a uma ação não aprovada. Se o agente tiver acesso excessivo, ele pode solicitar dados desnecessários ou iniciar um fluxo de trabalho que deveria exigir aprovação humana. A gente não é mal-intencionado. Ele apenas teve liberdade demais ao lidar com entradas não confinadas. O Microsoft AI Gateway permite que você coloque controles à frente de servidores MCP e APIs de negócios. Em vez de um caminho direto de um aplicativo de IA para um banco de dados, você expõe uma ferramenta pequena e controlada por uma tarefa específica. Por exemplo, um agente pergunta, verifique o status deste pedido. A ferramenta retorna apenas o status, não todos os pedidos ou registro completo do cliente. É uma tarefa restrita e o Gateway verifica quem está perguntando antes de permitir a chamada. A identidade está no centro dessa configuração. Com o Microsoft Entry-D, os aplicativos se conectam por meio de identidades gerenciadas em vez de compartilhar as chaves de provedor. Uma identidade gerenciada comprova quem ela é sem que um desenvolvedor copia um segredo para o código. Cada agente deve ter sua própria identidade. Assim, você pode ver qual agente chamou a ferramenta, revogar o acesso de um agente sem afetar os outros e aplicar regras diferentes. Um agente de RH não deve herdar as permissões de um agente financeiro só porque ambos usam o IA. Isso é do modelo de confiança zero. Verifique cada solicitação, conceda apenas o acesso necessário para a tarefa atual e assuma que qualquer prompt ou resposta de ferramenta pode ser insegura. Na prática, o agente obtém permissão por uma ferramenta e ação específicas. Ele pode ler um saldo de férias, mas não baixar o arquivo da folha de pagamento. Ele pode criar um rascunho de ticket e suporte, mas não fechar um caso. O Gateway também aplica verificações de segurança aos prompts e ao tráfego de ferramentas. Se uma solicitação contiver conteúdo prejudicial ou dados que não deveriam sair do sistema, uma política interrompe antes de chegar ao back-end. Nenhum filtro detecta tudo, mas verificar o tráfego em um ponto compartilhado é muito mais seguro do que esperar que cada criador de agente adicione a mesma proteção. Você também precisa de um catálogo de ferramentas aprovado. O API Center atua como um catálogo privado para APIs e serviços MCP para que as equipes encontrem a ferramenta certa sem pesquisar documentos antigos ou copiar endereços web não verificados. Isso ajuda a transformar a decisão de qual ferramenta o meu agente pode usar em uma decisão de negócio controlado. Os controles de segurança protegem o caminho, mas também criam uma nova questão. Quais equipes estão usando esse caminho? Quanto uso de IA elas estão gerando? Custos de tokens, limites e visibilidade. Os custos de IA funcionam de forma diferente de uma licença de software. O medidor funciona com base em token. É um token. É um pequeno pedaço de texto. Uma palavra curta pode usar um token. Uma palavra mais longa usa mais. O modelo conta tudo o que você envia. Sua pergunta. As instruções que você adiciona. Quaisquer documentos que você anexa é a resposta que ele fornece. Portanto, uma pergunta simples usa muito pouco. Mas um agente que lê um longo documento de política, faz perguntas de acompanhamento, chama uma ferramenta e cria uma resposta detalhada pode usar muito mais do que você imagina. Você provavelmente já viu isso com a transcrição de uma reunião. Você vê algumas páginas e anotações. O sistema de IA também processa suas instruções de sistema, a transcrição, dados de empresas recuperados, resultados e ferramentas e resposta final. Cada parte contribui para o uso. É por isso que um agente ocupado pode esgotar um limite de modelo compartilhado surpreendentemente rápido. Imagine uma equipe testando um novo assistente de marketing em uma tarde de sexta-feira. Alguém fornece a ele um grande conjunto de arquivos de campanha e pede que ele compare, reescreva e resuma tudo em um ciclo. Enquanto isso, o suporte ao cliente depende da mesma capacidade do modelo para pessoas que tentam obter ajuda. Se a carga de trabalho de teste usar a cota compartilhada, o assistente de suporte pode ficar lento ou falhar quando os clientes precisarem dele. O problema não é apenas que a empresa gastou dinheiro. A carga de trabalho errada tirou a capacidade da carga de trabalho que mais importava. O Gateway de IA do gerenciamento de API do Azure pode aplicar limites antes que isso aconteça. Você pode definir limites de solicitação, limite de token e cotas para um aplicativo, equipe, projeto ou consumidor. Uma cota pode cobrir uma janela curta, tokens por minuto. Ou um período mais longo, como uma permissão diária ou mensal. Isso dá a cada carga de trabalho um limite. O assistente de marketing pode ter um orçamento adequado ao seu propósito. O suporte ao cliente pode ter sua própria permissão e uma prioridade maior. Quando o assistente de marketing atinge seu limite, o Gateway pode rejeitar ou atrasar suas próximas solicitações. O suporte ao cliente continua funcionando porque um projeto de teste não pode usar tudo o que está disponível. Isso também muda a conversa sobre custos mensais. Sem uma visão compartilhada, uma equipe financeira pode receber uma fatura alta de IA e perguntar quem usou tudo isso? A resposta pode ser difícil de encontrar quando as equipes se conectam diretamente a diferentes serviços com chaves compartilhadas. Um Gateway pode registrar quem chamou, o modelo, o uso de tokens, o status da resposta e as chamadas de ferramenta vinculadas a uma solicitação. Isso lhe dá um rastro mais claro. Você pode ver se o gasto veio de um assistente de RH, um ambiente de teste de desenvolvedor, um chatbot voltado ao cliente ou um agente que continuou tentando após um erro. Você também pode detectar padrões incomuns, como um aplicativo enviando prompts muito maiores do que o normal. Se sua equipe começar no Microsoft Foundry, o Gateway também pode se conectar a esse trabalho. Projetos do Foundry podem usar limite de token em nível de projeto, enquanto o Gateway aplica as regras de tráfego em torno dele. Isso dá aos criadores de IA um ponto de partida mais simples, enquanto a equipe de plataforma ainda tem um local compartilhado para gerenciar limites de monitoramento. Há também um recurso útil chamado cache semântico. Digamos que um funcionário pergunte, onde posso encontrar a política de viagem? Alguns segundos depois, outro pergunta, onde está nossa política para viagens de negócio? As palavras diferem, mas o significado pode ser próximo o suficiente para que o Gateway reutilize uma resposta anterior adequada em vez de chamar o modelo novamente. Isso pode reduzir custos e acelerar a resposta. Isso só se aplica a perguntas onde a reutilização faz sentido. Você não faria o cache de uma solicitação sobre o saldo atual de licença de alguém ou o status de um pedido, pois essas respostas podem mudar. O roteamento também pode ajudar com os custos. Uma empresa pode enviar tarefas adequadas a um modelo de menor custo, usar a capacidade já reservada antes de pagar pelo uso extra e alternar para um caminho de backup quando o limite for atingido. Ainda assim, um Gateway não elimina a necessidade de responsabilidade. As equipes precisam de orçamento. Alguém precisa revisar as respostas do modelo. Alguém precisa decidir se um agente deve sequer existir. O Gateway oferece o medidor, as proteções e o registro do tráfego. Ele não toma decisões de negócio por você. Uma vez que você consegue ver e controlar o tráfego, toda a configuração se torna mais fácil de visualizar com o exemplo cotidiano. A jornada é solicitação sem. Imagine um assistente de RH dentro de uma empresa. Um funcionário pergunta quantos dias de licença parental posso tirar e você pode iniciar a solicitação para mim. O objetivo é simples, dar ao funcionário uma resposta rápida e útil depois ajudar com o próximo passo aprovado. Mas o assistente de RH não deve fornecer dados de folha de pagamento, abrir todos os arquivos de RH ou carregar uma chave de provedor de modelo em seu código. A solicitação começa quando o funcionário faz o login. Antes que o assistente envie algo para o modelo ou ferramenta, o Gateway verifica quem é o funcionário e se ele pode usar o assistente de RH e quais limites se aplicam àquele aplicativo. O funcionário vê apenas uma janela de chat simples enquanto essas verificações ocorrem nos bastidores. Em seguida, o assistente precisa de uma resposta. Uma pergunta básica sobre política pode ser enviada ao endpoint de modelo aprovado pela empresa. Se esse endpoint estiver ocupado ou atingir um limite definido, o Gateway pode seguir uma rota de backup que a empresa já aprovou. O funcionário ainda recebe uma resposta pelo mesmo assistente de RH em vez de ver um erro porque uma implementação de modelo ficou muito ocupada. Então o funcionário pede para iniciar a ação de licença. Neste ponto, o agente precisa de mais do que apenas um modelo. Ele precisa de uma ferramenta que possa verificar os detalhes do funcionário e criar a solicitação correta. O agente solicita o uso de uma ferramenta MCP aprovada para gestão de licenças. O Gateway também verifica essa solicitação. Este agente de RH pode chamar esta ferramenta. Este funcionário tem permissão para iniciar este tipo de solicitação. A ação está de acordo com as permissões atribuídas ao agente. Somente então a ferramenta recebe a chamada. A ferramenta não retorna uma lista gigantesca de registros de licenças. Ela retorna apenas o necessário para a tarefa, o saldo de licença disponível do funcionário, a política aplicada a ele e uma confirmação de que a solicitação foi criada como rascunho. Essa resposta restrita é importante. A gente tem informações suficientes para ajudar, mas não obtém amplo acesso só porque fez uma pergunta em linguagem simples. Ora, imagine que o funcionário colhe um texto de um documento externo no chat. O texto contém instruções que tentam enganar o assistente para que ele ignore suas regras ou solicite informações confidenciais ou soliciais. O Gateway pode aplicar verificações de segurança antes que o prompt chegue ao modelo ou antes que uma ferramenta receba uma solicitação. Se a solicitação violar uma regra, ela pode ser interrompida. O mesmo tipo de verificação pode revisar uma resposta antes que ela chegue ao funcionário. Nem todo problema vem de um prompt ruim também. Um modelo pode gerar uma resposta que inclua informações que ele não deveria retornar. Um ponto de controle compartilhado oferece à empresa um local para inspecionar esse caminho e agir sobre ele. Enquanto isso, a solicitação cria um registro. A empresa pode vincular o token usado ao projeto do assistente RH. Ela pode ver qual modelo processou a pergunta, se a chamada da ferramenta teve êxito, se uma solicitação foi bloqueada e quanto tempo o processo levou. Isso torna o suporte e a revisão muito mais fáceis. Se uma equipe de RH relatar que os funcionários não conseguem criar solicitações de licença, a equipe de operações pode procurar por chamadas de ferramenta com FIBA. Se uma regra de segurança bloquear perguntas válidas, eles podem identificar o padrão e melhorar a política. Se um agente repentinamente usar muito mais capacidade de IA do que o normal, essa mudança se torna visível. E se a empresa atualizar uma regra como exigir uma verificação extra antes de certas solicitações de licença, ela pode atualizar a política do gateway apenas uma vez. Não é necessário guardar atualizações de código separadas em cada aplicativo de RH, chatbot e fluxo de trabalho que use o mesmo caminho controlado. O mesmo padrão de solicitação continua funcionando quando a empresa adiciona outro modelo, uma nova região, mais ferramentas internas, ou outro agente que lide com uma tarefa de RH relacionada. Um é mais pequeno, então. Um gateway se torna útil quando o tráfego de IA começa a se tornar um tráfego compartilhado. Não de começar. Então, por onde você realmente começa? Comece escolhendo uma única carga de trabalho real, talvez um assistente de suporte que já chame o modelo, ou um agente que sua equipe planeja para RH, finanças ou pesquisa interna de documento. Não tente lidar com todos os modelos e todas as ferramentas de uma sovila. Esse é um caminho rápido para o caos. Em vez de fornecer chaves de provedor diretamente para cada aplicativo, coloque um endpoint do modelo dessa carga de trabalho atrás do gateway de IA do gerenciamento de API do ASO. Pense nisso como um ponto de verificação de segurança único por seu tráfego de IA. Depois, define o básico. Nome o responsável, claro, pela carga de trabalho. Use o acesso via Entra para que apenas as pessoas ou serviços certos possam alcançá-lo. Defina um limite de tokens adequado à tarefa, nem mais nem menos. Ative o registro de logs para o que possa acontecer. Adicione uma regra de segurança de conteúdo que sua equipe possa testar e revisar. Mais sem isso. Assim que o caminho do modelo e o limite de acesso funcionarem, adicione ferramentas MCP aprovadas uma por uma. Cada ferramenta deve ter uma função específica e um motivo claro para a gente utilizá-la. Sem estres desnecessários. A partir daí, você evolui de uma carga de trabalho controlada para modelos, ferramentas e agentes compartilhados. Sem esse ponto de controle inicial, cada novo app de IA cria outro caminho não gerenciado para os dados da empresa e mais uma linha na fatura de IA. Para a próxima dica de conhecimento, veja Azure API Management Simply Explained. Essa é a base sobre a qual o Microsoft iGate foi construído.