WEBVTT

00:00:00.000 --> 00:00:04.060
Tópico de hoje é algo que quase todo mundo já ouviu falar, mas quase ninguém consegue explicar de forma simples.

00:00:04.540 --> 00:00:06.400
RAG, geração aumentada por recuperação.

00:00:06.860 --> 00:00:08.080
Você já viu essa sigla em todo lugar.

00:00:08.200 --> 00:00:10.720
Anúncios da Microsoft, palestras sobre posts em blogs.

00:00:10.820 --> 00:00:11.960
Mas o que ela realmente significa?

00:00:12.360 --> 00:00:13.800
Mais importante, por que você deveria se importar?

00:00:14.080 --> 00:00:14.480
O que você tem é o seguinte.

00:00:15.080 --> 00:00:17.040
Modelos de linguagem grandes, como o GPT-4Ausos,

00:00:17.960 --> 00:00:20.620
eles podem escrever ensaios, resumir documentos e até gerar códigos,

00:00:20.720 --> 00:00:22.120
mas vem com dois grandes problemas.

00:00:23.020 --> 00:00:24.180
Primeiro, o conhecimento deles é congelado.

00:00:24.520 --> 00:00:27.160
Pergunte ao chat GPT sobre algo que aconteceu ontem e ele não faz ideia.

00:00:27.160 --> 00:00:30.260
Segundo, esses modelos nunca viram os dados internos da sua empresa,

00:00:30.380 --> 00:00:32.780
suas políticas, detalhes de produtos ou e-mails de clientes.

00:00:33.300 --> 00:00:36.220
Portanto, quando você faz uma pergunta sobre o seu negócio é um LLM, ele está apenas adivindo.

00:00:36.520 --> 00:00:38.520
É aí que entra a geração aumentada por recuperação ou RAG.

00:00:38.840 --> 00:00:40.920
Não é um novo modelo, não é um GPT maior ou melhor.

00:00:41.420 --> 00:00:42.500
É uma abordagem completamente diferente?

00:00:43.140 --> 00:00:46.400
Em vez de pedir ao LLM que tire respostas de sua memória de treinamento,

00:00:46.500 --> 00:00:48.940
RAG primeiro busca a informação correta nos seus próprios dados

00:00:48.940 --> 00:00:51.160
e entrega essa informação ao modelo junto com a pergunta.

00:00:52.060 --> 00:00:56.280
O modelo então usa esse contexto para lhe dar respostas fundamentadas em conteúdo real e atualizado,

00:00:56.400 --> 00:00:57.140
não em suposições.

00:00:57.160 --> 00:01:00.580
Sem o RAG, sua IA trabalha com uma memória de meses ou anos atrás.

00:01:01.160 --> 00:01:03.320
Com o RAG, ela trabalha com seus documentos reais e atuais.

00:01:04.000 --> 00:01:06.920
Essa é a diferença entre uma IA que parece confiante, mas pode estar errada

00:01:06.920 --> 00:01:09.200
e uma que mostra exatamente de onde obteve a resposta.

00:01:09.780 --> 00:01:10.560
Veja o que vamos cobrir hoje.

00:01:11.140 --> 00:01:13.300
Primeiro, veremos os dois problemas que tornam o RAG necessário.

00:01:14.000 --> 00:01:15.600
Depois, vamos detalhar o que o RAG realmente é,

00:01:15.660 --> 00:01:17.380
recuperação, aumentação e geração.

00:01:18.160 --> 00:01:20.540
Em seguida, passaremos pelos principais serviços do Azure,

00:01:20.620 --> 00:01:23.260
Azure AI Search, Azure OpenAI e Azure AI Foundry.

00:01:23.760 --> 00:01:26.540
E terminaremos com um exemplo real para que você veja como as peças se encaixam.

00:01:26.540 --> 00:01:28.020
Vou começar com o problema em si.

00:01:28.660 --> 00:01:30.540
Uma vez que você o entende, a solução se torna óbvia.

00:01:31.460 --> 00:01:32.580
Dois problemas que os LLMs têm.

00:01:33.000 --> 00:01:34.480
O que há de errado com os modelos de linguagem grande?

00:01:34.880 --> 00:01:35.540
Duas coisas, na verdade.

00:01:36.500 --> 00:01:37.780
O primeiro conhecimento deles é congelado.

00:01:38.080 --> 00:01:38.520
Pense nisso.

00:01:38.920 --> 00:01:41.900
Quando o GPT-4U foi treinado, ele aprendeu a partir de um retrato da internet

00:01:41.960 --> 00:01:43.200
que agora tem meses ou anos.

00:01:43.700 --> 00:01:46.680
Então ele não sabe sobre novos produtos, regulamentações recentes, notícias de ontem.

00:01:47.160 --> 00:01:49.280
Pergunte sobre uma mudança de política da semana passada.

00:01:49.360 --> 00:01:49.960
Ele não tem como saber.

00:01:49.960 --> 00:01:52.560
Essa informação simplesmente não está nos dados de treinamento dele.

00:01:53.880 --> 00:01:54.200
Segundo.

00:01:54.420 --> 00:01:58.260
Os LLMs nunca viram seus dados privados, seus documentos internos, e-mails de clientes

00:01:58.260 --> 00:01:59.360
ou bancos de dados proprietários.

00:01:59.960 --> 00:02:01.620
O modelo não tem acesso algum a nada disso.

00:02:02.180 --> 00:02:04.960
Então quando um funcionário pergunta sobre seus processos de negócios específicos,

00:02:05.000 --> 00:02:05.920
o modelo não consegue responder.

00:02:06.380 --> 00:02:07.140
Ele não sabe o que você sabe.

00:02:07.540 --> 00:02:09.160
Algumas pessoas acham que o ajuste fino resolve isso.

00:02:09.440 --> 00:02:11.760
Você pega o modelo base e o treina um pouco mais com seus próprios dados.

00:02:12.200 --> 00:02:13.660
Mas o ajuste fino tem seus próprios problemas.

00:02:13.920 --> 00:02:14.360
É caro.

00:02:14.360 --> 00:02:16.940
Você paga pelo tempo de GPU e pelo esforço de engenharia.

00:02:17.360 --> 00:02:18.340
Ele não resolve as atualizações.

00:02:18.980 --> 00:02:21.760
Depois que você faz o ajuste fino, o modelo ainda permanece congelado naquele momento.

00:02:22.540 --> 00:02:26.000
E ele não consegue lidar com dados que mudam frequentemente, como níveis de estoque ou preço.

00:02:26.560 --> 00:02:28.780
O ajuste fino é como ensinar um livro didático para alguém de cor.

00:02:29.560 --> 00:02:31.600
Útil, mas a pessoa ainda não consegue consultar o jornal de hoje.

00:02:32.260 --> 00:02:33.180
A solução real é mais simples.

00:02:34.220 --> 00:02:37.140
Dê ao modelo acesso ao seu conhecimento, no momento em que ele precisa responder,

00:02:37.320 --> 00:02:39.040
em vez de tentar enfiar tudo na memória dele.

00:02:39.820 --> 00:02:40.760
Não o faça memorizar tudo.

00:02:41.220 --> 00:02:43.500
Deixe-o pesquisar as coisas em tempo real, nos seus dados reais.

00:02:43.500 --> 00:02:44.400
É isso que o RAG faz.

00:02:44.720 --> 00:02:45.940
Ideia simples, mas que muda tudo.

00:02:46.880 --> 00:02:47.840
O que o RAG realmente é.

00:02:48.420 --> 00:02:49.540
Então aqui está o RAG em uma frase.

00:02:50.080 --> 00:02:53.140
Em vez de pedir ao modelo que extraia uma resposta de seus dados de treinamento,

00:02:53.260 --> 00:02:57.320
primeiro buscamos a informação relevante e depois a fornecemos ao modelo junto com a pergunta.

00:02:58.340 --> 00:02:59.040
Essa é a ideia central.

00:02:59.580 --> 00:03:00.520
Três passos simples.

00:03:00.780 --> 00:03:02.320
Recuperar, aumentar e gerar.

00:03:03.200 --> 00:03:04.120
Deixe-me dar uma analogia.

00:03:04.600 --> 00:03:05.420
Pense em um bibliotecário.

00:03:05.980 --> 00:03:07.440
Você entra em uma biblioteca e faz uma pergunta.

00:03:08.080 --> 00:03:10.400
Você não esperaria que o bibliotecário tivesse memorizado todos os livros?

00:03:10.880 --> 00:03:11.480
Isso seria ridículo.

00:03:11.480 --> 00:03:13.740
Em vez disso, você pede que ele encontre o livro certo,

00:03:13.820 --> 00:03:15.540
abre na página correta e lê a resposta para você.

00:03:15.980 --> 00:03:17.220
O bibliotecário não memoriza nada.

00:03:17.960 --> 00:03:19.220
Ele recupera primeiro e lê depois.

00:03:19.940 --> 00:03:21.000
E é exatamente isso que o RAG faz.

00:03:21.560 --> 00:03:22.780
Recuperação primeiro, geração depois.

00:03:23.280 --> 00:03:24.640
Então veja como funciona na prática.

00:03:25.240 --> 00:03:26.220
O usuário faz uma pergunta.

00:03:26.600 --> 00:03:28.360
O sistema então pesquisa em uma base de conhecimento.

00:03:28.460 --> 00:03:30.520
Seus documentos, seus dados, suas informações privadas.

00:03:30.960 --> 00:03:33.520
E ele encontra enviado ao modelo de linguagem grande

00:03:33.520 --> 00:03:35.640
e o modelo gera uma resposta com base nesse contexto.

00:03:36.000 --> 00:03:37.140
E aqui está a parte que importa.

00:03:37.480 --> 00:03:38.860
O LLM nunca vê seus dados brutos.

00:03:38.860 --> 00:03:40.960
Ele só vê o que o sistema de recuperação entrega a ele.

00:03:41.260 --> 00:03:41.920
Sem vantagem.

00:03:42.140 --> 00:03:43.280
Na verdade, é um recurso de segurança.

00:03:43.680 --> 00:03:45.760
Seus documentos confidenciais permanecem no seu próprio analista.

00:03:46.140 --> 00:03:49.160
No momento da consulta, o modelo recebe apenas os trechos relevantes necessários

00:03:49.160 --> 00:03:50.680
para responder aquela pergunta específica.

00:03:50.940 --> 00:03:53.120
Sem treinamento com seus dados, sem memorização, sem vazamento.

00:03:53.460 --> 00:03:54.600
Seus dados ficam onde devem estar.

00:03:54.600 --> 00:03:57.180
Portanto, o RAG resolve os dois problemas que discutimos lá.

00:03:57.500 --> 00:03:58.120
Dados e atualizar.

00:03:58.380 --> 00:03:58.820
Não é um problema.

00:03:59.320 --> 00:04:00.740
Sua base de conhecimento permanece atualizada.

00:04:01.000 --> 00:04:01.560
Dados privados.

00:04:01.960 --> 00:04:03.600
O modelo só vê o que você escolhe recuperar.

00:04:03.980 --> 00:04:05.900
É como dar ao bibliotecário acesso ao seu arquivo,

00:04:05.980 --> 00:04:08.200
mas permitindo apenas que ele retire a pasta que você precisa

00:04:08.200 --> 00:04:09.400
exatamente quando você precisa.

00:04:10.520 --> 00:04:11.940
Embedings vetoriais e busca semântica.

00:04:12.400 --> 00:04:14.320
Agora você pode estar se perguntando como essa busca realmente funciona.

00:04:14.720 --> 00:04:16.160
Não se trata de combinar a palavra-chave

00:04:16.160 --> 00:04:17.900
ou usar um Ctrl mais F em seus documentos.

00:04:18.280 --> 00:04:19.120
É algo muito mais inteligente.

00:04:19.620 --> 00:04:20.560
Chama-se busca semântica.

00:04:20.720 --> 00:04:22.200
E era executada com embedings vetoriais.

00:04:22.700 --> 00:04:23.780
Deixa eu explicar o que é um embedding.

00:04:23.780 --> 00:04:25.940
Um embedding vetorial é uma longa lista de números

00:04:25.940 --> 00:04:28.420
que captura o significado de um texto como coordenadas em um mapa.

00:04:28.860 --> 00:04:31.780
Cada documento recebe sua própria coordenada nesse mapa de significados.

00:04:32.300 --> 00:04:33.180
Quando você faz uma pergunta,

00:04:33.300 --> 00:04:35.360
o sistema transforma sua pergunta em coordenadas também

00:04:35.360 --> 00:04:37.240
e encontra os documentos mais próximos a ela.

00:04:37.620 --> 00:04:38.660
O ponto-chave é que é o termo semântico.

00:04:39.460 --> 00:04:40.960
Não se trata de encontrar palavras exatas,

00:04:41.040 --> 00:04:42.080
mas de compreender conceitos.

00:04:42.560 --> 00:04:44.020
Se você busca por hotéis econômicos,

00:04:44.080 --> 00:04:46.780
o sistema pode encontrar documentos sobre acomodações acessíveis,

00:04:46.900 --> 00:04:48.620
mesmo que essas palavras exatas nunca apareçam.

00:04:49.100 --> 00:04:49.420
Por quê?

00:04:49.880 --> 00:04:50.800
E o significado é próximo.

00:04:51.280 --> 00:04:53.120
Os embeddings pré-econômico e acessível

00:04:53.120 --> 00:04:54.840
ficam bem próximos um do outro nesse mapa.

00:04:55.280 --> 00:04:56.660
Um modelo pequeno e especial,

00:04:56.820 --> 00:04:58.400
como o Text Embedding 3 Large do Azure,

00:04:58.540 --> 00:04:59.280
Crises Embeddings.

00:04:59.680 --> 00:05:01.140
Não é um modelo de linguagem gigante,

00:05:01.220 --> 00:05:03.380
por isso é uma ferramenta focada que faz apenas uma tarefa.

00:05:04.300 --> 00:05:05.960
Transformar texto nesse número de coordenada.

00:05:06.280 --> 00:05:07.440
É isso que torna o RAG tão poderoso.

00:05:07.960 --> 00:05:09.560
Seus documentos são convertidos em embeddings

00:05:09.560 --> 00:05:10.740
uma única vez durante a indexação.

00:05:11.180 --> 00:05:12.240
Então, quando uma consulta chega,

00:05:12.300 --> 00:05:14.500
o sistema encontra o conteúdo mais relevante em milissegundos,

00:05:14.860 --> 00:05:16.280
mesmo que as palavras exatas do usuário

00:05:16.280 --> 00:05:17.740
não apareçam em nenhum lugar dos documentos.

00:05:17.740 --> 00:05:19.340
Ele entende a intenção,

00:05:19.440 --> 00:05:21.120
não apenas as palavras-chave que você digita.

00:05:22.280 --> 00:05:23.000
Azure AI Search,

00:05:23.080 --> 00:05:23.920
o mecanismo de recuperação.

00:05:24.480 --> 00:05:25.580
Então, agora você entende o conselho.

00:05:26.220 --> 00:05:27.440
Recuperar primeiro e depois gerar.

00:05:27.860 --> 00:05:29.600
Mas onde toda essa recuperação realmente acontece?

00:05:29.820 --> 00:05:31.220
É aí que entra o Azure AI Search.

00:05:32.020 --> 00:05:33.400
O Azure AI Search é o serviço

00:05:33.400 --> 00:05:35.620
que armazena, indexa e recupera seu conteúdo.

00:05:36.520 --> 00:05:37.880
Pense nele como o sistema de arquivos

00:05:37.880 --> 00:05:38.860
da sua aplicação RAG.

00:05:39.580 --> 00:05:40.920
Lida com duas tarefas principais

00:05:40.920 --> 00:05:41.680
e vamos analisá-las.

00:05:42.200 --> 00:05:42.980
Primeiro, a indexação.

00:05:43.280 --> 00:05:44.820
Isso significa preparar seus dados para serem pesquisados.

00:05:44.820 --> 00:05:45.780
Segundo a busca,

00:05:46.220 --> 00:05:47.960
isso significa encontrar o conteúdo correto

00:05:47.960 --> 00:05:48.940
quando alguém faz uma pergunta.

00:05:49.500 --> 00:05:51.060
Vamos passar pelo processo de indexação primeiro.

00:05:51.580 --> 00:05:53.400
Você começa apontando o Azure AI Search

00:05:53.400 --> 00:05:54.380
para sua fonte de dados,

00:05:54.480 --> 00:05:56.080
que pode ser um container de armazenamento

00:05:56.080 --> 00:05:57.420
de blobs cheio de PDFs,

00:05:57.520 --> 00:05:58.500
um banco de dados SQL

00:05:58.500 --> 00:05:59.500
com registros de clientes

00:05:59.500 --> 00:06:00.360
ou qualquer outra fonte.

00:06:01.480 --> 00:06:03.020
O serviço lê esses documentos,

00:06:03.140 --> 00:06:05.000
divide-os em partes menores chamadas chunks,

00:06:05.440 --> 00:06:07.220
cria embeddings vetoriais para cada parte

00:06:07.220 --> 00:06:08.440
usando aquele modelo de embedding

00:06:08.440 --> 00:06:09.240
que mencionamos antes

00:06:09.240 --> 00:06:11.340
e armazena tudo em um índice de busca.

00:06:12.080 --> 00:06:13.660
Pense no índice com um catálogo gigante,

00:06:13.760 --> 00:06:14.720
altamente organizado.

00:06:15.460 --> 00:06:16.980
Cada conteúdo recebe um ID único,

00:06:17.060 --> 00:06:18.000
um fragmento de texto

00:06:18.000 --> 00:06:19.260
e um conjunto de coordenadas

00:06:19.260 --> 00:06:20.440
nesse mapa de significado.

00:06:20.920 --> 00:06:21.660
Agora o processo de busca.

00:06:22.260 --> 00:06:23.440
Quando um usuário faz uma pergunta,

00:06:23.560 --> 00:06:25.060
o AI Search converte essa pergunta

00:06:25.060 --> 00:06:26.980
em um vetor usando o mesmo modelo de embedding

00:06:26.980 --> 00:06:28.440
e em seguida escaneia o índice

00:06:28.440 --> 00:06:29.420
para encontrar os fragmentos

00:06:29.420 --> 00:06:30.920
cujas coordenadas estão mais próximas

00:06:30.920 --> 00:06:31.880
das coordenadas da pergunta.

00:06:32.620 --> 00:06:34.460
Ele retorna as principais correspondências,

00:06:34.560 --> 00:06:35.960
geralmente as 5 a 10 mais relevantes,

00:06:36.180 --> 00:06:37.360
e faz tudo isso em milissegundos.

00:06:38.160 --> 00:06:39.380
Você tem algumas opções sólidas, hein?

00:06:39.380 --> 00:06:40.700
A busca vetorial pura

00:06:40.700 --> 00:06:42.100
encontra conteúdo pelo significado,

00:06:42.160 --> 00:06:43.040
então conceitos semelhantes

00:06:43.040 --> 00:06:44.660
aparece mesmo que as palavras exatas não conhecem.

00:06:44.960 --> 00:06:45.900
A busca por palavra-chave

00:06:45.900 --> 00:06:46.780
funciona como um mecanismo

00:06:46.780 --> 00:06:47.500
de busca tradicional

00:06:47.500 --> 00:06:48.840
encontrando correspondências exatas de base.

00:06:49.280 --> 00:06:50.660
Ou você pode usar a busca híbrida,

00:06:50.720 --> 00:06:52.060
que combina ambas as abordagens,

00:06:52.260 --> 00:06:53.260
e essa costuma ser a melhor escolha.

00:06:53.660 --> 00:06:54.700
Existe também algo chamado

00:06:54.700 --> 00:06:55.600
reranking semântico

00:06:55.600 --> 00:06:56.860
que pega esses resultados iniciais

00:06:56.860 --> 00:06:57.800
e os reordena com base

00:06:57.800 --> 00:06:58.700
no quão bem eles realmente

00:06:58.700 --> 00:06:59.460
respondem à pergunta.

00:06:59.460 --> 00:07:01.100
que é uma segunda passagem

00:07:01.100 --> 00:07:02.140
que captura coisas que a primeira

00:07:02.140 --> 00:07:02.980
pode ter deixado passando.

00:07:03.720 --> 00:07:04.500
Uma coisa que você deve saber,

00:07:04.580 --> 00:07:06.280
o Azure AI Search pode se tornar caro.

00:07:06.880 --> 00:07:09.300
O nível básico começa em torno de US$ 75 por mês

00:07:09.300 --> 00:07:09.980
e aumenta a partir daí.

00:07:10.420 --> 00:07:11.940
Se você está apenas experimentando,

00:07:12.080 --> 00:07:13.520
use o nível gratuito ou certifique-se

00:07:13.520 --> 00:07:15.020
de excluir seus recursos quando terminar.

00:07:15.480 --> 00:07:16.700
Para uso e produção, no entanto,

00:07:16.760 --> 00:07:17.700
o custo geralmente vale a pena.

00:07:18.400 --> 00:07:19.480
Você está adquirindo velocidade

00:07:19.480 --> 00:07:20.400
e confiabilidade em escala.

00:07:21.900 --> 00:07:23.600
Azure Open AI mais AI Foundry,

00:07:23.700 --> 00:07:24.800
geração e orquestração.

00:07:25.740 --> 00:07:27.240
Então agora seus dados estão indexados

00:07:27.240 --> 00:07:28.280
e prontos para recuperação,

00:07:28.380 --> 00:07:29.560
mas o LLM ainda precisa entender

00:07:29.560 --> 00:07:31.360
sua pergunta e gerar uma resposta sólida.

00:07:32.000 --> 00:07:33.200
É aí que entram o Azure Open AI

00:07:33.200 --> 00:07:34.240
e o Azure AI Foundry.

00:07:35.040 --> 00:07:36.220
O Azure Open AI fornece

00:07:36.220 --> 00:07:37.200
o modelo de linguagem real,

00:07:37.380 --> 00:07:39.000
GPT-4O, GPT-4.1

00:07:39.000 --> 00:07:40.500
ou qualquer modelo que você escolher.

00:07:41.100 --> 00:07:42.100
Este é o mecanismo de geração.

00:07:42.660 --> 00:07:43.560
Ele recebe um prompt

00:07:43.560 --> 00:07:45.500
que inclui tanto a pergunta original do usuário

00:07:45.500 --> 00:07:46.340
quanto o contexto

00:07:46.340 --> 00:07:48.120
que o Azure AI Search recuperou.

00:07:48.780 --> 00:07:49.900
O modelo lê esse contexto

00:07:49.900 --> 00:07:50.820
e produz uma resposta

00:07:50.820 --> 00:07:51.920
com base no que encontra.

00:07:52.760 --> 00:07:53.880
Agora, você não pode simplesmente

00:07:53.880 --> 00:07:55.020
jogar tudo lá e esperar pelo melhor.

00:07:55.580 --> 00:07:56.800
Você precisa de um prompt de sistema,

00:07:56.800 --> 00:07:57.740
um conjunto de instruções

00:07:57.740 --> 00:07:58.960
que você dá ao modelo antecipadamente

00:07:58.960 --> 00:07:59.720
sobre como se comportar.

00:08:00.240 --> 00:08:00.880
Você diz a ele

00:08:00.880 --> 00:08:02.500
para usar apenas o contexto fornecido,

00:08:02.600 --> 00:08:03.380
citar suas fontes

00:08:03.380 --> 00:08:04.100
e, o mais importante,

00:08:04.200 --> 00:08:05.240
dizer, eu não sei,

00:08:05.860 --> 00:08:07.080
caso a informação relevante

00:08:07.080 --> 00:08:08.520
não esteja nos documentos recuperados.

00:08:09.040 --> 00:08:10.200
É isso que mantém o modelo honesto.

00:08:10.720 --> 00:08:11.820
Sem um bom prompt de sistema,

00:08:11.920 --> 00:08:12.700
o modelo pode recorrer

00:08:12.700 --> 00:08:13.720
aos seus dados de treinamento

00:08:13.720 --> 00:08:15.240
ou, pior, inventar algo.

00:08:15.620 --> 00:08:16.680
Como você realmente conecta

00:08:16.680 --> 00:08:17.320
todas as suas peças?

00:08:17.800 --> 00:08:19.300
É aí que entra o Azure AI Foundry.

00:08:19.840 --> 00:08:21.320
É o portal onde você cria um projeto,

00:08:21.520 --> 00:08:22.420
implanta seus modelos,

00:08:22.540 --> 00:08:23.560
conecta suas fontes de dados

00:08:23.560 --> 00:08:24.220
e testa seu AI.

00:08:24.220 --> 00:08:25.860
Pense nele como centro de controle

00:08:25.860 --> 00:08:27.080
para toda a sua configuração de hack.

00:08:27.400 --> 00:08:28.120
Dentro do Foundry,

00:08:28.180 --> 00:08:29.200
você pode adicionar seu índice

00:08:29.200 --> 00:08:30.040
do Azure AI Search

00:08:30.040 --> 00:08:31.120
como uma fonte de conhecimento

00:08:31.120 --> 00:08:31.560
ao seu agente

00:08:31.560 --> 00:08:32.640
sem escrever código personalizado

00:08:32.640 --> 00:08:33.380
para a configuração barata.

00:08:33.560 --> 00:08:34.820
Você apenas cria uma conexão,

00:08:34.960 --> 00:08:35.780
seleciona seu índice

00:08:35.780 --> 00:08:36.640
e o agente pode começar

00:08:36.640 --> 00:08:37.760
a consultá-lo automaticamente.

00:08:38.160 --> 00:08:39.580
O portal cuida da orquestração.

00:08:40.420 --> 00:08:41.700
Quando um usuário faz uma pergunta,

00:08:41.820 --> 00:08:43.340
o agente sabe chamar o AI Search,

00:08:43.480 --> 00:08:44.600
obter os trechos relevantes

00:08:44.600 --> 00:08:45.880
e passá-los ao LLM

00:08:45.880 --> 00:08:47.080
junto com a pergunta original.

00:08:47.800 --> 00:08:48.780
Aqui está um exemplo concreto.

00:08:49.220 --> 00:08:50.260
Em um tutorial que encontrei,

00:08:50.580 --> 00:08:51.320
alguém criou um agente

00:08:51.320 --> 00:08:52.180
de recomendação de filmes

00:08:52.180 --> 00:08:53.000
usando um conjunto de dados

00:08:53.000 --> 00:08:53.440
da Netflix.

00:08:53.980 --> 00:08:55.380
Eles carregaram um arquivo CSV

00:08:55.380 --> 00:08:56.440
com títulos, descrições

00:08:56.440 --> 00:08:57.260
e informações de elenco

00:08:57.260 --> 00:08:58.140
para o Azure Blob Storage

00:08:58.140 --> 00:08:59.800
e depois usaram o Azure AI Search

00:08:59.800 --> 00:09:00.800
para indexar esses dados.

00:09:01.580 --> 00:09:02.660
No Azure AI Foundry,

00:09:02.860 --> 00:09:03.580
criaram um agente

00:09:03.580 --> 00:09:04.440
com GPT-4O

00:09:04.440 --> 00:09:05.400
e conectaram o índice

00:09:05.400 --> 00:09:06.280
do AI Search.

00:09:07.080 --> 00:09:07.960
Quando um usuário perguntou

00:09:07.960 --> 00:09:08.640
gosto de suspense,

00:09:08.760 --> 00:09:09.720
me deu algumas recomendações.

00:09:10.140 --> 00:09:11.220
O agente pesquisou no índice

00:09:11.220 --> 00:09:12.240
e encontrou filmes de suspense

00:09:12.240 --> 00:09:13.560
daquele conjunto de dados específicos

00:09:13.560 --> 00:09:14.560
e retornou recomendações.

00:09:15.040 --> 00:09:15.840
E aqui está o ponto principal,

00:09:15.920 --> 00:09:16.800
ele só recomendou filmes

00:09:16.800 --> 00:09:17.280
que estavam realmente

00:09:17.280 --> 00:09:18.020
naquele conjunto de dados.

00:09:18.500 --> 00:09:19.340
Ele não inventou nada,

00:09:19.640 --> 00:09:20.300
mostreu de seus dados

00:09:20.300 --> 00:09:20.840
de treinamento

00:09:20.840 --> 00:09:21.660
e trabalhou exclusivamente

00:09:21.660 --> 00:09:22.840
com o conteúdo fornecido.

00:09:23.440 --> 00:09:24.240
Esse é o poder do RAG.

00:09:24.920 --> 00:09:26.160
RAG clássico versus RAG agente.

00:09:26.480 --> 00:09:27.160
Agora, vamos falar

00:09:27.160 --> 00:09:27.980
sobre como configurar isso.

00:09:28.340 --> 00:09:29.440
Existem dois padrões principais,

00:09:29.520 --> 00:09:30.460
o RAG clássico e o RAG agente.

00:09:30.920 --> 00:09:31.620
Qual você escolher

00:09:31.620 --> 00:09:32.580
depende do que você está construindo.

00:09:33.000 --> 00:09:33.560
O RAG clássico

00:09:33.560 --> 00:09:34.420
é a abordagem direta.

00:09:34.960 --> 00:09:35.880
Uma consulta entra,

00:09:35.940 --> 00:09:37.020
uma pesquisa é executada

00:09:37.020 --> 00:09:38.000
e uma resposta sai.

00:09:38.360 --> 00:09:39.400
Simples, rápido, previsível.

00:09:39.780 --> 00:09:40.720
Pense nisso como ir até

00:09:40.720 --> 00:09:42.060
a recepção de um prédio comercial

00:09:42.060 --> 00:09:43.500
e pedir um arquivo específico.

00:09:44.220 --> 00:09:45.200
O recepcionista o pega,

00:09:45.280 --> 00:09:45.980
te entrega e pronto.

00:09:46.700 --> 00:09:47.960
O RAG clássico funciona muito bem

00:09:47.960 --> 00:09:49.260
para perguntas e respostas factuais

00:09:49.260 --> 00:09:50.020
sobre um único tópico,

00:09:50.100 --> 00:09:50.760
como qual é a política

00:09:50.760 --> 00:09:51.860
da empresa sobre trabalho remoto

00:09:51.860 --> 00:09:53.340
ou mostre-me as etapas

00:09:53.340 --> 00:09:53.900
de som de problemas

00:09:53.900 --> 00:09:54.600
para este código de IA.

00:09:55.400 --> 00:09:56.700
É confiável, barato

00:09:56.700 --> 00:09:57.620
e fácil de corrigir

00:09:57.620 --> 00:09:58.440
quando algo dá errado,

00:09:58.520 --> 00:09:59.280
porque o fluxo é linear.

00:10:00.180 --> 00:10:01.080
O RAG agente fica diferente.

00:10:01.700 --> 00:10:02.260
O agente de IA

00:10:02.260 --> 00:10:03.620
decide como recuperar informações.

00:10:04.380 --> 00:10:05.880
Ele pode fazer várias sub-perguntas,

00:10:06.080 --> 00:10:07.260
pesquisar diferentes índices

00:10:07.260 --> 00:10:08.400
e terá sobre resultados

00:10:08.400 --> 00:10:09.560
e sintetizar várias fontes

00:10:09.560 --> 00:10:10.200
antes de responder.

00:10:10.200 --> 00:10:12.120
É como ter um gerente de edifício

00:10:12.120 --> 00:10:13.620
que coordena com diferentes departamentos

00:10:13.620 --> 00:10:14.600
para reunir todas as peças.

00:10:14.600 --> 00:10:16.360
Eles não pegam apenas um arquivo.

00:10:16.740 --> 00:10:17.500
Eles conversam com o RH,

00:10:17.660 --> 00:10:18.420
verificam registros,

00:10:18.560 --> 00:10:19.160
cruzam políticas

00:10:19.160 --> 00:10:20.040
e então retornam

00:10:20.040 --> 00:10:20.980
com uma resposta completa.

00:10:21.460 --> 00:10:22.400
A Microsoft realizou

00:10:22.400 --> 00:10:23.060
seus próprios testes

00:10:23.060 --> 00:10:23.940
e descobriu que o RAG agente

00:10:23.940 --> 00:10:25.440
oferece cerca de 40% de melhoria

00:10:25.440 --> 00:10:26.320
na relevância das respostas

00:10:26.320 --> 00:10:27.100
para perguntas complexas.

00:10:27.220 --> 00:10:27.960
Isso é significativo,

00:10:28.060 --> 00:10:29.360
mas consome de 3 a 10 vezes

00:10:29.360 --> 00:10:29.880
mais tokens

00:10:29.880 --> 00:10:30.680
e adiciona latência.

00:10:31.240 --> 00:10:31.940
Para perguntas simples,

00:10:32.020 --> 00:10:33.180
esse trabalho extra é desperdiçado.

00:10:33.580 --> 00:10:34.220
O RAG clássico

00:10:34.220 --> 00:10:34.980
lida muito bem com elas.

00:10:35.400 --> 00:10:36.240
Então, quando usar cada um?

00:10:36.640 --> 00:10:37.080
O clássico

00:10:37.080 --> 00:10:38.080
para consultas rotineiras

00:10:38.080 --> 00:10:38.760
e de alto volume,

00:10:38.900 --> 00:10:39.740
onde velocidade e custo

00:10:39.740 --> 00:10:40.200
importam mais.

00:10:40.460 --> 00:10:40.820
O agente

00:10:40.820 --> 00:10:41.520
compra perguntas

00:10:41.520 --> 00:10:42.300
de várias etapas

00:10:42.300 --> 00:10:43.540
ambíguas ou multidisciplinares

00:10:43.540 --> 00:10:44.140
onde a precisão

00:10:44.140 --> 00:10:45.220
vale o custo computacional extra.

00:10:45.660 --> 00:10:46.460
Sessão de conexão,

00:10:46.560 --> 00:10:47.440
exemplo de ponta a ponta.

00:10:48.060 --> 00:10:48.420
Vamos ver como

00:10:48.420 --> 00:10:49.240
todas essas peças

00:10:49.240 --> 00:10:50.520
se encaixam com o exemplo real.

00:10:51.040 --> 00:10:51.780
Imagine que você está

00:10:51.780 --> 00:10:52.360
criando um agente

00:10:52.360 --> 00:10:53.180
de suporte ao cliente

00:10:53.180 --> 00:10:54.040
para uma agência de viagem

00:10:54.040 --> 00:10:55.140
chamada Marigold Travels.

00:10:55.740 --> 00:10:56.900
Você tem folhetos de viagem,

00:10:57.160 --> 00:10:57.940
avaliações de hotéis,

00:10:58.240 --> 00:10:58.940
documentos de políticas

00:10:58.940 --> 00:10:59.640
espalhados por toda

00:10:59.640 --> 00:11:00.260
a sua organização.

00:11:00.940 --> 00:11:01.720
Você quer que os clientes

00:11:01.720 --> 00:11:02.420
façam perguntas

00:11:02.420 --> 00:11:03.660
e recebam respostas precisas

00:11:03.660 --> 00:11:04.820
baseadas no seu conteúdo real,

00:11:05.020 --> 00:11:06.060
não em suposições genéricas.

00:11:06.560 --> 00:11:07.020
Passo 1.

00:11:07.480 --> 00:11:08.560
Armazene todo esse conteúdo

00:11:08.560 --> 00:11:09.340
no Azure Blob Storage.

00:11:10.180 --> 00:11:11.160
Folhetos em uma pasta,

00:11:11.240 --> 00:11:11.980
avaliações em outra,

00:11:12.100 --> 00:11:12.920
políticas em uma terceira,

00:11:13.000 --> 00:11:14.140
apenas arquivos em um container.

00:11:14.980 --> 00:11:15.540
Passo 2.

00:11:15.680 --> 00:11:16.940
Use o Azure AI Search

00:11:16.940 --> 00:11:18.040
para indexar esses dados

00:11:18.040 --> 00:11:18.960
executando o assistente

00:11:18.960 --> 00:11:19.860
de importação de dados,

00:11:19.980 --> 00:11:20.620
apontando para o seu

00:11:20.620 --> 00:11:21.120
Blob Storage

00:11:21.120 --> 00:11:22.180
e deixando o processo rodar.

00:11:22.720 --> 00:11:24.160
O serviço lê cada documento,

00:11:24.320 --> 00:11:25.120
divide os em partes,

00:11:25.300 --> 00:11:26.180
cria vetores de embedding

00:11:26.180 --> 00:11:27.700
e constrói um índice pesquisável.

00:11:27.900 --> 00:11:28.980
É, todo o processo

00:11:28.980 --> 00:11:29.820
leva apenas alguns minutos.

00:11:30.360 --> 00:11:30.960
Passo 3.

00:11:31.100 --> 00:11:32.380
Vá até o Azure AI Foundry

00:11:32.380 --> 00:11:32.960
e crie um agente.

00:11:33.660 --> 00:11:34.720
Implante o GPT-4O

00:11:34.720 --> 00:11:35.360
como seu modelo.

00:11:35.620 --> 00:11:36.760
Escreva um prompt de sistema

00:11:36.760 --> 00:11:37.360
instruindo-o

00:11:37.360 --> 00:11:38.460
a usar apenas o contexto

00:11:38.460 --> 00:11:38.900
fornecido

00:11:38.900 --> 00:11:39.760
e a citar suas fontes,

00:11:39.840 --> 00:11:40.740
então conecte seu índice

00:11:40.740 --> 00:11:41.680
do Azure AI Search

00:11:41.680 --> 00:11:42.780
como fonte de conhecimento.

00:11:43.340 --> 00:11:43.820
Alguns cliques

00:11:43.820 --> 00:11:44.220
e está pronto.

00:11:44.720 --> 00:11:45.480
Agora um cliente pergunta

00:11:45.480 --> 00:11:46.100
qual é o hotel

00:11:46.100 --> 00:11:47.040
mais bem avaliado em Dubai

00:11:47.040 --> 00:11:47.980
por menos de US$ 300?

00:11:48.600 --> 00:11:50.000
O agente recebe essa pergunta

00:11:50.000 --> 00:11:51.420
e envia para o Azure AI Search.

00:11:51.920 --> 00:11:52.820
O Azure AI Search

00:11:52.820 --> 00:11:53.500
converte a pergunta

00:11:53.500 --> 00:11:53.900
em um vetor

00:11:53.900 --> 00:11:54.560
e encontra as partes

00:11:54.560 --> 00:11:55.220
mais relevantes

00:11:55.220 --> 00:11:56.360
de suas avaliações e folhetos.

00:11:56.920 --> 00:11:57.940
Essas partes são passadas

00:11:57.940 --> 00:11:58.820
para o GPT-4A

00:11:58.820 --> 00:11:59.780
junto com a pergunta original.

00:12:00.580 --> 00:12:01.200
O modelo Asley

00:12:01.200 --> 00:12:02.500
identifica a melhor correspondência

00:12:02.500 --> 00:12:03.280
e gera uma resposta

00:12:03.280 --> 00:12:03.900
com citações

00:12:03.900 --> 00:12:05.060
que apontam para seus documentos

00:12:05.060 --> 00:12:05.400
de origem.

00:12:05.840 --> 00:12:06.320
O ponto é,

00:12:06.320 --> 00:12:07.860
o LNM nunca memorizou

00:12:07.860 --> 00:12:08.300
esses dados.

00:12:08.840 --> 00:12:09.540
Ele nunca foi treinado

00:12:09.540 --> 00:12:10.360
com suas avaliações de hotel.

00:12:10.660 --> 00:12:11.360
Ele trabalha com seu

00:12:11.360 --> 00:12:12.560
conteúdo específico sempre.

00:12:13.020 --> 00:12:14.220
Adicione novas avaliações amanhã

00:12:14.220 --> 00:12:14.920
e as respostas serão

00:12:14.920 --> 00:12:15.820
atualizadas automaticamente.

00:12:16.100 --> 00:12:17.300
Remova um folheto desatualizado

00:12:17.300 --> 00:12:18.120
e ele deixará de aparecer.

00:12:18.440 --> 00:12:18.900
O modelo não precisa

00:12:18.900 --> 00:12:19.560
ser treinado novamente.

00:12:19.920 --> 00:12:20.280
Ele só precisa

00:12:20.280 --> 00:12:21.280
da camada de recuperação correta.

00:12:21.820 --> 00:12:22.500
Então como você realmente

00:12:22.500 --> 00:12:23.580
começa a criar um RAG no Azure?

00:12:24.160 --> 00:12:25.240
Vamos dividir em três etapas.

00:12:25.840 --> 00:12:26.200
Primeiro,

00:12:26.440 --> 00:12:27.200
conheça seus dados.

00:12:28.280 --> 00:12:29.220
Antes mesmo de escolher

00:12:29.220 --> 00:12:29.720
um serviço,

00:12:29.840 --> 00:12:30.980
descubra onde seu conteúdo está,

00:12:31.140 --> 00:12:32.020
como ele é organizado

00:12:32.020 --> 00:12:33.060
e quem deve ter acesso.

00:12:33.820 --> 00:12:34.820
O sucesso ou fracasso do RAG

00:12:34.820 --> 00:12:35.800
depende da qualidade de seus dados.

00:12:36.140 --> 00:12:36.440
Em seguida,

00:12:36.520 --> 00:12:37.000
mantém a Simpsons.

00:12:37.380 --> 00:12:38.580
Não complique demais a configuração.

00:12:39.040 --> 00:12:39.560
Use o assistente

00:12:39.560 --> 00:12:40.320
de importação de dados

00:12:40.320 --> 00:12:41.160
no Azure AI Search

00:12:41.160 --> 00:12:41.860
para indexar apenas

00:12:41.860 --> 00:12:42.800
um conjunto de documentos.

00:12:43.260 --> 00:12:44.260
Teste com consultas básicas.

00:12:44.700 --> 00:12:45.400
Certifique-se de que

00:12:45.400 --> 00:12:45.960
sua recuperação

00:12:45.960 --> 00:12:46.760
funcione perfeitamente

00:12:46.760 --> 00:12:47.560
antes de adicionar o LNM.

00:12:48.140 --> 00:12:49.380
A maioria das falhas no RAG

00:12:49.380 --> 00:12:50.180
não são problemas de mudança.

00:12:50.740 --> 00:12:51.700
São problemas de recuperação.

00:12:52.120 --> 00:12:52.600
Último passo,

00:12:52.680 --> 00:12:53.280
adicione o LNM.

00:12:53.920 --> 00:12:54.700
Assim que sua pesquisa

00:12:54.700 --> 00:12:55.840
retornar os resultados corretos,

00:12:55.920 --> 00:12:56.920
você adiciona a camada de geração.

00:12:57.400 --> 00:12:57.880
É nesse momento

00:12:57.880 --> 00:12:58.940
que você conecta o Azure Open AI

00:12:58.940 --> 00:13:00.020
e escreve seu prompt de sistema.

00:13:00.640 --> 00:13:01.060
O ponto é,

00:13:01.060 --> 00:13:02.260
RAG não é algo que você compra,

00:13:02.760 --> 00:13:03.700
é um padrão que você constrói.

00:13:04.460 --> 00:13:05.560
O Azure te dá as peças,

00:13:06.020 --> 00:13:06.540
armazenamento,

00:13:06.640 --> 00:13:07.340
pesquisa, modelos

00:13:07.340 --> 00:13:08.380
e a cola para conectá-los.

00:13:09.680 --> 00:13:10.440
Você só precisa montar

00:13:10.440 --> 00:13:11.260
tudo da maneira certa.

00:13:12.080 --> 00:13:12.680
Se isso te ajudou

00:13:12.680 --> 00:13:13.680
a entender o panorama geral,

00:13:13.860 --> 00:13:14.260
inscreva-se

00:13:14.260 --> 00:13:15.500
para mais explicações simples.

00:13:16.160 --> 00:13:16.760
Deixe um comentário

00:13:16.760 --> 00:13:17.720
com seu caso de uso de RAG.

00:13:18.120 --> 00:13:18.620
Adoraria saber

00:13:18.620 --> 00:13:19.240
o que você está construindo.
