WEBVTT

00:00:00.000 --> 00:00:01.260
O setor nos vendeu um mito.

00:00:01.740 --> 00:00:04.660
Eles nos disseram que as incorporações eram a solução mágica para a inteligência brasileira.

00:00:05.120 --> 00:00:08.360
Você construiu o banco de dados vetorial, ingeriu os documentos, gastou o orçamento.

00:00:08.520 --> 00:00:10.500
E, ainda assim, as alucinações não pararam.

00:00:11.060 --> 00:00:14.120
Na realidade, similaridade matemática não é a mesma coisa que relevância comercial.

00:00:15.040 --> 00:00:16.360
Caímos na armadilha do Top Car.

00:00:16.740 --> 00:00:20.820
Este é o momento em que seu copiloto recupera o ponto de dados mais semelhante no espaço de alta dimensão,

00:00:20.820 --> 00:00:24.880
mas esses dados estão 100% errados para a tarefa específica em questão porque, em 2026,

00:00:25.080 --> 00:00:26.900
a proximidade é um substituto barato para a verdade.

00:00:26.900 --> 00:00:32.000
Se seu projeto de trapos está atualmente paralisado na fase piloto, não é porque a IA é burra.

00:00:32.500 --> 00:00:34.920
É porque sua estratégia de recuperação é construída sob uma ilusão.

00:00:35.360 --> 00:00:37.340
É a falha estrutural dos modelos vetoriais puros.

00:00:38.320 --> 00:00:42.080
A busca por vetores é uma camada de commodities na arquitetura de um sistema de IA moderno.

00:00:42.700 --> 00:00:46.220
É o porão da pilha, não a cobertura, mas nós o temos tratado como se fosse o próprio cérebro.

00:00:46.620 --> 00:00:50.600
A falha fundamental em incorporações de alta dimensão é que elas são imprecisas por design.

00:00:51.280 --> 00:00:53.120
Elas representam conceitos como coordenadas.

00:00:53.560 --> 00:00:56.200
Isso funciona perfeitamente quando você está procurando vibrações ou tópicos gerais.

00:00:56.200 --> 00:00:58.100
Mas o trabalho não acontece na terra das vibrações.

00:00:58.500 --> 00:00:59.800
O trabalho acontece na terra da especificidade.

00:01:00.160 --> 00:01:01.740
E é aqui que o modelo vetorial puro falha.

00:01:02.180 --> 00:01:03.500
Os vetores têm dificuldade com termos exa.

00:01:03.780 --> 00:01:08.380
Pense em códigos de produtos, SKUs, terminologia jurídica, nomes de códigos de projetos internos.

00:01:08.880 --> 00:01:13.700
Para o modelo vetorial, o projeto Phoenix e o projeto Firebird podem parecer matematicamente idênticos

00:01:13.700 --> 00:01:15.180
porque compartilham um cluster semântico,

00:01:15.640 --> 00:01:18.400
mas para sua equipe financeira eles representam dois orçamentos totalmente diferentes.

00:01:19.060 --> 00:01:23.540
Quando você confia apenas em incorporações densas, está essencialmente pedindo a IA para adivinhar com base na vizinhança.

00:01:23.540 --> 00:01:26.640
O resultado é uma taxa de erro de 27% dos negócios.

00:01:27.180 --> 00:01:28.360
Isso não é apenas uma métrica técnica.

00:01:28.820 --> 00:01:33.080
Essa taxa de erro se traduz em 1,8 horas de tempo de funcionário desperdiçado toda semana.

00:01:34.200 --> 00:01:36.060
Pessoas não usam copiloto para trabalhar mais rápido.

00:01:36.760 --> 00:01:39.800
Eles estão usando isso para gerar rascunhos que precisam passar duas horas verificando

00:01:39.800 --> 00:01:41.840
porque o conjunto de recuperação era ruidoso.

00:01:42.300 --> 00:01:43.240
Temos uma crise de precisão.

00:01:43.400 --> 00:01:44.440
E não é um problema de LLM.

00:01:45.140 --> 00:01:49.220
Não é possível consertar isso mudando o GPT-4 e o GPT-5 ou mudando para uma janela de contexto maior.

00:01:49.780 --> 00:01:51.200
É um problema de engenharia de recuperação.

00:01:51.200 --> 00:01:52.500
Fizemos uma suposição enorme.

00:01:52.860 --> 00:01:54.240
Presumimos que a matemática é o contexto.

00:01:54.720 --> 00:01:58.160
Pensávamos que se transformássemos cada documento em uma lista de números, os relacionamentos

00:01:58.160 --> 00:02:00.220
surgiriam, mas o contexto é estrutural.

00:02:01.060 --> 00:02:02.100
Não é apenas probabilístico.

00:02:02.520 --> 00:02:05.860
Em um ambiente empresarial, o significado de um documento não está apenas nas palavras.

00:02:06.000 --> 00:02:09.300
Está nos metadados, nas permissões e no controle de versão específico que um modelo

00:02:09.300 --> 00:02:10.580
vetorial ignora completamente.

00:02:11.260 --> 00:02:15.460
Ao buscar pela política de viagens mais recente, uma busca vetorial encontra o que mais se parece

00:02:15.460 --> 00:02:16.600
com uma política de viagens.

00:02:17.220 --> 00:02:19.540
Ela não encontra necessariamente a que foi aprovada ontem.

00:02:19.540 --> 00:02:21.240
Ela encontra a mais semelhante.

00:02:22.000 --> 00:02:26.040
E se a mais parecida for a versão de 2022 porque tem um texto mais descritivo, é isso

00:02:26.040 --> 00:02:26.740
que seu LLM obtém.

00:02:27.180 --> 00:02:30.120
Então a IA diz ao seu funcionário que ele pode reservar a classe executiva, embora a

00:02:30.120 --> 00:02:31.580
nova política diga apenas econômica.

00:02:32.000 --> 00:02:34.080
Isso é uma alucinação causada por uma base de dados ruim.

00:02:34.560 --> 00:02:35.400
O modelo não mentiu.

00:02:35.460 --> 00:02:36.940
Ele apenas resumiu pela errada de números.

00:02:37.660 --> 00:02:40.840
Isso é o que acontece quando você usa um modelo projetado para descoberta e tenta usá-lo

00:02:40.840 --> 00:02:41.400
para precisão.

00:02:41.400 --> 00:02:45.680
A pesquisa de vetores é excelente para encontrar a agulha no palheiro, se você não se importa

00:02:45.680 --> 00:02:48.200
com qual agulha obter, mas na empresa apenas uma agulha correta.

00:02:48.780 --> 00:02:49.880
As outras 9 são a responsabilidade.

00:02:50.400 --> 00:02:52.880
Atingimos o limite do que a similaridade pura pode fazer por nós.

00:02:53.540 --> 00:02:57.460
Se quisermos atingir o limite de precisão de 0,002 exigem, temos que parar de tratar a

00:02:57.460 --> 00:03:00.960
recuperação como um problema matemático e começar a tratá-la como um problema editorial.

00:03:00.960 --> 00:03:05.700
Precisamos superar a ideia de que próximo o suficiente é aceitável para um sistema

00:03:05.700 --> 00:03:07.780
que deve orientar a tomada de decisões executivas.

00:03:08.340 --> 00:03:11.380
Porque agora os principais resultados K que você está fornecendo ao seu copiloto são

00:03:11.380 --> 00:03:13.460
apenas uma coleção de ruído matematicamente relacionado.

00:03:14.080 --> 00:03:17.000
Você pede a um motor de raciocínio que construiu uma casa sobre fundação de ori.

00:03:17.520 --> 00:03:18.840
Então nos perguntamos por que o Tevazan.

00:03:19.200 --> 00:03:23.560
A mudança de 2025 para 2026 é a percepção de que as incorporações são apenas o ponto

00:03:23.560 --> 00:03:24.140
de partida.

00:03:24.780 --> 00:03:25.660
Elas são a pilha do talvez.

00:03:26.160 --> 00:03:28.480
Para chegar à pilha do sim, precisamos de um tipo diferente de lógica.

00:03:28.480 --> 00:03:31.800
Precisamos reintroduzir as mesmas coisas que pensávamos que as incorporações substituam.

00:03:32.140 --> 00:03:33.880
Precisamos de estrutura, precisamos de âncoras lexicais.

00:03:34.740 --> 00:03:38.300
E o mais importante, precisamos de um supervisor que saiba a diferença entre uma resposta semelhante

00:03:38.300 --> 00:03:38.940
e uma correta.

00:03:39.740 --> 00:03:42.460
Sem isso, seu projeto de trapos não é uma ferramenta de inteligência.

00:03:42.600 --> 00:03:44.840
É apenas uma maneira muito cara e muito rápida de estar errado.

00:03:46.180 --> 00:03:49.580
Mas é aqui que o modelo quebra, porque a similaridade é um substituto barato para a verdade.

00:03:50.760 --> 00:03:52.340
O bairro é um lugar perigoso para se viver.

00:03:52.960 --> 00:03:54.740
Confiamos nesses clusters densos por muito tempo.

00:03:55.000 --> 00:03:58.300
Presumindo que se duas coisas estão próximas uma da outra em um espaço vetorial, elas devem estar

00:03:58.300 --> 00:03:59.840
relacionadas em um sentido comercial, mas não estão?

00:04:00.720 --> 00:04:02.920
É apenas um reflexo dos padrões de uso das palavras.

00:04:03.440 --> 00:04:04.740
É um proxy barato para a verdade.

00:04:05.180 --> 00:04:08.700
E em 2026 o modelo quebra, porque paramos de procurar coisas relacionadas e começamos

00:04:08.700 --> 00:04:09.940
a precisar de coisas verificadas.

00:04:10.640 --> 00:04:13.540
Quando você muda de um ambiente piloto para um ambiente de produção, os riscos mudam.

00:04:13.820 --> 00:04:14.700
O proxy não é mais suficiente.

00:04:15.260 --> 00:04:18.500
Você precisa de algo que ancora e há de volta à linguagem real da sua organização.

00:04:19.380 --> 00:04:22.440
Você precisa da precisão que acidentalmente jogamos fora quando nos dedicamos totalmente

00:04:22.440 --> 00:04:23.080
às incorporações.

00:04:23.080 --> 00:04:25.980
Padrão híbrido, porque o BM25 ainda é importante.

00:04:26.840 --> 00:04:30.160
Se você olhar para a linha de base de produção para 2026, o cenário mudou.

00:04:30.600 --> 00:04:32.640
Não estamos mais falando sobre armazenamentos vetoriais e experimentais.

00:04:32.900 --> 00:04:34.180
Estamos falando sobre o padrão híbrido.

00:04:34.760 --> 00:04:35.460
Os dados são claros.

00:04:36.040 --> 00:04:40.340
72% dos sistemas de hack corporativos bem-sucedidos abandonaram a recuperação vetorial pura.

00:04:40.760 --> 00:04:44.060
Eles implementaram um sistema de caminho duplo que combina o significado dos vetores com

00:04:44.060 --> 00:04:45.560
a precisão da correspondência de palavra-chave.

00:04:46.000 --> 00:04:48.440
Mais especificamente, eles trouxeram de volta o algoritmo BM25.

00:04:48.440 --> 00:04:52.640
Para aqueles que não passaram 20 anos em engenharia de busca, o BM25, o método clássico

00:04:52.640 --> 00:04:55.860
de recuperação esparsa, a lógica é que procura posições exatas de palavras.

00:04:56.280 --> 00:04:58.820
É o método antigo que pensávamos que as incorporações matariam.

00:04:59.220 --> 00:05:01.900
Mas acontece que o método antigo é a única coisa que mantém um novo método honesto.

00:05:02.160 --> 00:05:04.300
Quando você combina esses dois, algo interessante acontece.

00:05:04.540 --> 00:05:07.120
Você obtém um ganho de 17% da recordação de todo o seu conjunto de dados.

00:05:07.540 --> 00:05:11.620
Esses 17% são a diferença entre um funcionário encontrar a resposta em 10 segundos ou desistir

00:05:11.620 --> 00:05:13.400
após três solicitações mal-sucedidas.

00:05:14.160 --> 00:05:17.600
Pense no que acontece quando você para de ignorar as palavras específicas que seus usuários

00:05:17.600 --> 00:05:18.920
realmente digitaram.

00:05:18.920 --> 00:05:24.260
Em um sistema vetorial puro, se um usuário digitar o formulário 10K 2025, o modelo pode

00:05:24.260 --> 00:05:27.780
priorizar um artigo geral sobre relatórios financeiros porque a vibração é semelhante,

00:05:27.880 --> 00:05:32.140
mas com o BM25 na mistura, o sistema vê essa sequência específica de 10K 2025.

00:05:33.000 --> 00:05:35.020
Ele reconhece que esses não são apenas conceitos.

00:05:35.540 --> 00:05:36.440
São âncoras lexicais.

00:05:36.940 --> 00:05:38.880
A recuperação híbrida permite que o sistema diga

00:05:38.880 --> 00:05:42.140
Sei que você está interessado em relatórios financeiros, mas também vejo que você solicitou

00:05:42.140 --> 00:05:43.560
especificamente este documento exato.

00:05:43.900 --> 00:05:45.800
Isso resolve o problema de consulta fora do domínio.

00:05:45.800 --> 00:05:49.240
Este é o maior obstáculo para qualquer modelo de incorporação pré-treinado.

00:05:49.580 --> 00:05:52.780
Seu modelo vetorial provavelmente foi treinado em um corpus geral de texto da internet.

00:05:53.260 --> 00:05:56.660
Ele sabe que é um contrato, mas não conhece o jargão específico do seu setor.

00:05:57.480 --> 00:06:00.780
Ele não entende as siglas proprietárias usadas em seu departamento de engenharia.

00:06:01.340 --> 00:06:04.300
O Dnum viu a abreviatura interna que sua equipe de logística usa para descrever atrasos

00:06:04.300 --> 00:06:04.720
de remessa.

00:06:05.260 --> 00:06:07.420
Para um modelo de incorporação geral, essas palavras são ruídas.

00:06:07.800 --> 00:06:08.560
Elas estão fora do domínio.

00:06:09.380 --> 00:06:11.420
Mas para o BM25, essas palavras são sinais.

00:06:11.420 --> 00:06:14.940
Ao executar uma pesquisa por palavra-chave junto com a pesquisa por vetor, você cria

00:06:14.940 --> 00:06:15.640
uma rede de segurança.

00:06:16.540 --> 00:06:20.380
Você garante que, se um usuário digitar um termo específico que o modelo de incorporação

00:06:20.380 --> 00:06:23.460
não entenda, o sistema ainda poderá encontrar o documento com base no texto literal.

00:06:24.540 --> 00:06:26.700
É assim que você atinge o limite de precisão de 08.

00:06:27.340 --> 00:06:30.360
Em 2025, ficaremos felizes se a IA estivesse quase certa.

00:06:30.860 --> 00:06:33.680
Em 2026, 80% de precisão é o mínimo para a entrada.

00:06:34.040 --> 00:06:35.560
O híbrido é o primeiro passo em direção a essa meta.

00:06:35.920 --> 00:06:37.260
Trata-se de ancorar a IA na realidade.

00:06:37.760 --> 00:06:39.040
Pense nisso como um sistema de verificação do.

00:06:39.040 --> 00:06:40.640
O caminho do vetor lida com a intenção.

00:06:41.020 --> 00:06:41.940
O que eles estão tentando fazer.

00:06:42.420 --> 00:06:43.900
O caminho da palavra-chave lida com os fatos.

00:06:44.360 --> 00:06:45.780
O que eles realmente disseram.

00:06:46.720 --> 00:06:49.900
Quando ambos os caminhos concordam no documento, você tem um candidato de alta confiança.

00:06:50.420 --> 00:06:52.920
Quando eles discordam, você tem um sinal de que precisa de mais processamento.

00:06:53.200 --> 00:06:55.360
Mas mesmo com essa abordagem híbrida, ainda temos um problema.

00:06:55.860 --> 00:06:56.740
Você melhorou a pilha de talvez.

00:06:57.200 --> 00:06:59.720
Posso ir de 78% de recall para 91% de recall.

00:07:00.260 --> 00:07:04.140
Você está encontrando mais coisas certas, mas ainda está entregando ao LLM uma pilha de candidatos.

00:07:04.880 --> 00:07:07.660
Se você já olhou para um conjunto de recuperação, sabe que os 10 primeiros resultados

00:07:07.660 --> 00:07:08.580
geralmente são uma bagunça.

00:07:08.580 --> 00:07:10.740
Você pode ter a resposta perfeita na posição 4.

00:07:11.540 --> 00:07:15.400
Mas na posição 1, você tem um documento que por acaso tem a palavra-chave repetida 20 vezes.

00:07:16.520 --> 00:07:20.120
Ou você tem um documento que é matematicamente semelhante, mas completamente irrelevante para o ano atual.

00:07:20.680 --> 00:07:22.420
Pesquisa híbrida fornece as peças do quebra-cabeça.

00:07:22.780 --> 00:07:24.400
Ela não necessariamente monta o quebra-cabeça.

00:07:24.400 --> 00:07:28.500
Presumimos que se dermos ao LLM os 5 primeiros resultados, eles seriam inteligentes o suficiente

00:07:28.500 --> 00:07:29.140
para escolher o certo.

00:07:29.580 --> 00:07:31.960
Mas os LLMs são suscetíveis a documentos que distraem.

00:07:33.020 --> 00:07:36.260
Se o primeiro resultado for um documento muito longo e aparentemente muito confiante, mas

00:07:36.260 --> 00:07:39.560
a verdade estiver errado, o LLM geralmente priorizará essa informação em vez do correto

00:07:39.560 --> 00:07:40.840
e mais curto na posição 3.

00:07:40.840 --> 00:07:43.320
Esse é o fenômeno da perda no meio.

00:07:44.000 --> 00:07:46.160
A ordem das informações determina a qualidade da resposta.

00:07:46.580 --> 00:07:49.500
Portanto, embora a pesquisa híbrida seja a linha de base, ela não é a resposta final.

00:07:49.780 --> 00:07:50.620
É o sistema de filtrar.

00:07:51.280 --> 00:07:53.520
Ele permite que você passe de 1 milhão de documentos para 50.

00:07:53.680 --> 00:07:57.020
Mas 50 documentos ainda são muito ruído para uma decisão empresarial de alto risco.

00:07:57.600 --> 00:07:59.260
Você ainda está analisando uma pilha de candidatos.

00:07:59.880 --> 00:08:01.760
Você moveu a agulha, mas não fechou a lacuna.

00:08:02.280 --> 00:08:05.660
Para realmente atingir a precisão de 0,9 que os setores de saúde e finanças exigem,

00:08:05.700 --> 00:08:07.220
você não pode simplesmente parar na recuperação.

00:08:07.220 --> 00:08:10.900
Você precisa adicionar uma camada de raciocínio antes que os dados cheguem ao LLM.

00:08:11.460 --> 00:08:13.960
Você precisa de um supervisor que possa analisar esses 50 candidatos

00:08:13.960 --> 00:08:16.960
e classificá-los com base na lógica real, não apenas na frequência ou nas coordenadas.

00:08:17.600 --> 00:08:20.480
Porque agora, mesmo com a pesquisa híbrida, seu copiloto ainda está supondo.

00:08:21.200 --> 00:08:23.380
Ele está apenas fazendo um palpite muito mais informado do que antes.

00:08:23.800 --> 00:08:24.880
Resolvemos o problema de localização.

00:08:25.420 --> 00:08:26.900
Agora temos que resolver o problema de classificação.

00:08:27.240 --> 00:08:29.400
E isso requer uma camada arquitetônica completamente diferente.

00:08:30.300 --> 00:08:33.100
Mesmo com a pesquisa híbrida, você ainda está analisando uma pilha de candidatos.

00:08:33.500 --> 00:08:34.160
Você precisa de um supervisor.

00:08:34.160 --> 00:08:37.940
O problema com o modelo híbrido é que ele não tem uma opinião.

00:08:38.640 --> 00:08:42.800
Ele gera uma lista com base em dois sistemas de pontuação diferentes que não falam a mesma língua.

00:08:43.340 --> 00:08:46.900
Você está mesclando coordenadas de um espaço vetorial a pontuações de frequência de um índice.

00:08:47.720 --> 00:08:51.260
O resultado é uma lista combinada dos 50 melhores, que é tecnicamente melhor do que antes, mas ainda não.

00:08:51.540 --> 00:08:52.900
Não foi verificada fundamentalmente.

00:08:53.300 --> 00:08:56.400
É como uma agência de recrutamento enviando a você 50 currículos sem realmente lê-los.

00:08:56.760 --> 00:09:01.100
Eles filtraram por palavra-chave a experiência geral, mas não verificaram se a pessoa realmente pode fazer o trabalho.

00:09:01.100 --> 00:09:03.940
No pipeline do RAG, o LLM é seu gerente de contratação.

00:09:04.200 --> 00:09:06.900
Se você entregar 50 currículos a esse gerente, ele ficará sobrecarregado.

00:09:07.260 --> 00:09:11.280
Ele dará uma olhada nos três primeiros, se distrairá com uma mentira bem formatada e fará uma contratação ruim.

00:09:11.600 --> 00:09:14.360
Para corrigir isso, precisamos parar de tratar a pesquisa como um processo de venda.

00:09:14.900 --> 00:09:17.620
Precisamos introduzir uma camada secundária que atue como um guardião.

00:09:18.200 --> 00:09:19.760
Porque agora você não está fornecendo uma resposta.

00:09:20.180 --> 00:09:21.400
Você está fornecendo uma tarefa de casa.

00:09:21.780 --> 00:09:23.240
E a sua IA não serve para fazer dever de casa.

00:09:23.580 --> 00:09:24.480
Ele foi criado para raciocinar.

00:09:24.480 --> 00:09:27.600
Se você quer que ele raciocine corretamente, precisa dar a ele o ponto de partida certo.

00:09:27.940 --> 00:09:32.880
Você precisa de um supervisor que possa analisar os 50 principais candidatos e decidir qual deles realmente contém a verdade.

00:09:33.580 --> 00:09:35.400
Classificação semântica ou filtro final para a verdade.

00:09:36.200 --> 00:09:37.920
É aqui que apresentamos o Re-Ranker L2.

00:09:38.580 --> 00:09:41.480
Na arquitetura de 2026, esta camada secundária não negociável.

00:09:42.460 --> 00:09:44.340
Ela atua como editora para seus resultados de pesquisa.

00:09:44.740 --> 00:09:46.340
Pense no fluxo de trabalho que queremos até agora.

00:09:47.240 --> 00:09:49.600
Primeiro, a pesquisa híbrida recupera um amplo conjunto de candidatos.

00:09:49.600 --> 00:09:53.620
É rápida, eficiente, verifica milhões de documentos em milissegundos, mas também é superficial.

00:09:54.840 --> 00:09:56.060
O Re-Ranker L2 é o oposto.

00:09:56.460 --> 00:09:57.800
Ele não analisa milhões de documentos.

00:09:58.140 --> 00:10:03.480
Ele analisa apenas os 50 principais, mas os analisa com um nível de profundidade que a camada de pesquisa inicial nunca conseguiria atingir.

00:10:04.140 --> 00:10:07.360
Especivamente no ecossistema da Microsoft, estamos falando sobre modelos derivados do Bing.

00:10:08.160 --> 00:10:09.640
Esses são transformadores de atenção coisa.

00:10:10.500 --> 00:10:15.180
Ao contrário da pesquisa vetorial inicial, que compara uma consulta a uma incorporação de documento pré-calculada,

00:10:15.240 --> 00:10:18.100
o Re-Ranker analisa a consulta e o documento juntos ao mesmo tempo.

00:10:18.100 --> 00:10:21.260
Ele realiza uma comparação semântica profunda do texto real.

00:10:21.680 --> 00:10:24.380
Ele não está mais apenas analisando coordenadas em um espaço de alta dimensão.

00:10:25.020 --> 00:10:29.880
Ele está realizando um raciocínio profundo para entender se o documento realmente contém a resposta para a pergunta específica feita.

00:10:30.640 --> 00:10:33.520
É aqui que vemos a pontuação do Re-Ranker de pesquisa de anúncios entrar em jogo.

00:10:35.280 --> 00:10:38.260
Essa pontuação é diferente das pontuações de similaridade que você vê na primeira capa.

00:10:38.640 --> 00:10:41.560
Uma pontuação de similaridade informa este documento é matematicamente próxima.

00:10:42.120 --> 00:10:45.500
A pontuação do Re-Ranker informa este documento é relevante para a intenção do usuário.

00:10:45.500 --> 00:10:49.040
Ele muda a meta de isso é próximo? Para isso responde a pergunta?

00:10:49.940 --> 00:10:52.720
Essa distinção é a única maneira de sobreviver em setores regulamentados.

00:10:53.240 --> 00:10:56.740
Se você está em finanças, assistência médica ou jurídica, a precisão de 0,8 é um fracasso.

00:10:57.100 --> 00:10:58.380
Você precisa de 0,1 é um mais.

00:10:58.920 --> 00:11:02.460
Não é possível atingir esse nível de precisão com o processo de recuperação de estágio único.

00:11:03.220 --> 00:11:07.180
O Re-Ranker é o que permite que você mova a agulha da posição correta para a posição empresarial.

00:11:08.260 --> 00:11:11.120
Ele resolve o modo de falha mais comum no REG, o problema da ordem errada.

00:11:11.120 --> 00:11:15.400
Em uma pesquisa padrão, a resposta perfeita pode estar na posição 8, mas como não tem

00:11:15.400 --> 00:11:19.100
a densidade de palavra-chave correta ou a incorporação é um pouco imprecisa, ela não

00:11:19.100 --> 00:11:19.720
chega ao topo.

00:11:20.120 --> 00:11:23.060
O LLM, sendo preguiçoso, foca nos três primeiros resultados.

00:11:23.780 --> 00:11:27.200
Ele não percebe a verdade na posição 8 e gera uma alucinação com base no ruído

00:11:27.200 --> 00:11:27.960
na posição 1.

00:11:28.420 --> 00:11:29.420
O Re-Ranker interrompe isso.

00:11:30.000 --> 00:11:32.860
Ele pega a resposta perfeita na posição 8 e a promove para a posição 1.

00:11:33.120 --> 00:11:36.640
Ele identifica que, embora o documento 1 tenha mais palavras-chave, o documento 8 tem a

00:11:36.640 --> 00:11:39.260
substância semântica real necessária para satisfazer a consulta.

00:11:39.260 --> 00:11:43.220
Essa mudança da recuperação para a classificação é a mudança arquitetônica mais importante

00:11:43.220 --> 00:11:44.240
que você pode fazer este ano.

00:11:44.900 --> 00:11:47.340
Precisamos parar de obcecar com a quantidade de informações que achamos.

00:11:47.740 --> 00:11:51.240
Precisamos começar a ficar obcecados com a ordem que essas informações são apresentadas,

00:11:51.340 --> 00:11:54.020
porque a ordem das informações é mais informações, é mais importante do que a quantidade

00:11:54.020 --> 00:11:54.420
de informações.

00:11:54.760 --> 00:11:57.880
Se a resposta certa estiver no final da pilha é como se ela não existisse.

00:11:58.540 --> 00:12:00.740
O Re-Ranker garante que a verdade esteja sempre no topo.

00:12:01.340 --> 00:12:02.800
Mas não se trata apenas de mover documentos.

00:12:03.340 --> 00:12:05.900
A camada L2 também fornece legendas semânticas e destaques.

00:12:05.900 --> 00:12:10.660
Ela identifica as frases textuais específicas dentro do documento que são mais relevantes.

00:12:11.460 --> 00:12:13.260
Isso fornece ao LLM uma folha de referência.

00:12:13.620 --> 00:12:17.660
Em vez de pedir ao modelo para ler um PDF de 10 páginas e encontrar a agulha, o Re-Ranker

00:12:17.660 --> 00:12:21.240
aponta diretamente para a agulha e diz, leia estas três frases especificamente.

00:12:22.040 --> 00:12:24.200
Isso reduz a carga cognitiva no LLM.

00:12:24.860 --> 00:12:28.320
Ele minimiza o risco de o modelo se distrair com o contexto irrelevante em outras partes do

00:12:28.320 --> 00:12:28.800
documento.

00:12:29.300 --> 00:12:32.160
É a diferença entre dar alguém um livro e dar a essa pessoa um parágrafo destacado.

00:12:32.160 --> 00:12:36.560
Qual você acha que leva a uma resposta mais rápida e precisa em 2026?

00:12:36.700 --> 00:12:38.280
É assim que resolveremos a lacuna de confiança.

00:12:38.580 --> 00:12:42.400
Os usuários param de confiar no Copilot quando ele lhes dá três tipos de respostas e perde

00:12:42.400 --> 00:12:43.480
a resposta definitiva.

00:12:44.000 --> 00:12:47.240
O Re-Ranker é a ferramenta que garante que a resposta definitiva seja sempre a primeira

00:12:47.240 --> 00:12:47.900
coisa que o usuário vê.

00:12:48.320 --> 00:12:49.720
Ele atua como um filtro final para a verdade.

00:12:50.260 --> 00:12:52.800
Ele preenche a lacuna entre dados brutos e inteligência acionada.

00:12:53.480 --> 00:12:55.340
No entanto, temos que ser honestos sobre as compensações.

00:12:55.880 --> 00:12:57.500
Esse nível de precisão não é um almoço grave.

00:12:57.500 --> 00:13:01.040
Quando você passa de uma simples pesquisa baseada em matemática para um classificador

00:13:01.040 --> 00:13:02.860
baseado em raciocínio, a economia do seu sistema muda.

00:13:03.080 --> 00:13:03.960
Você está adicionando computação.

00:13:04.220 --> 00:13:05.060
Você está adicionando atência.

00:13:05.680 --> 00:13:08.940
Em um ambiente hospedado na nuvem como o Azure, você está adicionando custos direto.

00:13:09.340 --> 00:13:13.300
Se você não gerenciar essa camada corretamente, a precisão que você ganha será pagada pela

00:13:13.300 --> 00:13:15.200
conta de infraestrutura que você recebe no final do mês.

00:13:15.840 --> 00:13:19.380
Precisamos entender a economia da precisão porque, na empresa, uma resposta perfeita que

00:13:19.380 --> 00:13:22.740
custa o S10 dólares para ser gerada geralmente é menos valiosa do que uma resposta boa

00:13:22.740 --> 00:13:24.140
o suficiente que custa 10 centavos.

00:13:24.140 --> 00:13:29.580
O desafio de 2026 é equilibrar a necessidade de precisão de 0,9 com a realidade de um

00:13:29.580 --> 00:13:30.420
orçamento finito.

00:13:31.260 --> 00:13:34.460
Você precisa do supervisor, mas também precisa ter certeza de que ele não seja a pessoa mais

00:13:34.460 --> 00:13:35.260
cara do prédio.

00:13:36.200 --> 00:13:37.540
Mas essa precisão tem um custo.

00:13:37.940 --> 00:13:40.540
E se você não gerenciar a infraestrutura, o ROI desaparece.

00:13:41.840 --> 00:13:45.480
A mudança para uma arquitetura de recuperação em vários estágios cria uma tensão fundamental

00:13:45.480 --> 00:13:47.900
entre a qualidade da resposta e a sustentabilidade do orçamento.

00:13:48.540 --> 00:13:52.760
Chegamos a um ponto em que a possibilidade técnica de precisão de 0,9 é real, mas a viabilidade

00:13:52.760 --> 00:13:54.300
financeira é frequentemente ignorada.

00:13:54.480 --> 00:13:55.120
É frequente ignorar.

00:13:55.200 --> 00:13:58.600
Nos primeiros dias do REG, estávamos focados em provar que o conceito funcionava.

00:13:58.700 --> 00:14:01.240
Não nos importávamos com custo por consulta porque os volumes eram baixos.

00:14:01.660 --> 00:14:04.520
Mas ao escalar de 10 para 10 mil usuários, a matemática muda.

00:14:05.460 --> 00:14:09.020
A camada secundária de raciocínio que torna o sistema confiável também é a camada que

00:14:09.020 --> 00:14:10.740
pode torná-lo proibitivamente caro.

00:14:11.140 --> 00:14:14.880
Porque na empresa a precisão é um bem de luxo e se você não projetou sua infraestrutura

00:14:14.880 --> 00:14:16.520
para lidar com o peso desse luxo.

00:14:16.760 --> 00:14:21.020
Seu projeto consumirá seu próprio ROE antes mesmo de entregar um único dólar de valor

00:14:21.020 --> 00:14:22.020
mensurável.

00:14:23.360 --> 00:14:24.700
A economia da precisão.

00:14:25.060 --> 00:14:26.100
Desempenho versus custo.

00:14:26.800 --> 00:14:30.420
A realidade da camada padrão na pesquisa de Iado Azur é que a classificação semântica

00:14:30.420 --> 00:14:31.480
é um serviço pago.

00:14:32.140 --> 00:14:34.800
Não pode simplesmente mudar uma chave e esperar que o orçamento se mantenha.

00:14:35.700 --> 00:14:39.640
Ao habilitar a pontuação do reclassificador de busca, você deixa o custo fixo das unidades

00:14:39.640 --> 00:14:43.380
básicas para entrar no mundo de faturamento variável por tempo de consulta.

00:14:44.180 --> 00:14:44.980
Vamos analisar os números.

00:14:45.280 --> 00:14:48.800
Para um volume moderado de consultas, digamos 50 mil pesquisas por mês e um conjunto de

00:14:48.800 --> 00:14:52.420
dados de 20 giga, você está olhando para uma sobrecarga mensal entre o S e 300 dólares.

00:14:52.740 --> 00:14:55.700
Isso pode parecer administrável para um único departamento, mas quando você considera

00:14:55.700 --> 00:14:59.280
que esta é apenas a camada de pesquisa e ainda tem que pagar pelos tokens LLM e pela

00:14:59.280 --> 00:15:02.300
geração de incorporação, o custo total de propriedade começa a disparar.

00:15:02.580 --> 00:15:03.160
Começa a disparar.

00:15:03.300 --> 00:15:07.180
Vimos organizações lançarem um piloto de copiloto, obterem um sucesso enorme na satisfação

00:15:07.180 --> 00:15:10.700
do usuário e, em seguida, imediatamente cancelarem o projeto quando a primeira fatura completa

00:15:10.700 --> 00:15:10.980
chega.

00:15:11.620 --> 00:15:14.480
Elas estavam tão focadas no desempenho que se esqueceram de verificar o preço desse

00:15:14.480 --> 00:15:14.940
desempenho.

00:15:15.600 --> 00:15:19.040
Esse é o principal motivo pelo qual os projetos de reggae morrem na transição do laboratório

00:15:19.040 --> 00:15:19.320
à produção.

00:15:19.820 --> 00:15:21.940
O custo de estar certo é maior do que o custo de estar errado.

00:15:22.500 --> 00:15:23.400
Então, como resolvemos isso?

00:15:23.720 --> 00:15:26.300
Como mantemos a precisão sem levar o departamento de TI à falência?

00:15:26.740 --> 00:15:27.960
A resposta está no caixa semântico.

00:15:28.620 --> 00:15:31.480
Em 2026, o caixa semântico será o salvador do ROI para a empresa.

00:15:32.300 --> 00:15:33.640
Este é o problema que estamos resolvendo.

00:15:33.640 --> 00:15:37.280
Funcionários costumam fazer as mesmas perguntas de formas ligeiramente diferentes.

00:15:37.820 --> 00:15:38.660
Qual é a política de férias?

00:15:39.400 --> 00:15:40.840
Você pode me mostrar as regras para a folga?

00:15:41.720 --> 00:15:42.900
Quantos dias de férias eu tenho?

00:15:43.340 --> 00:15:46.360
Em um pipeline de reggae padrão, cada uma dessas perguntas aciona uma recuperação

00:15:46.360 --> 00:15:48.420
completa ou uma reclassificação semântica ou uma chamada LM.

00:15:48.880 --> 00:15:50.460
Você está pagando pela mesma resposta três vezes.

00:15:50.840 --> 00:15:51.920
A arte semântica impede esse perdício.

00:15:52.300 --> 00:15:55.920
Ele usa um modelo de incorporação leve para identificar que essas três perguntas compartilham

00:15:55.920 --> 00:15:56.660
a mesma intenção.

00:15:57.020 --> 00:16:01.120
Em vez de voltar ao mecanismo de raciocínio caro, o sistema extrai a resposta verificada de

00:16:01.120 --> 00:16:02.040
um cache de alta velocidade.

00:16:02.040 --> 00:16:05.500
Isso pode reduzir suas chamadas LLM 60% ou 80%.

00:16:05.500 --> 00:16:07.980
E a transformação da experiência do usuário é ainda mais drástica.

00:16:08.580 --> 00:16:12.220
Você passa de três segundos de espera por inferência GPT-4 para um cache hit de 50

00:16:12.220 --> 00:16:12.460
meses.

00:16:12.960 --> 00:16:14.500
Isso representa uma melhora de velocidade de 250.

00:16:14.920 --> 00:16:16.940
De repente, o copiloto parece instantâneo.

00:16:17.500 --> 00:16:20.520
Ele deixa de ser uma ferramenta lenta que apenas toleram para se tornar um assistente

00:16:20.520 --> 00:16:22.460
responsivo que todos gostam de usar.

00:16:23.140 --> 00:16:24.400
Mas o cache é apenas metade da batalha.

00:16:24.760 --> 00:16:26.200
A outra metade é ativação seletiva.

00:16:26.840 --> 00:16:30.480
Um dos maiores erros que os arquitetos cometem é aplicar a classificação semântica a cada

00:16:30.480 --> 00:16:32.020
consulta.

00:16:32.020 --> 00:16:35.160
Não precisa de um transformador de raciocínio profundo para achar um documento chamado

00:16:35.160 --> 00:16:36.940
modelo de relatório de despesas 2025.

00:16:36.940 --> 00:16:38.880
Uma busca básica já basta.

00:16:39.580 --> 00:16:42.620
A estratégia para 2026 é manter os acertos simples na camada barata.

00:16:43.040 --> 00:16:46.540
Você só deve acionar o reclassificador L2 em consultas complexas de linguagem natural

00:16:46.540 --> 00:16:47.620
em que a intenção é ambígua.

00:16:48.380 --> 00:16:52.320
Ao implementar uma porta lógica na frente do seu pipeline, você pode reservar seu orçamento

00:16:52.320 --> 00:16:54.160
para as consultas que realmente precisam extra.

00:16:54.800 --> 00:16:55.980
Pense nisso como um sistema de triagem.

00:16:56.400 --> 00:16:58.860
A camada barata lida com 70% das solicitações de rotina.

00:16:59.300 --> 00:17:02.720
A camada semântica cara lida com os 30% que realmente gera um valor comercial.

00:17:03.480 --> 00:17:04.620
É assim que você equilibra o orçamento.

00:17:04.620 --> 00:17:07.600
Você garante que o custo da pesquisa não exceda o valor da resposta.

00:17:08.380 --> 00:17:12.000
Se uma consulta vale 10 centavos de produtividade, não gaste um dólar de computação para resolvê-la.

00:17:12.780 --> 00:17:14.780
Também temos que considerar a hierarquização dos dados em si.

00:17:15.300 --> 00:17:17.100
Nem todos os documentos exigem precisão de zero.

00:17:17.660 --> 00:17:20.820
O cardápio interno do seu refeitório não precisa de um reclassificador do Bing, mas

00:17:20.820 --> 00:17:22.220
os seus documentos de conformidade sim.

00:17:22.900 --> 00:17:26.560
Ao particionar seus índices de pesquisa e aplicar diferentes estratégias de classificação

00:17:26.560 --> 00:17:30.000
a cada um, você pode otimizar seus gastos com base na criticidade das informações.

00:17:31.200 --> 00:17:32.920
Isso é o que chamamos de recuperação baseada em valor.

00:17:32.920 --> 00:17:35.840
É a percepção de que a precisão não é escolha binária.

00:17:36.660 --> 00:17:37.460
É uma escala móvel.

00:17:38.160 --> 00:17:41.300
Como arquiteto, seu trabalho é mover esse controle deslizante com base nas necessidades

00:17:41.300 --> 00:17:42.440
específicas da unidade de negócio.

00:17:42.840 --> 00:17:45.120
O objetivo não é criar o sistema mais preciso possível.

00:17:45.500 --> 00:17:48.540
O objetivo é criar o sistema mais preciso que a empresa pode realmente estar ao luxo

00:17:48.540 --> 00:17:48.980
de executar.

00:17:49.420 --> 00:17:52.900
Porque uma IA perfeita que é cara demais para ser usada é apenas um peso de papel

00:17:52.900 --> 00:17:53.580
muito sofisticado.

00:17:54.080 --> 00:17:56.940
Em 2026, os vencedores não serão aqueles com os maiores benchmarks.

00:17:56.940 --> 00:18:02.620
Serão aqueles que descobriram como entregar 0,85% a um custo que escala linearmente com

00:18:02.620 --> 00:18:03.300
seu crescimento.

00:18:03.760 --> 00:18:07.120
São eles que trataram a infraestrutura como uma restrição, não como uma reflexão tardia.

00:18:07.960 --> 00:18:09.980
Gerenciar o custo é o lado técnico da equação.

00:18:10.680 --> 00:18:13.240
Mas mesmo que você acerte na economia, ainda terá um problema humano.

00:18:13.660 --> 00:18:17.640
Você precisa resolver a lacuna entre as licenças que comprou e a confiança real que seus usuários

00:18:17.640 --> 00:18:18.280
têm no sistema.

00:18:18.760 --> 00:18:21.340
Porque se eles não confiarem na resposta, não importa quanto custou para gerar.

00:18:21.800 --> 00:18:23.500
Eles simplesmente voltarão a pesquisar do jeito antigo.

00:18:23.500 --> 00:18:25.340
E isso nos leva à lacuna de governança.

00:18:25.880 --> 00:18:27.660
Porque a confiança não se trata apenas de precisão técnica.

00:18:28.220 --> 00:18:29.980
Trata-se da estrutura que envolve essa precisão.

00:18:30.340 --> 00:18:34.200
Trata-se de saber que a IA não está apenas certa, mas que ela pode estar certa em primeiro

00:18:34.200 --> 00:18:34.480
lugar.

00:18:35.620 --> 00:18:39.280
Gerenciar o custo é o lado técnico, mas o lado executivo diz respeito à lacuna de governança.

00:18:40.320 --> 00:18:42.740
Otimizar sua infraestrutura resolve apenas parte da equação.

00:18:43.380 --> 00:18:47.120
Você pode construir o mecanismo de precisão mais econômico do mundo, mas se sua equipe de

00:18:47.120 --> 00:18:50.420
liderança estiver apavorada com o que ele pode revelar, o projeto nunca sairá do sandbox.

00:18:50.420 --> 00:18:54.180
Chegamos a um ponto em que o gargalo não é o orçamento de computação, a latência

00:18:54.180 --> 00:18:54.920
do reclassificador.

00:18:55.800 --> 00:18:59.140
O verdadeiro atrito é a lacuna entre as licenças que você atribuiu e a autoridade

00:18:59.140 --> 00:19:00.920
real que a IA tem para operar.

00:19:02.000 --> 00:19:04.260
A lacuna de governança é porque políticas falham no uso.

00:19:04.980 --> 00:19:07.920
Atualmente, temos 15 milhões de licenças pagas no ecossistema.

00:19:08.120 --> 00:19:11.720
No entanto, a taxa de conversão no trabalho segue estagnada em 35%.

00:19:11.720 --> 00:19:15.580
Isso significa que dois em cada três usuários licenciados estão essencialmente ignorando

00:19:15.580 --> 00:19:15.960
a ferramenta.

00:19:16.400 --> 00:19:18.260
Eles param de usá-la após a terceira alucinação.

00:19:18.260 --> 00:19:21.860
A confiança é frágil, uma recuperação ruim a destrói mais rápido do que qualquer

00:19:21.860 --> 00:19:22.920
treinamento a constrói.

00:19:24.420 --> 00:19:26.980
A governança não é apenas um documento, é um controle técnico.

00:19:28.300 --> 00:19:30.340
Sem ele, seu projeto RAG morre na semana 12.

00:19:30.620 --> 00:19:32.520
Então, como é o novo modelo na prática?

00:19:33.160 --> 00:19:34.660
Uma mudança em direção a agentes governados.

00:19:35.520 --> 00:19:37.040
A era do chatbox chega ao fim.

00:19:37.820 --> 00:19:40.920
Estamos nos afastando de um mundo em que você faz uma pergunta e espera que a matemática

00:19:40.920 --> 00:19:41.800
encontre um documento.

00:19:42.260 --> 00:19:43.620
O novo modelo é sobre delegação.

00:19:43.620 --> 00:19:47.320
Trata-se de mudar de um sistema que apenas recupera para um que realmente raciocina sobre

00:19:47.320 --> 00:19:48.400
o próprio processo de pesquisa.

00:19:49.120 --> 00:19:50.940
Estamos entrando na era do agente governado.

00:19:51.780 --> 00:19:55.620
Um sistema que não apenas procura dados, mas entende as regras da casa antes mesmo de

00:19:55.620 --> 00:19:56.240
ligar o motor.

00:19:57.360 --> 00:19:58.600
O roteiro de 2026.

00:19:58.860 --> 00:19:59.940
Da recuperação ao raciocínio.

00:20:00.500 --> 00:20:04.120
Se você quiser permanecer relevante nos próximos 24 meses, seu roteiro precisa mudar para

00:20:04.120 --> 00:20:04.760
RAG de agente.

00:20:05.160 --> 00:20:06.100
Esta é a próxima fronteira.

00:20:06.100 --> 00:20:09.520
Em uma configuração padrão, o sistema pega sua consulta e executa uma única pesquisa.

00:20:09.760 --> 00:20:11.840
Em uma configuração de agente, a IA planeja a pesquisa.

00:20:11.840 --> 00:20:15.900
Ela analisa sua solicitação e decide se deve acessar o banco de vetores, consultar um

00:20:15.900 --> 00:20:18.160
banco SQL ou talvez verificar uma API em tempo real.

00:20:18.740 --> 00:20:20.600
Ele raciocina por meio das etapas necessárias para encontrar.

00:20:21.060 --> 00:20:23.000
É aqui que o gráfico RAG se torna um padrão ouro.

00:20:23.400 --> 00:20:27.460
Para ambientes de alto risco em que você precisa de 99% de precisão, não pode confiar em blocos

00:20:27.460 --> 00:20:28.300
de documentos simples.

00:20:29.100 --> 00:20:31.940
Você precisa de um gráfico de conhecimento que mapeie os relacionamentos de entidades,

00:20:32.120 --> 00:20:33.260
pessoas, projetos e políticas.

00:20:33.820 --> 00:20:38.100
Isso permite que a IA entenda que, quando você pergunta sobre o orçamento do engenheiro-chefe,

00:20:38.100 --> 00:20:42.040
ela precisa encontrar a pessoa, o projeto que ele lidera e o razão financeiro específico

00:20:42.040 --> 00:20:43.020
associado a esse projeto.

00:20:43.960 --> 00:20:47.160
É uma cadeia de raciocínio multissalto que a busca vetorial plana não consegue executar.

00:20:47.840 --> 00:20:48.840
Mas aqui está a dura verdade.

00:20:49.260 --> 00:20:52.260
Sua IA é controlada por seus metadados, não por sua contagem de licenças.

00:20:53.040 --> 00:20:57.740
Se seus sites do SharePoint são um cemitério de documento 1.docs e final v2 realmente final.bdf,

00:20:57.860 --> 00:21:00.120
nenhuma quantidade de raciocínio de agente o salvará.

00:21:00.940 --> 00:21:04.440
Preparar sua base de dados é a única maneira de evitar o atraso competitivo que está por vir.

00:21:04.440 --> 00:21:08.800
As organizações que esperam para corrigir sua camada de recuperação ficarão presas

00:21:08.800 --> 00:21:13.240
a uma taxa de adoção de 35% enquanto seus concorrentes automatizam fluxos de trabalho

00:21:13.240 --> 00:21:13.740
inteiros.

00:21:14.640 --> 00:21:18.820
Estamos migrando da busca vetorial como ferramenta para a estratégia semântica como competência

00:21:18.820 --> 00:21:19.320
central.

00:21:20.240 --> 00:21:22.360
Sua transformação começa com uma auditoria de recuperação.

00:21:22.820 --> 00:21:26.080
Pare de medir a rapidez com que a IA responde e comece a medir com que frequência ela está

00:21:26.080 --> 00:21:26.680
realmente correta.

00:21:26.680 --> 00:21:31.540
Identifique os 10% principais dos seus casos de uso mais complexos, aqueles em que a precisão

00:21:31.540 --> 00:21:35.960
é um requisito, não uma sugestão, e implemente o Heranker L2 nesses pipelines hoje mesmo.

00:21:36.660 --> 00:21:39.680
Se essa mudança no modelo mudou a forma como você pensa sobre sua arquitetura, siga-me

00:21:39.680 --> 00:21:41.840
Miracle Peters no LinkedIn para mais análises aprofundadas.

00:21:42.420 --> 00:21:45.260
Se isso ajudou você a diagnosticar porque seu projeto RAG está falhando atualmente,

00:21:45.360 --> 00:21:45.960
deixe um comentário.

00:21:46.740 --> 00:21:50.220
Isso ajuda este podcast a alcançar os arquitetos que ainda lutam na armadilha do Top K.

00:21:50.680 --> 00:21:54.160
Seu próximo passo é conferir nossa análise detalhada sobre fluxos de trabalho de agentes

00:21:54.160 --> 00:21:55.640
para ver onde essa precisão chegará.
