WEBVTT

00:00:00.000 --> 00:00:04.120
L'industria ci ha venduto un mito. Ci ha detto che gli embedding erano una panacea per l'intelligenza

00:00:04.120 --> 00:00:08.280
aziendale. Hai creato il database vettoriale, hai acquisito i documenti, hai speso il budget e

00:00:08.280 --> 00:00:12.680
tuttavia le lucinazioni non si sono fermate. In realtà la somiglianza matematica non è la

00:00:12.680 --> 00:00:17.060
stessa cosa della pertinenza aziendale. Siamo caduti nella trappola del top cap. Questo è

00:00:17.060 --> 00:00:20.640
il momento in cui il tuo copilota recupera il punto dati più simile nello spazio ad alta

00:00:20.640 --> 00:00:24.920
dimensione, ma quei dati risultano essere sbagliati al 100% per l'attività specifica in questione,

00:00:24.960 --> 00:00:28.500
perché nel 2026 la prossimità è un indicatore economico della verità. Se il tuo progetto di

00:00:28.500 --> 00:00:31.300
pessima qualità attualmente installa una fase pilota, non è perché l'intelligenza

00:00:31.300 --> 00:00:35.480
artificiale è stupida, è perché la tua strategia di recupero è basata su un'illusione e il

00:00:35.480 --> 00:00:39.540
fallimento strutturale e modelli vettoriali pure. La ricerca vettoriale è un livello di

00:00:39.540 --> 00:00:43.300
base nell'architettura di un moderno sistema di intelligenza artificiale. È il seminterrato

00:00:43.300 --> 00:00:48.020
dello stack non lattico, ma abbiamo trattato come il cervello. Il difetto fondamentale degli

00:00:48.020 --> 00:00:52.600
embedding ad alta dimensione che sono progettati in modo vago rappresentano i concetti come

00:00:52.600 --> 00:00:56.580
coordinate. Ciò funziona benissimo quando si cercano vibrazioni e argomenti generali, ma il

00:00:56.580 --> 00:00:59.860
lavoro non avviene nel campo delle vibrazioni. Il lavoro avviene nel campo delle specificità.

00:01:00.160 --> 00:01:04.140
Ed è qui che il modello vettoriale puro fallisce. È una difficoltà con i termini esali. Pensa ai

00:01:04.140 --> 00:01:08.340
codici prodotto, agli SCABU, alla terminologia legale, ai nomi in codice dei progetti interni.

00:01:08.820 --> 00:01:12.520
Per un modello vettoriale, il progetto Phoenix e il progetto Firebird potrebbero sembrare

00:01:12.520 --> 00:01:16.440
matematicamente identici perché condividono un cluster semantico, ma per il tuo team finanziario

00:01:16.440 --> 00:01:20.540
rappresentano due budget completamente diversi. Quando ti affidi esclusivamente agli embedding

00:01:20.540 --> 00:01:24.300
delizio stai essenzialmente chiedendo all'intelligenza artificiale di indovinare in base avvicinato. Il

00:01:24.300 --> 00:01:28.020
risultato è un tasso di errore del 27% degli output aziendali. Questa non è solo una metrica

00:01:28.020 --> 00:01:32.440
tecnica. Tale tasso di errore si traduce in 1,8 ore di tempo sprecato dai dipendenti ogni

00:01:32.440 --> 00:01:37.240
singola settimana. Le persone non usano Copilot per lavorare più velocemente? Lo stanno usando

00:01:37.240 --> 00:01:41.020
per generare bozze che poi devono controllare per due ore perché il set di recupero era

00:01:41.020 --> 00:01:45.480
rumoroso. Abbiamo una crisi di accuratezza e non è un problema di LLE. Non puoi risolvere

00:01:45.480 --> 00:01:49.740
questo problema passando da GPT4 al GPT5, passando alla finestra di contesto più ampia. È

00:01:49.740 --> 00:01:53.580
un problema di ingegneria del recupero. Abbiamo fatto un'ipotesi enorme. Abbiamo dato per scontato

00:01:53.580 --> 00:01:56.740
che la matematica avrebbe gestito. Pensavamo che se avessimo trasformato ogni documento

00:01:56.740 --> 00:02:01.160
in un elenco di numeri, le relazioni sarebbero emerse, ma il contesto è strutturale. Non

00:02:01.160 --> 00:02:05.060
è solo probabilistico. In un ambiente aziendale il significato di un documento non è solo

00:02:05.060 --> 00:02:09.460
nelle parole, è nei metadati, è nelle autorizzazioni, è nella versione specifica che un modello

00:02:09.460 --> 00:02:13.780
vettoriale ignora completamente. Quando cerchi l'ultima politica di viaggio, una ricerca

00:02:13.780 --> 00:02:17.900
vettoriale, trova la politica che sembra più simile a una politica di viaggio. Non trova

00:02:17.900 --> 00:02:22.920
necessariamente quella approvata ieri. Trova quella più simile. E se la versione più simile

00:02:22.920 --> 00:02:25.920
è quella del 2022 perché ha un testo più descrittivo, è quella che otterrai con il

00:02:25.920 --> 00:02:29.580
tuo LLM. Quindi l'intelligenza artificiale dice al tuo dipendente che può prenotare la

00:02:29.580 --> 00:02:33.040
business class anche se a nuova policy dice solo economy. Questa è un'allucinazione causata

00:02:33.040 --> 00:02:36.740
da una cattiva base di dati. Modello non ha mentito, ha solo riassunto la pila sbagliata

00:02:36.740 --> 00:02:40.520
di numeri. Ecco cosa succede quando usi un modello progettato per la scoperta e cerchi di

00:02:40.520 --> 00:02:44.780
usarlo per la precisione. La ricerca vettoriale è eccellente per trovare l'ago nel pagliaio

00:02:44.780 --> 00:02:49.020
se non ti interessa quale ago prendi. Ma nell'azienda c'è solo un ago corretto. Gli altri

00:02:49.020 --> 00:02:52.260
nove sono passività. Abbiamo raggiunto il limite di ciò che la pura somiglianza può

00:02:52.260 --> 00:02:56.720
fare per noi. Se vogliamo raggiungere quella soglia di precisione dello 0,9% richiesto

00:02:56.720 --> 00:03:00.360
dai settori regolamentati, dobbiamo smettere di trattare il recupero come un problema matematico

00:03:00.360 --> 00:03:04.120
e iniziare a trattarlo come un problema editoriale. Dobbiamo andare oltre l'idea che una somiglianza

00:03:04.120 --> 00:03:07.140
sufficientemente stretta sia accettabile per un sistema che dovrebbe guidare il processo

00:03:07.140 --> 00:03:10.520
decisionale dei dirigenti. Perché in questo momento i primi risultati K che stai fornendo

00:03:10.520 --> 00:03:14.560
al tuo copilota sono solo una raccolta di rumore matematicamente correlato. Stai chiedendo

00:03:14.560 --> 00:03:18.180
a un motore di ragionamento di costruire una casa su fondamenta di salve. E poi ci chiediamo

00:03:19.020 --> 00:03:24.020
Il passaggio dal 2025 al 2026 è la consapevolezza che gli embedding sono solo il punto di partenza.

00:03:24.700 --> 00:03:27.900
Sono la pila dei forze. Per arrivare alla pila dei sì abbiamo bisogno di un diverso

00:03:27.900 --> 00:03:31.380
tipo di logica. Dobbiamo rientrodurre proprio le cose che pensavamo che gli embedding avrebbero

00:03:31.380 --> 00:03:35.060
sostituite. Abbiamo bisogno di una struttura, abbiamo bisogno di ancora gli essicani. E, cosa

00:03:35.060 --> 00:03:38.600
più importante, abbiamo bisogno di un supervisore che sappia distinguere tra una risposta simile

00:03:38.600 --> 00:03:42.820
e una corretta. Senza questo il tuo progetto di rag non è uno strumento di intelligence, è solo

00:03:42.820 --> 00:03:48.000
un modo molto costoso e molto veloce per sbagliare. Ma è qui che il modello si rompe perché la somiglianza

00:03:48.000 --> 00:03:52.120
è un indicatore economico della verità. Il quartiere è un posto pericoloso in cui

00:03:52.120 --> 00:03:55.940
vivere. Ci siamo affidati a questi cluster densi per troppo tempo, dando per scontato che

00:03:55.940 --> 00:03:59.300
se due cose sono vicine tra loro in uno spazio vettoriale devono essere correlate in sé aziendale,

00:03:59.400 --> 00:04:03.160
ma non lo sono. La somiglianza è solo un riflesso dei modelli di utilizzo delle parole.

00:04:03.360 --> 00:04:07.060
È un proxy economico per la verità e nel 2026 il modello non funziona perché abbiamo

00:04:07.060 --> 00:04:10.760
smesso di cercare cose correlate e abbiamo iniziato ad aver bisogno di cose verificate. Quando

00:04:10.760 --> 00:04:14.300
si passa da un ambiente pilota a uno di produzione, la posta in gioco cambia. Il proxy non è più

00:04:14.300 --> 00:04:17.980
sufficiente. Serve qualcosa che ricolleghi l'intelligenza artificiale al linguaggio effettivo della

00:04:17.980 --> 00:04:21.560
propria organizzazione. Serve la precisione che abbiamo accidentalmente scartato quando

00:04:21.560 --> 00:04:26.800
ci siamo concentrati sugli embedding. Lo standard ibrido perché BM25 è ancora importante. Se

00:04:26.800 --> 00:04:30.920
si esamina la linea di base di produzione per il 2026 il panorama è cambiato. Non stiamo

00:04:30.920 --> 00:04:34.960
più parlando di archivi vettoriali sperimentali, stiamo parlando dello standard ibrido. I dati

00:04:34.960 --> 00:04:40.120
sono chiari. Il 72% dei sistemi rack aziendali di successo si è allontanato da recupero vettoriale

00:04:40.120 --> 00:04:43.780
pur. Hanno implementato un sistema a doppio percorso che combina il significato dei vettori

00:04:43.780 --> 00:04:47.260
con la precisione della corrispondenza delle parole chiave. Nello specifico hanno ripristinato

00:04:47.260 --> 00:04:51.340
l'algoritmo BM25? Per coloro che non hanno trascorso vent'anni in ingegneria di ricerca

00:04:51.340 --> 00:04:55.660
BM25 è il classico metodo di recupero sparso. È la logica che cerca sovrapposizioni però

00:04:55.660 --> 00:04:58.980
l'esatto. È il vecchio metodo che pensavamo che gli incorporamenti avrebbero eliminato

00:04:58.980 --> 00:05:02.320
ma si scopre che il vecchio metodo è l'unica cosa che mantiene onesto un nuovo metodo. Quando

00:05:02.320 --> 00:05:05.580
si combinano questi due accade qualcosa di interessante. Si ottiene un guadagno di richiamo

00:05:05.580 --> 00:05:10.820
del 17 di dati e... quel 17% è la differenza tra un dipendente che trova la risposta in 10

00:05:10.820 --> 00:05:15.420
secondi o che rinuncia dopo tre prompt non riusciti. Pensa cosa succede quando smetti

00:05:15.420 --> 00:05:19.420
di ignorare le parole specifiche che i tuoi utenti effettivamente digitano. In un sistema

00:05:19.420 --> 00:05:24.140
vettoriale puro se un utente digita form 10k 2025 il modello potrebbe dare la priorità

00:05:24.140 --> 00:05:27.700
a un articolo generico sulla rendicontazione finanziaria perché l'atmosfera è simile

00:05:27.700 --> 00:05:33.360
ma con BM25 nel mix il sistema vede quella specifica stringa 10k e 2025. Riconosce che

00:05:33.360 --> 00:05:38.360
non si tratta solo di concetti? Sono ancora lessicali. Il recupero ibrido consente al sistema

00:05:38.360 --> 00:05:42.260
di dire so che sei interessato ai report finanziari ma vedo anche che hai chiesto specificamente

00:05:42.260 --> 00:05:46.760
questo documento esatto. Risolva il problema delle query fuori dominio. Questo è il più

00:05:46.760 --> 00:05:50.420
grande ostacolo per qualsiasi modello di incorporamento predestrato. Tuo modello vettoriale è stato

00:05:50.420 --> 00:05:54.560
probabilmente addestrato su un corpus generico di testo internet. Sa cos'è un contratto ma

00:05:54.560 --> 00:05:59.620
non conosce il gergo specifico del tuo settore. Non comprende gli acronimi proprietari utilizzati

00:05:59.620 --> 00:06:03.500
nel tuo reparto di ingegneria. Non ha visto la stenografia interna che il tuo team di logistica

00:06:03.500 --> 00:06:06.620
usa per descrivere il ritardo di spedizione. Per un modello di incorporamento generico

00:06:06.620 --> 00:06:12.360
quelle parole sono rumore, sono fuori dominio. Per BM25 quelle parole sono segnali. Eseguendo

00:06:12.360 --> 00:06:16.480
una ricerca per parola chiave insieme alla ricerca vettoriale crea una rete di sicurezza. Ti

00:06:16.480 --> 00:06:20.360
assicuri che se un utente digita, un termine specifico che il modello di incorporamento

00:06:20.360 --> 00:06:24.720
non comprende, il sistema possa comunque trovare il documento in base al testo letterale. È così

00:06:24.720 --> 00:06:29.140
che raggiungi la soglia di precisione dello Zero V-Glock. Nel 2025 eravamo contenti se l'intelligenza

00:06:29.140 --> 00:06:32.940
artificiale avesse avuto ragione per vaticare. Nel 2026 l'80% di accuratezza è il minimo

00:06:32.940 --> 00:06:36.320
indispensabile per l'emissione. L'ibrido è il primo passo verso questo obiettivo. Si tratta di

00:06:36.320 --> 00:06:40.200
ancora l'intelligenza artificiale. Consideralo come un sistema di controllo. Percorso vettoriale

00:06:40.200 --> 00:06:43.760
gestisce l'interno. Cosa stanno cercando di fare? Percorso per parola chiave gestisce i

00:06:43.760 --> 00:06:48.400
fatti. Cos'hanno effettivamente detto? Quando entrambi i percorsi concordano su un documento

00:06:48.400 --> 00:06:52.080
è un candidato con elevata affidabilità. Quando non sono d'accordo è un segnale che hai bisogno

00:06:52.080 --> 00:06:56.220
di più elaborazione. Ma anche con questo approccio ibrido abbiamo ancora un problema. Hai migliorato

00:06:56.220 --> 00:07:01.960
la pila dei forze. Sei passato dal 78% richiamo al 91%. Stai trovando più cose giuste ma stai

00:07:01.960 --> 00:07:06.300
comunque consegnando all'LM una pila di candidati. Se hai mai esaminato un set di recupero

00:07:06.300 --> 00:07:10.120
sai che i primi 10 risultati sono spesso un pasticcio. Potresti avere la risposta perfetta

00:07:10.120 --> 00:07:14.160
alla quarta posizione. Ma alla prima posizione hai un documento che per caso ha la parola

00:07:14.160 --> 00:07:19.340
chiave ripetuta 20 volte. Oppure è un documento matematicamente simile ma completamente irrilevante

00:07:19.340 --> 00:07:23.900
per l'anno in corso. La ricerca ibrida ti fornisce i pezzi del pass. Non necessariamente lo mette

00:07:23.900 --> 00:07:28.340
insieme. Supponiamo che se dessimo all'LM i primi 5 risultati sarebbe abbastanza intelligente

00:07:28.340 --> 00:07:33.700
da scegliere quello giusto. Ma gli LLM sono suscettibili ai documenti distrattori. Se il primo risultato

00:07:33.700 --> 00:07:37.640
è un documento molto lungo dall'aspetto molto sicuro che in realtà è sbagliato. L'LLM spesso

00:07:37.640 --> 00:07:40.740
darà la priorità con l'informazione rispetto alla risposta corretta e più breve alla terza

00:07:40.740 --> 00:07:45.280
posizione. Questo è il fenomeno della perdita nel mezzo. L'ordine delle informazioni determina

00:07:45.280 --> 00:07:48.600
la qualità della risposta. Quindi sebbene la ricerca ibrida sia la base di partenza

00:07:48.600 --> 00:07:52.360
non è la risposta definitiva. È il sistema di filtraggio. Ti consente di passare da un

00:07:52.360 --> 00:07:56.460
milione di documenti a 50. Tuttavia 50 documenti sono ancora troppi per una decisione aziendale

00:07:56.460 --> 00:08:01.140
ad alto rischio. Stai ancora esaminando una pila di candidati. Hai spostato l'ago della bilancia ma non

00:08:01.140 --> 00:08:04.960
hai colmato il divario. Per raggiungere effettivamente la precisione dello 00.9 richiesta

00:08:04.960 --> 00:08:08.300
dall'assistenza sanitaria e dalla finanza non puoi semplicemente fermarti. Devi aggiungere

00:08:08.300 --> 00:08:12.480
un livello di ragionamento prima che i dati tocchino l'LMN. Hai bisogno di un supervisore

00:08:12.480 --> 00:08:16.180
che possa esaminare quei 50 candidati e classificarli in base alla logica effettiva non solo alla

00:08:16.180 --> 00:08:19.780
frequenza o all'ecoordinato. Perché in questo momento anche con la ricerca ibrida il tuo copilota

00:08:19.780 --> 00:08:24.240
sta ancora indovinando. Sta solo facendo un'ipotesi molto più informata di prima. Abbiamo risolto

00:08:24.240 --> 00:08:27.560
il problema del reperimento. Ora dobbiamo risolvere il problema della classificazione. E questo

00:08:27.560 --> 00:08:31.880
richiede un livello di architettura completamente diverso. Anche con la ricerca ibrida stai ancora

00:08:31.880 --> 00:08:37.200
esaminando una pila di candidati. Hai bisogno di un supervisore. Il problema del modello ibrido è che

00:08:37.200 --> 00:08:41.620
non ha un'opinione. Genera un elenco basato su due diversi sistemi di punteggio che non parlano

00:08:41.620 --> 00:08:45.540
esattamente la stessa lingua. Stai unando le coordinate di uno spazio vettoriale con i punteggi

00:08:45.540 --> 00:08:49.940
di frequenza di un indice di parole chiave. Il risultato è un elenco combinato dei primi 50 che è

00:08:49.940 --> 00:08:54.180
tecnicamente migliore di prima ma ancora fondamentalmente non verificato. È come se un'agenzia di

00:08:54.180 --> 00:08:57.500
reclutamento ti inviasse 50 curriculum senza leggerli. Hanno filtrato in base alle

00:08:57.500 --> 00:09:00.860
parole chiave all'esperienza generale ma non hanno verificato se la persona è effettivamente in grado

00:09:00.860 --> 00:09:04.920
di svolgere il lavoro. Nella pipeline RAG è l'LM il tuo responsabile di assunzione. Se consegni a quel

00:09:04.920 --> 00:09:09.100
responsabile 50 curriculum si sentirà sopraffatto. Darà un'occhiata ai primi tre, si distrarà con

00:09:09.100 --> 00:09:12.720
una bugia ben formatata e farà una cattiva assunzione. Per risolvere questo problema dobbiamo

00:09:12.720 --> 00:09:16.560
smettere di considerare la ricerca come un processo. Dobbiamo introdurre un livello secondario che funga

00:09:16.560 --> 00:09:21.940
da gatekeeper perché in questo momento non stai fornendo una risposta. Stai assegnando un compito a casa e la tua

00:09:21.940 --> 00:09:25.880
intelligenza artificiale non è progettata a fare come. È progettata per ragionare. Se vuoi che ragioni correttamente

00:09:25.880 --> 00:09:29.780
devi fornire il giusto punto di partenza. Hai bisogno di un supervisore che possa esaminare i

00:09:29.780 --> 00:09:34.040
primi 50 candidati e decidere quale detiene effettivamente la verità. Classificazione

00:09:34.040 --> 00:09:39.140
semantica è il filtro finale per la verità. È qui che introduciamo il rerunker L2. Nell'architettura

00:09:39.140 --> 00:09:44.260
2026 questo è il livello secondario non negoziabile. Funge da editor per i risultati della ricerca.

00:09:44.780 --> 00:09:48.940
Pensa al flusso di lavoro che abbiamo creato finora. Innanzitutto la ricerca ibrida recupera un'ampia

00:09:48.940 --> 00:09:53.240
serie di candidati. È veloce, efficiente, analizza milioni di documenti in millisecondi ma anche

00:09:53.240 --> 00:09:58.900
superficiale. Il rerunker L2 è l'opposto. Non esamina milioni di documenti. Esamina solo i primi

00:09:58.900 --> 00:10:02.820
50 ma li esamina con un livello di profondità che il livello di ricerca iniziale non potrebbe mai

00:10:02.820 --> 00:10:07.140
raggiungere. Nello specifico nell'ecosistema Microsoft stiamo parlando di modelli derivati

00:10:07.140 --> 00:10:11.920
da Bing. Si tratta di trasformatori di attenzione incrociata. A differenza della ricerca vettoriale

00:10:11.920 --> 00:10:16.440
iniziale che confronta una query con un documento incorporato precalcolato, il rerunker esamina la query

00:10:16.440 --> 00:10:20.840
e il documento insieme allo stesso tempo. Esegue un confronto semantico approfondito del testo

00:10:20.840 --> 00:10:25.680
effettivo. Non esamina più solo le coordinate in uno spazio d'alta dimensione. Esegue un ragionamento

00:10:25.680 --> 00:10:29.420
approfondito per capire se il documento contiene effettivamente la risposta alla domanda specifica

00:10:29.420 --> 00:10:35.880
posta. È qui che entra in gioco il punteggio del rerunker di ricerca degli annunci. Questo punteggio

00:10:35.880 --> 00:10:39.800
è diverso dai punteggi di similarità che vedi nel primo livello. Un punteggio di similarità ti dice

00:10:39.800 --> 00:10:44.060
questo documento è matematicamente simile. Il punteggio del rerunker ti dice questo documento è

00:10:44.060 --> 00:10:49.200
rilevante per l'intento dell'utente. Sposta l'obiettivo da è simile. A risponde alla domanda,

00:10:49.200 --> 00:10:53.880
questa distinzione è l'unico modo per sopravvivere nei settori regolamentati. Se lavori nel settore

00:10:53.880 --> 00:10:58.100
finanziario, sanitario o legale, una precisione di 0,8 è un fallimento. Hai bisogno di 0,9 è

00:10:58.100 --> 00:11:01.920
superiore. Non è possibile raggiungere tale livello di accuratezza con un processo di recupero

00:11:01.920 --> 00:11:05.940
in un'unica fase. Il rerunker è ciò che consente di spostare l'ago da un livello prevalentemente

00:11:05.940 --> 00:11:10.280
corretto a un livello aziendale. Risolve il problema di errore più comune in RAG, ovvero

00:11:10.280 --> 00:11:14.560
il problema dell'ordine raro. In una ricerca standard la risposta perfetta potrebbe trovarsi all'ottava

00:11:14.560 --> 00:11:18.160
posizione ma poiché non aveva la giusta densità di parole chiave o l'incorporamento era leggermente

00:11:18.160 --> 00:11:23.740
sfocato, non è arrivata in cima. LN, essendo pigro, si concentra sui primi tre risultati. Non

00:11:23.740 --> 00:11:27.460
coglie la verità all'ottava posizione e genera un'allucinazione basata sul rumore alla prima

00:11:27.460 --> 00:11:31.260
posizione. Errunker interrompe questo processo. Prende quella risposta perfetta all'ottava

00:11:31.260 --> 00:11:35.160
posizione e la promuove alla prima posizione. Identifica che, mentre il documento 1 ha più

00:11:35.160 --> 00:11:38.760
parole chiave, il documento 8 ha la sostanza semantica e effettiva necessaria per soddisfare

00:11:38.760 --> 00:11:42.920
la query. Questo passaggio da recupero alla classificazione è il cambiamento architettonico

00:11:42.920 --> 00:11:46.520
più importante che puoi apportare quest'anno. Dobbiamo smettere di ossessionarci su quante

00:11:46.520 --> 00:11:50.100
informazioni possiamo trovare. Dobbiamo iniziare a ossessionarci con l'ordine in cui vengono

00:11:50.100 --> 00:11:53.600
presentate le informazioni, perché l'ordine delle informazioni è più importante della quantità

00:11:53.600 --> 00:11:57.640
di informazioni. Se la risposta giusta è in fondo la pila potrebbe anche non esistere.

00:11:58.560 --> 00:12:02.440
Il Errunker garantisce che la verità sia sempre in cima. Ma non si tratta solo di spostare

00:12:02.440 --> 00:12:07.080
i documenti. Il livello L2 fornisce anche didascalie semantiche ed evidenziazioni. Identifica

00:12:07.080 --> 00:12:12.080
le frasi letterali specifiche all'interno del documento che sono più rilevanti. Ciò fornisce

00:12:12.080 --> 00:12:16.560
l'LLM e un promemoria. Invece di chiedere al modello di leggere un pdf di 10 pagine e trovare

00:12:16.560 --> 00:12:20.820
l'ago, il Errunker indica direttamente l'ago e dice leggi queste tre frasi in particolare.

00:12:22.140 --> 00:12:26.680
Ciò riduce il carico cognitivo sull'LLM. Riduce al minimo il rischio che il modello venga distratto

00:12:26.680 --> 00:12:30.460
da un contesto irrilevante in altre parti del documento. È la differenza tra dare a qualcuno

00:12:30.460 --> 00:12:34.600
un libro e dargli un paragrafo evidenziato. Quale pensi che porti a una risposta più rapida

00:12:34.600 --> 00:12:39.800
e accurata? È così che risolveremo il divario di fiducia. Gli utenti smettono di fidarsi

00:12:39.800 --> 00:12:44.340
di Copilot quando fornisce loro tre tipi di risposte e non ne rileva una certa. Il Errunk

00:12:44.340 --> 00:12:47.480
è lo strumento che garantisce che la risposta certa sia sempre la prima cosa che l'utente

00:12:47.480 --> 00:12:52.200
vede. Agisce come filtro finale per la verità. Colma il divario tra dati grezzi e informazioni

00:12:52.200 --> 00:12:56.680
fruibili. Tuttavia dobbiamo essere onesti sui compromessi. Questo livello di precisione

00:12:56.680 --> 00:13:00.540
non è un pasto gratis. Quando passi da una semplice ricerca basata sulla matematica a un

00:13:00.540 --> 00:13:03.960
Ranker basato sul ragionamento, l'economia del tuo sistema cambia. Stai aggiungendo elaborazione.

00:13:04.240 --> 00:13:08.920
Stai aggiungendo latenza. In un ambiente ospitato nel cloud come Azure, stai aggiungendo costi diretti.

00:13:08.920 --> 00:13:13.000
Se non gestisci correttamente questo livello, la precisione che ottieni verrà cancellata dalla

00:13:13.000 --> 00:13:16.760
fattura dell'infrastruttura che riceverai alla fine del mese. Dobbiamo comprendere l'economia

00:13:16.760 --> 00:13:21.020
dell'accuratezza perché in azienda una risposta perfetta che costa 10 dollari per essere generata

00:13:21.020 --> 00:13:24.360
è spesso meno preziosa di una risposta sufficientemente buona che costa 10 centesimi.

00:13:25.220 --> 00:13:29.720
La sfida del 2026 è bilanciare la necessità di una precisione di 0,9 con la realtà di un budget

00:13:29.720 --> 00:13:34.280
limitato. È necessario un supervisore, ma è anche necessario assicurarsi che non sia la persona

00:13:34.280 --> 00:13:38.980
più costosa dell'edificio. Tuttavia questa precisione è un costo e se non si gestisce

00:13:38.980 --> 00:13:44.200
l'infrastruttura il ROI scompare. Il passaggio a un'architettura di recupero multifase crea

00:13:44.200 --> 00:13:47.800
una tensione fondamentale tra la qualità della risposta e la sostenibilità del budget.

00:13:48.520 --> 00:13:52.380
Abbiamo raggiunto un punto in cui la possibilità tecnica di una precisione di 0,9 è reale,

00:13:52.420 --> 00:13:56.320
ma la fattibilità finanziaria viene spesso ignorata. Nei primi giorni di RAG ci siamo

00:13:56.320 --> 00:14:00.160
concentrati sulla dimostrazione che il concetto funzionava. Non ci importava del costo per query

00:14:00.160 --> 00:14:05.740
perché i volumi erano bassi. Ma quando si passa da 10.000 utenti la matematica cambia. Il livello

00:14:05.740 --> 00:14:08.760
secondario di ragionamento che rende il sistema affidabile è anche il livello che può rendere

00:14:08.760 --> 00:14:13.640
probabilmente costoso. Perché nelle aziende la precisione è un bene di lusso e se non hai

00:14:13.640 --> 00:14:18.000
progettato la tua infrastruttura per gestire il peso di tale lusso il tuo progetto consumerà il

00:14:18.000 --> 00:14:24.920
suo ROI prima ancora di generare un singolo dollaro di valore misurabile. L'economia della precisione.

00:14:25.060 --> 00:14:29.480
Prestazioni contro costi. La realtà del livello standard nella ricerca di Azure AI è che la

00:14:29.480 --> 00:14:33.140
classificazione semantica è un gioco pay to play. Non puoi semplicemente premere un

00:14:33.140 --> 00:14:36.680
interruttore e aspettarti che il tuo budget si sia dentro. Quando abiliti la funzionalità di

00:14:36.680 --> 00:14:40.260
punteggio di riclassificazione della ricerca delle app ti allontani dal mondo dei costi fissi

00:14:40.260 --> 00:14:43.480
delle unità di ricerca di base per entrare in un mondo di fatturazione variabile del tempo

00:14:43.480 --> 00:14:47.840
di query. Ti ha un'occhiata in numero. Per un volume di query moderato, ad esempio 50.000 ricerche

00:14:47.840 --> 00:14:51.900
al mese su un set di dati da 20 gigabyte, stai considerando un sovraccarico mensile compreso tra

00:14:51.900 --> 00:14:56.120
300 dollari. Potrebbe sembrare gestibile per un singolo reparto, ma se consideri che questo è solo

00:14:56.120 --> 00:15:00.780
livello di ricerca. E devi comunque pagare per i token LLM e la generazione di incorporamento. Il

00:15:00.780 --> 00:15:04.680
costo totale di proprietà inizia a salire alle stelle. Abbiamo visto organizzazioni lanciare un

00:15:04.680 --> 00:15:08.380
progetto pilota copilota, ottenere un enorme successo in termini di soddisfazione degli utenti

00:15:08.380 --> 00:15:11.860
e poi staccare immediatamente la spina quando arriva la prima fattura completa. Erano così

00:15:11.860 --> 00:15:15.080
concentrate sulle prestazioni che hanno dimenticato di controllare il prezzo di tali prestazioni.

00:15:15.520 --> 00:15:18.880
Questo è il motivo principale per cui i progetti RAG muoiono nel passaggio dal laboratorio

00:15:18.880 --> 00:15:22.980
da Tuziano. Il costo di avere ragione è più alto del costo di sbagliare. Quindi come risolviamo

00:15:22.980 --> 00:15:26.820
questo premio? Come manteniamo la precisione senza mandare in bancarotta il reparto IT? La

00:15:26.820 --> 00:15:31.120
risposta sta nel caching semantico. Nel 2026 il caching semantico è la salvezza del ROI per

00:15:31.120 --> 00:15:36.140
l'azienda. Ecco il problema che stiamo risolvendo. I dipendenti tendono a porre le stesse domande in

00:15:36.140 --> 00:15:40.880
modi leggermente diversi. Qual è la politica sulle ferie? Puoi mostrarmi le regole per i permessi?

00:15:41.700 --> 00:15:45.620
Quanti giorni di ferie ho? In una pipeline RAG standard ciascuna di queste domande è attiva

00:15:45.620 --> 00:15:49.580
al recupero completo una riclassificazione semantica nella chiamata LLM. Stai pagando per la stessa

00:15:49.580 --> 00:15:53.580
risposta tre volte. Caching semantico interrompe questo spreco. Utilizza un modello di incorporamento

00:15:53.580 --> 00:15:57.920
leggero per identificare che quelle tre domande condividono lo stesso intento. Invece di tornare

00:15:57.920 --> 00:16:01.440
al costoso motore di ragionamento il sistema estrae la risposta verificata da una cassa

00:16:01.440 --> 00:16:06.880
ad alta velocità. Ciò può ridurre le chiamate LLM dal 60% all'80% e la trasformazione dell'esperienza

00:16:06.880 --> 00:16:10.920
utente è ancora più radicale. Si passa da una tesa di 3 secondi per un'inferenza GPT4 in tempo

00:16:10.920 --> 00:16:14.140
reale a un hit nella cassa inferiore a 5 anni. Si tratta di un miglioramento della velocità

00:16:14.140 --> 00:16:18.500
di 250 minuti. Improvvisamente il copilota sembra istantaneo. Passa dall'essere un strumento

00:16:18.500 --> 00:16:21.940
lento che le persone tollerano un assistente reattivo che le persone apprezzano davvero

00:16:21.940 --> 00:16:26.020
usare. E la cassa nella cassa è solo metà della parte. L'altra metà è l'abilitazione

00:16:26.020 --> 00:16:29.400
selettiva. Uno degli errori più grandi che commettono gli architetti è applicare il

00:16:29.400 --> 00:16:33.580
ranking semantico a ogni singola query. Non è necessario un trasformatore di ragionamento

00:16:33.580 --> 00:16:37.720
approfondito per trovare un documento intitolato Modello di Nota Spese 2025. Una corrispondenza

00:16:37.720 --> 00:16:40.980
di parole chiave di base è più che sufficiente per questo. La strategia per il 2026 è quella

00:16:40.980 --> 00:16:44.280
di mantenere il hit semplice sul livello economico. Dovresti attivare il riclassificatore

00:16:44.280 --> 00:16:47.320
L2 solo su query complesse in linguaggio naturale in cui l'intento è ambiguo.

00:16:47.320 --> 00:16:51.820
Implementando la porta logica all'inizio della pipeline puoi riservare il budget per le

00:16:51.820 --> 00:16:55.640
query che necessitano effettivamente di una precisione extra. Consideralo come un sistema

00:16:55.640 --> 00:16:59.580
di trial. Il livello economico gestisce il 70% delle richieste di routine. Il livello

00:16:59.580 --> 00:17:03.780
semantico costoso gestisce il 30% che genera effettivamente valore aziendale. Ecco come

00:17:03.780 --> 00:17:07.240
bilanciare il budget. Ti assicuri che il costo della ricerca non superi il valore della

00:17:07.240 --> 00:17:11.540
risposta. Se una query vale 10 centesimi di produttività non spendere un dollaro di elaborazione

00:17:11.540 --> 00:17:15.560
per risolverla. Dobbiamo anche considerare la suddivisione ai livelli dei dati stessi. Non tutti

00:17:15.560 --> 00:17:19.040
i documenti richiedono una precisione da 0. Il menu della tua caffetteria interna non

00:17:19.040 --> 00:17:22.060
ha bisogno di classificatore derivato da Bing. Metto i documenti di conformità normativa

00:17:22.060 --> 00:17:26.500
sì. Suddividendo gli indici di ricerca e applicando diverse strategie di classificazione

00:17:26.500 --> 00:17:31.500
a ciascuno puoi ottimizzare la spesa in base alla criticità delle informazioni. Questo

00:17:31.500 --> 00:17:34.900
è ciò che chiamiamo recupero basato sul valore. È la consapevolezza che l'accuratezza

00:17:34.900 --> 00:17:39.640
non è una scelta binaria. È una scala mobile. E come architetto il tuo compito è spostare

00:17:39.640 --> 00:17:44.060
quel cursore in base alle esigenze specifiche dell'unità aziendale. L'obiettivo non è costruire il sistema

00:17:44.060 --> 00:17:47.580
più preciso possibile. L'obiettivo è costruire il sistema più preciso che l'azienda possa

00:17:47.580 --> 00:17:51.320
effettivamente permettersi di gestire. Perché un'intelligenza artificiale perfetta che è troppo

00:17:51.320 --> 00:17:55.980
costosa da usare solo un fermacarte molto sofisticato. Nel 2026 i vincitori non saranno

00:17:55.980 --> 00:18:01.180
quelli con i benchmark più alti. Saranno quelli che hanno capito come fornire lo 0,85% a un costo

00:18:01.180 --> 00:18:05.460
che aumenta in modo lineare con la loro crescita. Sono quelli che hanno trattato l'infrastruttura

00:18:05.460 --> 00:18:09.980
come un vincolo non come un ripensamento. La gestione dei costi e l'aspetto tecnico dell'equazione

00:18:09.980 --> 00:18:14.120
ma anche se ottieni la giusta analisi economica è comunque un problema buono. Devi colmare

00:18:14.120 --> 00:18:17.780
il divario tra le licenze che hai acquistato e l'effettiva fiducia che i tuoi utenti hanno

00:18:17.780 --> 00:18:21.460
nel sistema. Perché se non si fidano della risposta non importa quanto sia costata generale.

00:18:21.860 --> 00:18:25.220
Torneranno semplicemente a cercare la vecchia maniera. E questo ci porta al divario di governance

00:18:25.220 --> 00:18:29.460
perché la fiducia non riguarda solo l'accuratezza tecnica. Riguarda il quadro che circonda tale

00:18:29.460 --> 00:18:33.420
accuratezza. Riguarda la consapevolezza che l'intelligenza artificiale non è semplicemente

00:18:33.420 --> 00:18:37.360
corretta ma che può esserlo fin dall'inizio. La gestione dei costi riguarda l'aspetto tecnico

00:18:37.360 --> 00:18:41.220
ma l'aspetto esecutivo riguarda il divario di governance. Ottimizzare l'infrastruttura

00:18:41.220 --> 00:18:45.100
risolve solo una parte dell'equazione. Puoi creare il motore di precisione più efficiente

00:18:45.100 --> 00:18:48.560
in termini di costi al mondo ma se il tuo team dirigenziale è terrorizzato da ciò che potrebbe

00:18:48.560 --> 00:18:52.500
emergere il progetto non uscirà mai dalla sandbox. Abbiamo raggiunto un punto in cui il collo di

00:18:52.500 --> 00:18:57.280
bottiglia non è il budget di elaborazione o latenza del re-ranker. Il vero attrito è il divario tra le

00:18:57.280 --> 00:19:02.320
licenze assegnate e l'effettiva autorità che l'intelligenza artificiale ha per operare. Il divario di

00:19:02.320 --> 00:19:06.120
governance è il motivo per cui le policy non vengono utilizzate. Attualmente abbiamo 15 milioni di

00:19:06.120 --> 00:19:10.300
impostazioni a pagamento nell'ecosistema. Eppure il tasso di conversione sul posto di lavoro è

00:19:10.300 --> 00:19:14.800
bloccato a uno sbalorditivo 35%. Ciò significa che due utenti con licenza su tre ignorano

00:19:14.800 --> 00:19:19.400
sostanzialmente lo strumento, smettono di utilizzarlo dopo la terza allucinazione. La fiducia è fragile

00:19:19.400 --> 00:19:22.580
e un recupero scadente la distrugge più velocemente di quanto qualsiasi sessione di

00:19:22.580 --> 00:19:28.500
formazione possa costruirla. La governance non è solo un documento, è un controllo tecnico. Senza di

00:19:28.500 --> 00:19:32.780
essa il tuo progetto RUG muore la settimana 12. Quindi come si presenta il nuovo modello in pratica?

00:19:32.780 --> 00:19:38.680
È un passaggio verso agenti governati. L'era della chatbox sta finendo. Ci stiamo allontanando

00:19:38.680 --> 00:19:42.820
da un mondo in cui fai una domanda e speri che la matematica trovi un documento. Il nuovo modello

00:19:42.820 --> 00:19:46.560
riguarda la delega. Si tratta di passare da un sistema che si limita a recuperare dati a uno

00:19:46.560 --> 00:19:50.420
che ragiona effettivamente sul processo di ricerca stesso. Stiamo entrando nell'era dell'agente

00:19:50.420 --> 00:19:55.300
governato. Un sistema che non si limita a cercare dati ma comprende le regole della casa prima ancora

00:19:55.300 --> 00:20:01.000
di avviare il notore. La tabella di marcia del 2026, dal recupero al ragionamento. Se vuoi rimanere

00:20:01.000 --> 00:20:04.580
rilevante nei prossimi 24 mesi, la tua tabella di marcia deve spostarsi verso rag agenti.

00:20:05.060 --> 00:20:08.840
Questa è la prossima frontiera. In una configurazione standard, il sistema prende la tua query ed esige

00:20:08.840 --> 00:20:11.760
una singola ricerca. In una configurazione agentica, l'intelligenza artificiale viene

00:20:11.760 --> 00:20:14.940
in più. Esamina la tua richiesta e decide se devi accedere all'archivio vettoriale,

00:20:15.000 --> 00:20:18.760
interrogare un database SQL o forse controllare un API in tempo reale o forse in tempo reale.

00:20:18.840 --> 00:20:22.760
Ragiona sui passaggi necessari per trovare veri. Che GraphRag diventa lo standard di riferimento?

00:20:23.000 --> 00:20:27.500
Per ambienti ad alto rischio in cui è necessaria una precisione del 99% non puoi fare affidamento su blocchi

00:20:27.500 --> 00:20:32.100
di documenti piatti. Hai bisogno di un Knowledge Graph che mappi le relazioni tra entità, persone,

00:20:32.220 --> 00:20:37.640
progetti e policy. Ciò consente all'intelligenza artificiale di capire che, quando chiedi informazioni

00:20:37.640 --> 00:20:41.280
sul budget dell'ingegnere capo, deve trovare la persona, quindi il progetto che dirige e quindi

00:20:41.280 --> 00:20:45.280
il registro finanziario specifico associato a quel progetto. È una catena di ragionamento multi-op

00:20:45.280 --> 00:20:49.700
che la ricerca vettoriale piazza semplicemente a un poesie. Ecco la dura verità. La tua intelligenza

00:20:49.700 --> 00:20:54.180
artificiale è limitata dai tuoi metadati, non dal numero di licenze. Se i tuoi CT SharePoint sono

00:20:54.180 --> 00:21:01.280
un cimitero di documenti one.docs e final.bdf, nessun ragionamento agentico ti salverà. Preparare

00:21:01.280 --> 00:21:05.780
la base dati è l'unico modo per evitare il ritardo competitivo che si profila. Le organizzazioni

00:21:05.780 --> 00:21:09.580
che aspettano a sistemare il proprio livello di recupero si ritroveranno bloccate con un tasso

00:21:09.580 --> 00:21:14.840
di adozione del 35%, mentre i concorrenti automatizzano interi flussi di lavoro. Stiamo

00:21:14.840 --> 00:21:18.660
passando dalla ricerca vettoriale come strumento alla strategia semantica come competenza aziendale

00:21:18.660 --> 00:21:23.840
fondamentale. La trasformazione inizia con un audit di recupero. Smetti di misurare la rapidità

00:21:23.840 --> 00:21:26.280
di risposta all'intelligenza artificiale e la frequenza con cui è effettivamente

00:21:26.280 --> 00:21:31.220
corretta. Identifica il 10% ai casi d'uso più complessi, quelli in cui l'accuratezza è

00:21:31.220 --> 00:21:36.920
un requisito, non un suggerimento e implementa subito R-Ranker L2 su tali pipeline. Se questo

00:21:36.920 --> 00:21:39.960
cambiamento nel modello ha cambiato il tuo modo di pensare alla tua architettura, seguimi

00:21:39.960 --> 00:21:43.940
Mirko Peters su LinkedIn per ulteriori approfondimenti. Se questo ti ha aiutato a diagnosticare perché

00:21:43.940 --> 00:21:48.060
il tuo progetto Rags sta attualmente fallendo, lascia una recensione. Aiuta questo podcast a raggiungere

00:21:48.060 --> 00:21:51.560
gli architetti che stanno ancora lottando nella trappola dei primi K. Il tuo prossimo passo

00:21:51.560 --> 00:21:54.820
è dare un'occhiata al nostro approfondimento sui flussi di lavoro agentici per vedere esattamente

00:21:54.820 --> 00:21:55.940
dove si dirigerà questa precisità.
