L'argomento di oggi è qualcosa che quasi tutti hanno sentito nominare, ma che quasi nessuno sa spiegare in parole semplici. RAGGI, ovvero Retrival Augmented Generation. Avete visto questo acronimo? Ovunque, annunci Microsoft, conferenze sugli A, post sui blog, ma cosa significa davvero? E soprattutto perché dovrebbe interessarvi. Ecco il punto. I modelli linguistici di grandi dimensioni come il GPT Quattresimo. Possono scrivere saggi, riassumere documenti e persino generare codice, ma presentano due grandi problemi. Primo, la loro conoscenza è fermata. Chiedeteci a GPT di qualcosa accaduto ieri e non ne saprà nulla. Secondo, questi modelli non hanno mai visti i dati interni della vostra azienda. Le vostre policy, i dettagli sui prodotti, le mail dei clienti. Quindi, quando fate una domanda a un LM sulla vostra attività, state randendo. Ed è qui che entra in gioco la Retrival Augmented Generation. Il RAG non è un nuovo modello, non è un GPT più grande o migliore. È un approccio completamente diverso. Invece di chiedere all'LM di trarre risposte dalla sua memoria di addestramento, il RAG cerca prima le informazioni corrette nei vostri dati e le fornisce al modello insieme alla domanda. Il modello usa poi quel contesto per darvi risposte basate su contenuti reali e aggiornati, non supposizioni. Senza il RAG, la vostra AI lavora basandosi su una memoria vecchia di mesi o anni. Con il RAG, lavora sui vostri documenti attuali, in tempo reale. È la differenza tra un'IA che sembra sicura ma che potrebbe sbagliare e una che vi mostra esattamente dove ho trovato la risposta. Ecco cosa tratteremo oggi. Per prima cosa esamineremo i due problemi che rendono necessario il RAG. Poi analizzeremo cosa sia effettivamente il RAG e il recupero o l'aumento e la generazione. In seguito passeremo in rassegna ai servizi chiave di Azure, Azure AI Search, Azure Open AI e Azure AI Foundry. E concluderemo con un esempio reale, così potrete vedere come si incastrano i pezzi. Partiamo dal problema stesso. Una volta capito quello, la soluzione diventa ovvia. I due problemi degli LM. Cosa c'è che non va nei modelli linguistici? Due cose, credo. Primo, la loro conoscenza è bloccata. Pensateci. Quando GPT Quattresmo è stato addestrato, ha imparato da un'istantanea di internet ormai vecchia di mesi o anni, quindi non conosce nuovi prodotti, le normative recenti o le notizie di ieri. Chiedetegli di una modifica alla policy della scorsa settimana e non avrà modo di sapere. Quell'informazione non è semplicemente nei suoi daddestramenti. Secondo, gli LLM non hanno mai visto i vostri dati privati, i vostri documenti interni, le email dei clienti o i database proprietari. Il modello non ha alcun accesso a tutto ciò, quindi quando un dipendente chiede informazioni sui tuoi specifici processi aziendali, il modello non sa rispondere. Non sa quello che sai tu. Alcuni pensano che il fine tuning risolve il problema. Prendi il modello base e lo addestri ulteriormente sui tuoi dati. Ma il fine tuning ha i suoi problemi. È costoso. Paghi per il tempo GPU e l'impegno ingegneristico. Non risolve l'obsolescenza. Una volta fatto il fine tuning, il modello resta fermo a quel momento. E non può gestire dati che cambiano spesso, come inventare o prezzi. Il fine tuning è come imparare un libro a memoria. Utile, ma non puoi comunque leggere il giornale di oggi. La vera soluzione è più semplice. Dai al modello accesso alle tue conoscenze nel momento in cui devi rispondere, invece di tentare di stipare tutto nella sua memoria. Non costringere a memorizzare tutto. Lascia che cerchi le informazioni in tempo reale dei tuoi dati reali. È questo che fa la RAG. Un'idea semplice ma che cambia tutto. Cos'è in realtà la RAG? Ecco la RAG in una sola frase. Invece di chiedere al modello di estrarre una risposta dai dati di addestramento, cerchiamo prima le informazioni vilevanti e le forniamo al modello insieme alla domanda. Un certo fondamentale. Tre passaggi semplici. Recuperare, aumentare e generare. Ti faccio un'analogia. Pensa a un bibliotecario. Entri in una biblioteca e fai una domanda. Non ti aspetteresti che il bibliotecario abbia memorizzato ogni libro, giusto? Sarebbe assurdo. Invece di chiedi di trovare il libro giusto, aprirlo alla pagina corretta e leggersi la risposta? Il bibliotecario non memorizza nulla. Recupera prima e legge poi. Ed è esattamente ciò che fa la RAG. Prima il recupero, poi la generazione. Ecco come funziona nella pratica. Un utente può non una domanda. Il sistema cerca in una base di conoscenza, nei tuoi documenti, nei tuoi dati, nelle tue informazioni private. Ciò che trova viene inserito nel modello linguistico che genera una risposta basata su quel contesto. Ed ecco la parte importante. L'LM non vede mai i tuoi dati grezzi. Vede solo ciò che il sistema di recupero gli passa. Non è uno svantaggio. È una funzione di sicurezza. I tuoi documenti sensibili restano nel tuo archivio. Al momento della richiesta, il modello riceve solo gli snippet necessari per rispondere. Niente addestramento sui tuoi dati, niente memorizzazione, nessuna fuga. I tuoi dati restano dove devono stare. Quindi la RAG risola entrambi i problemi di cui mi ho parlato. Dati obsoleti. Nessun problema. La tua base di conoscenza rimane giornata. Dati privati. Il modello vede solo ciò che scegli di recuperare. È come dare al bibliotecario accesso al tuo archivio, ma lasciargli estrarre solo la cartella che ti serve esattamente quando ti serve, esattamente quando ti serve. Embedding vettoriali ricerca semane. Ora potresti chiederti come funziona davvero questa ricerca. Non si tratta di trovare parole chiave di fare un trova nei documenti. Qualcosa di molto più intelligente. Si chiama ricerca semantica e si basa sugli embedding vettoriali. Lascia che ti spieghi cos'è un embedding. Un embedding vettoriale è una lunga lista di numeri che cattura il significato di un testo come coordinate su una mappa. Ogni documento ottiene la sua coordinata su quella mappa del significato. Quando fai una domanda, il sistema trasforma anche la tua domanda in coordinate e trova i documenti più vicini ad essa. La chiave qui è semantica. Non si tratta di trovare le parole esatte, ma di comprendere i concetti. Se cerchi hotel economici, il sistema può trovare documenti su strutture a prezzi accessibili anche se quelle parole esatte non appaiono mai. Perché? Perché il significato è affine. Gli embedding per economici e accessibili si trovano vicini su quella mappa. Un piccolo modello speciale come Text Embedding 3 Large di Azure crea questi embedding. Non è un gigantesco modello linguistico, quindi uno strumento mirato che svolge un unico compito. Trasformare il testo in quei numeri coordinati è questo che rende l'Ara così potente. Tuoi documenti vengono convertiti in embedding una volta sola durante l'indicizzazione. Poi quando arriva una query, il sistema trova il contenuto più rilevante in pochi millisecondi, anche se le parole esatte dell'utente non appaiono mai nei documenti. Comprendi l'intento? Non solo le parole chiave che digiti. Azure AI Search, il motore di recupero. Quindi, ora hai capito il concetto. Recuperare prima puoi generare. Ma dove avviene effettivamente tutto questo recupero? È qui che entra in gioco Azure AI Search. Azure AI Search è il servizio che archivia, indicizza e recupera i tuoi contenuti. Pensalo come il sistema di archiviazione per la tua applicazione a rag. Gestisce due compiti principali e analizziamoli insieme. Primo l'indicizzazione, ovvero preparare i tuoi dati per la ricerca. Secondo la ricerca, ovvero trovare effettivamente il contenuto giusto quando qualcuno pone una domanda. Esaminiamo prima il processo di indicizzazione. Inizi puntando Azure AI Search verso la tua origine dati, che potrebbe essere un contenitore di blob storage pieno di PDF, un database SQL con record di clienti o molte altre fonti. Il servizio legge quei documenti, li suddivide in pezzi più piccoli chiamati chunk, crea embedding vettoriali per ogni chunk usando quel modello di embedding di cui abbiamo parlato prima e memorizza tutto in un indice di ricerca. Immagina l'indice come un catalogo enorme e altamente organizzato. Ogni contenuto ricevono i diunivo con blocco di testo e una serie di coordinate su quella mappa del significato. Per il processo di ricerca Quando un utente pone una domanda, AI Search la converte in un vettore usando lo stesso modello di embedding, poi scansiona l'indice per trovare i blocchi le cui coordinate sono più vicine a quelle della domanda. Restituisce migliori risultati. Di solito i 5 o 10 più pertinenti fa tutto questo in pochi millisecondi. Qui è a disposizione alcune opzioni vanno. La ricerca vettoriale pura trova i contenuti per significato, quindi compaiono concetti simili anche se le parole esatte non corrispondono. La ricerca per parole chiave funziona come un motore di ricerca tradizionale, trovando corrispondenze esatte. Oppure puoi usare la ricerca ibrida, che combina entrambi gli approcci e di solito è la scelta migliore. Esiste anche il cosiddetto semantical ranking, che prende quei risultati iniziali e li riordina in base a quanto effettivamente rispondono alla domanda. Come un secondo passaggio che cattura ciò che il primo potrebbe averti lasciato. Una cosa da sapere è che Azure AI Search può diventare costoso. Il livello base parte da circa 75 dollari al mese e sale da lì. Se stai solo facendo esperimenti, usa il livello gratuito o assicurati di eliminare le risorse quando hai finito. Per l'uso in produzione, tuttavia, il costo solitamente giustificato. Stai acquistando velocità e affidabilità su larga scala. Azure Open AI e AI Found, rigenerazione e orchestrazione. Dunque, ora i tuoi dati sono indicizzati e pronti per il recupero, ma l'LLM deve ancora capire la tua domanda e generare una risposta solida. È qui che entrano in gioco Azure Open AI e Azure AI Found. Azure Open AI fornisce modello linguistico vero e proprio, il GPT-4 ASMR, il GPT-4.1 o qualsiasi modello tu scelga. Questo è il motore di generazione. Riceve un prompt che include sia la domanda originale dell'utente, sia il contesto recuperato da Azure AI Search. Il modello legge quel contesto e produce una risposta basata su ciò che trova. Ora non puoi semplicemente inserire tutto e sperare per il meglio. È bisogno di un system prompt, una serie di istruzioni che dai al modello in anticipo su come comportarsi. Gli dici di usare solo il contesto fornito, di citare le fonti e, cosa più importante, di dire, non lo so se le informazioni rilevanti non sono presenti nei documenti recuperati. È questo che mantiene il modello onesto. Senza un buon system prompt, il modello potrebbe ripiegare sui dati di addestramento o, peggio, inventare qualcosa. Quindi come si collegano concretamente tutti questi pezzi? È qui che entra in gioco Azure AI Found. È il portale dove crei un progetto, distribuisci i tuoi modelli, colleghi le tue fonti dati e testi il tuo agente. Pensalo come il centro di controllo per l'intera configurazione RAP. Dentro a Foundry puoi aggiungere il tuo indice di Azure AI Search come fonte di conoscenza per il tuo agente senza scrivere codice personalizzato per la configurazione base. Basta creare una connessione, selezionare il tuo indice e l'agente inizierà a interrogarlo automaticamente. Il portale gestisce l'orchestrazione. Quando un utente pone una domanda, l'agente sa di chiamare AI Search, recuperare i frammenti pertinenti e passarli all'LLM insieme alla domanda originale. Ecco un esempio concreto. In un tutorial che ho trovato, qualcuno ha creato un agente di raccomandazione film usando un set di dati di Netflix. Hanno caricato un file CSV con titoli dei film, descrizioni e informazioni sul casting, Azure Blob Storage, poi hanno usato Azure AI Search per indicizzare quei dati. In Azure AI Foundry hanno creato un agente con GPT quattroesimo e collegato l'indice di AI Search. Quando un utente ha chiesto mi piacciono i thriller, dammi qualche consiglio. L'agente ha cercato nell'indice, ha trovato film thriller da quel set di dati specifico e ha restituito i consigli. E questo è il punto chiave, è raccomandato solo film effettivamente presenti in quel set di dati. Non ha inventato nulla, non ha attinto ai suoi dati di addestramento e ha lavorato esclusivamente dal contenuto fornito. Questo è il potere della RAG. RAG classico contro RAG Agen. Ora parliamo di come configurarlo. Ci sono due modelli principali, RAG classico e RAG agentico. Quale scegliere dipende da cosa stai costruendo. La RAG classica è l'approccio di RET. Una query entra, una ricerca viene eseguita e una risposta esce. Semplice, veloce e prevedibile. Pensala come andare alla reception di un ufficio e chiedere uno specifico documento. L'addetto lo prende, te lo consegna, fatto. La RAG classica funziona benissimo per domande e risposte su un singolo argomento come qual è la politica aziendale sul lavoro da remoto? O mostrano i passaggi per risolvere questo codice di error. È affidabile, economica e facile da correggere in caso di problemi perché il flusso è lineare. La RAG agentica è diversa. L'agente AI decide come recuperare le informazioni. Può porre più sotto domande, cercare in diversi indici, iterare sui risultati e sintetizzare tra le fonti prima di rispondere. È come avere un responsabile di edificio che si coordina con diversi reparti per accogliere tutti i pezzi. Non prende solo un documento. Parla con le risorse umane, controlla i registri, incrocia le politiche e poi torna con una risposta completa. Microsoft ha condotto dei test e ha scoperto che la RAG agentica offre un miglioramento di circa 40 appartenenze delle risposte per domande complesse. È un dato significativo, ma utilizza da 3 a 10 volte più token e aggiunge latenza. Per le domande semplici, quel lavoro extra è sprecato. La RAG classica le gestisce senza problemi. Quindi quando usare l'uno o l'altro. La classica per quelli di routine ad alto volume dove velocità e costi sono fondamentali. La RAG agentica per domande multipassaggio, ambiguo, cross dominio, dove la precisione giustifica il calcolo extra. Sezione di collegamento, esempio end-to-end. Vediamo come tutti questi pezzi si incastrano con un esempio reale. Immagina di creare un agente di supporto clienti per un'agenzia di viaggi chiamata Marigold Travels. Hai brochure di viaggio, recensioni di hotelli e documenti di policy sparsi in tutta la tua organizzazione. Vuoi che i clienti facciano domande e ottengano risposte accurate basate sui tuoi contenuti reali, non su congetture generiche. Primo passo. Archivia tutto quel contenuto in Azure Blob Storage. Brochure in una cartella, recensioni in un'altra, policy in una terza, semplici file in un container. Secondo passo. Usa Azure e iSearch per indicizzare quei dati eseguendo la procedura guidata di importazione puntandola al tuo Blob Storage e lasciandola lavorare. Il servizio regge ogni documento, lo suddivide in parti, crea embed in vettoriali, costruisce un indice cercabile. L'intero processo richiede pochi minuti. Terzo passo. Entra in Azure AI Foundry e crea un agente. Distribuisci il GPT quattroesimo come modello, scrivi un prompt di sistema che gli ordini di usare solo il contesto fornito e citare le fonti, quindi collega il tuo indice Azure AI Search come fonte di conoscenza. Pochi clic che l'è fatta. Ora un cliente chiede qual è l'hotel con le migliori recensioni a Dubai sotto i 300 dollari? L'agente prende la domanda e la invia ad Azure AI Search. Azure AI Search la converte in un vettore e trova le porzioni più rilevanti dalle tue recensioni e brochure. Quelle porzioni vengono passate al GPT quattroesimo insieme alla domanda originale. Il modello le legge identifica la corrispondenza migliore e genera una risposta con citazioni che rimandano ai tuoi documenti originali. Punto è che l'LLM non ha mai memorizzato quei dati, non è stato addestrato sulle tue recensioni di hotel. Lavora sui tuoi contenuti specifici ogni singola volta, aggiungi nuove recensioni domani e le risposte si aggiorneranno automaticamente. Rimuovi una brochure obsoleta e smetterà di apparire. Il modello non ha bisogno di essere addestrato, ha solo bisogno del corretto livello di recupero. Quindi come iniziare a costruire una Ragswazzo? Soddividiamola in tre passaggi. Prima di tutto conosci i tuoi dati. Prima ancora di scegliere un servizio capisci dove risiedono i tuoi contenuti, come sono organizzati e chi dovrebbe avere accesso. Il successo della Rags dipende dalla qualità dei tuoi dati. La maggior parte dei rifallimenti della Ragswazzo non sono problemi. Sono problemi di recupero. Ultimo passaggio, aggiungi la LAM. Una volta che la ricerca restituisce i risultati corretti allora integri la generazione. È a quel punto che colleghi a Azure Open AI e iscrivi il tuo prompt di sistema. Il punto è che la Rags non è qualcosa che si compra, è un modello che si costruisce. Azure ti fornisce i componenti, l'archiviazione, la ricerca, i modelli e la colla per unirli. Devi solo metterli insieme nel modo giusto. Se questo ti ha aiutato a vedere il quadro generale, iscriviti per altre spiegazioni semplici. Lascia un commento con il tuo caso d'uso della Rags. Mi piacerebbe sapere cosa stai costruendo.