M365Con 2027 – conferenza online gratuita · 11–22 Jan 2027 · 120 sessions m365con.net

Small language model (SLM)

Concetto

Un piccolo modello linguistico è un modello linguistico AI compatto con molti meno parametri di un grande modello linguistico, quindi richiede meno risorse di calcolo e può essere focalizzato su un dominio ristretto o eseguito su dispositivi locali.

✦ CONCETTOSmall language model(SLM)M365.FM
Grafica del titolo: small language model (SLM) (Concetto)

Spesso trattati insieme

Gli episodi su Small language model (SLM) parlano spesso anche di Multi-agent system, Large language model (LLM) e Microsoft Foundry.

Descrizione

Un piccolo modello linguistico (SLM) è un modello linguistico AI compatto che ha molti meno parametri di un grande modello linguistico (LLM). Proprio per le sue dimensioni ridotte, richiede meno risorse di calcolo e può essere focalizzato su un dominio ristretto o eseguito su dispositivi locali. Gli SLM sono anche chiamati modelli linguistici compatti. Sono progettati per compiti di linguaggio naturale come la generazione di testo, ma sono abbastanza piccoli da poter essere addestrati o eseguiti su hardware di consumo, inclusi personal computer, laptop e dispositivi smart.

La differenza di dimensioni è la distinzione centrale. Una panoramica colloca gli SLM tipicamente al di sotto dei 40 miliardi di parametri circa, con molte famiglie di modelli sotto i 10 miliardi. I grandi modelli linguistici, al confronto, hanno spesso centinaia di miliardi di parametri e talvolta più di un trilione. La maggior parte degli SLM utilizza la stessa architettura degli LLM, ma con meno parametri e talvolta con una precisione numerica inferiore. Vengono comunemente prodotti o ridotti con tecniche come la distillazione della conoscenza, il pruning e la quantizzazione. Anche il pre-addestramento aiuta i modelli molto piccoli, e una maggiore quantità di dati di pre-addestramento generalmente ne migliora i risultati.

Diverse famiglie di modelli sono descritte come SLM. Gli esempi citati nel materiale di riferimento includono Gemma, Granite, Ministral, Phi, Qwen, SmolLM (con varianti da 135M, 360M e 1,7B) e i modelli di fondazione on-device di Apple. La famiglia Phi di Microsoft è quella più pertinente all'ecosistema Microsoft, ed è la famiglia discussa nell'episodio di M365.FM su questo argomento.

I principali vantaggi sono i requisiti di calcolo più bassi e la possibilità di eseguire il modello localmente senza accesso al cloud. Eseguire un modello in locale ha una conseguenza diretta sulla gestione dei dati. L'episodio di M365.FM "Small Language Models for Faster, Cheaper Enterprise AI" afferma che, quando i modelli Phi vengono distribuiti in locale, i dati restano all'interno dell'organizzazione, che controlla l'accesso e può soddisfare i requisiti di conformità. L'episodio descrive gli SLM come in grado di fornire risultati rapidi e accurati per compiti specifici, come riassumere email, classificare ticket o documenti ed elaborare in modo efficiente documenti normativi.

Il compromesso riguarda la capacità. Un numero inferiore di parametri limita la quantità di informazioni che un modello può codificare, il che può ridurre la generalizzazione e l'accuratezza rispetto ai modelli di grandi dimensioni. Di conseguenza, la qualità di un SLM dipende fortemente da quanto bene i suoi dati di addestramento corrispondano al compito assegnato. Per questo gli SLM vengono tipicamente inquadrati attorno a casi d'uso ristretti e ben definiti, piuttosto che a lavori ampi e aperti. Una decisione tipica per un'organizzazione è quindi stabilire se un compito sia abbastanza specifico e ripetibile per un modello piccolo, o se richieda la capacità più ampia di un modello grande.

L'episodio "Small Language Models for Faster, Cheaper Enterprise AI" raccomanda alle aziende di prendere in considerazione gli SLM e di restare pronte alla prossima ondata di innovazione nell'AI, e osserva che gli esperti prevedono che l'AI entrerà presto nel mondo del lavoro e trasformerà i settori. Nel suo formato FAQ, l'episodio definisce un SLM come un modello con meno parametri dei grandi modelli, in grado di funzionare su dispositivi locali e di fornire risultati rapidi e accurati per compiti specifici.

Panoramica compilata con l'AI dagli episodi di M365.FM e dai dati di questa pagina. Puoi migliorarla con il pulsante di modifica qui sotto.

TipoConcetto
WikipediaSmall language model (SLM) – Wikipedia en.wikipedia.org

Articoli su Small language model (SLM) (4)

Articoli che trattano di Small language model (SLM):

Domande frequenti

Le domande contrassegnate con AI sono state scritte con l'AI a partire dai fatti riportati in questa pagina.

Cos'è un piccolo modello linguistico (SLM)? (AI)

Un piccolo modello linguistico è un modello linguistico AI compatto con molti meno parametri di un grande modello linguistico. Richiede meno risorse di calcolo e può essere focalizzato su un dominio ristretto o eseguito su dispositivi locali.

In cosa un SLM si differenzia da un grande modello linguistico? (AI)

Gli SLM hanno tipicamente al di sotto dei 40 miliardi di parametri circa, con molti sotto i 10 miliardi, mentre gli LLM ne hanno spesso centinaia di miliardi o più. Di solito condividono la stessa architettura, ma le dimensioni ridotte abbassano il fabbisogno di calcolo e possono ridurre l'accuratezza e la capacità di generalizzazione.

Perché gli SLM sono importanti per la privacy? (AI)

L'episodio di M365.FM sugli SLM afferma che i modelli Phi possono essere distribuiti in locale, quindi i dati restano all'interno dell'organizzazione. Questo consente all'organizzazione di controllare l'accesso e di soddisfare i requisiti di conformità.

Glossario

Community wiki

Short info above, community knowledge below: add practical tips, examples or corrections. New contributions are reviewed first; trusted members publish directly.

Esperti e aziende per questo argomento

Nessuno ha ancora indicato questo argomento. Aggiungilo al tuo profilo.

Fonti

Mantenuto da Mirko Peters (Microsoft MVP) · Ultimo aggiornamento: