M365Con 2027 – gratis online conferentie · 11–22 Jan 2027 · 120 sessions m365con.net

Small language model (SLM)

Concept

Een klein taalmodel is een compact AI-taalmodel met veel minder parameters dan een groot taalmodel, waardoor het minder rekenkracht nodig heeft en gericht kan worden op een smal domein of lokaal op apparaten kan draaien.

✦ CONCEPTSmall language model(SLM)M365.FM
Title graphic: Small language model (SLM) (Concept)

Vaak samen besproken

Afleveringen over Small language model (SLM) gaan vaak ook over Multi-agent system, Large language model (LLM) en Microsoft Foundry.

Beschrijving

Een klein taalmodel (SLM) is een compact AI-taalmodel dat veel minder parameters heeft dan een groot taalmodel (LLM). Door deze kleinere omvang heeft het minder rekenkracht nodig en kan het gericht worden op een smal domein of lokaal op apparaten draaien. SLM's worden ook compacte taalmodellen genoemd. Ze zijn gebouwd voor natuurlijketaaltaken zoals tekstgeneratie, maar ze zijn klein genoeg om getraind of uitgevoerd te worden op consumentenhardware, waaronder persoonlijke computers, laptops en slimme apparaten.

Het verschil in omvang is het centrale onderscheid. Eén overzicht plaatst SLM's doorgaans onder ongeveer 40 miljard parameters, waarbij veel modelfamilies onder de 10 miljard blijven. Grote taalmodellen hebben daarentegen vaak honderden miljarden parameters en soms meer dan een biljoen. De meeste SLM's gebruiken dezelfde architectuur als LLM's, maar met minder parameters en soms een lagere numerieke precisie. Ze worden doorgaans gemaakt of verkleind met technieken zoals kennisdistillatie, snoeien (pruning) en quantisatie. Voortraining helpt ook zeer kleine modellen, en grotere voortrainingsdatasets verbeteren hun resultaten over het algemeen.

Verschillende modelfamilies worden als SLM's beschreven. Voorbeelden die in het brondmateriaal worden genoemd zijn Gemma, Granite, Ministral, Phi, Qwen, SmolLM (met varianten van 135M, 360M en 1,7B) en de on-device foundation models van Apple. De Phi-familie van Microsoft is het meest relevant voor het Microsoft-ecosysteem en is de familie die in de M365.FM-aflevering over dit onderwerp wordt besproken.

De belangrijkste voordelen zijn lagere rekenkrachtvereisten en de mogelijkheid om lokaal te draaien zonder cloudtoegang. Het lokaal draaien van een model heeft een directe consequentie voor de manier waarop gegevens worden verwerkt. De M365.FM-aflevering "Small Language Models for Faster, Cheaper Enterprise AI" stelt dat wanneer Phi-modellen lokaal worden ingezet, de gegevens binnen de organisatie blijven, en de organisatie de toegang beheert en aan compliance-eisen kan voldoen. De aflevering beschrijft SLM's als modellen die snelle, nauwkeurige resultaten leveren voor specifieke taken, zoals het samenvatten van e-mails, het classificeren van tickets of documenten, en het efficiënt verwerken van regelgevingsdocumenten.

De keerzijde is capaciteit. Minder parameters beperken hoeveel informatie een model kan coderen, wat de generalisatie en nauwkeurigheid kan verminderen in vergelijking met grote modellen. Daardoor hangt de kwaliteit van een SLM sterk af van hoe goed de trainingsdata aansluit bij de taak die het krijgt. Daarom worden SLM's doorgaans gepresenteerd rond smalle, goed afgebakende toepassingen in plaats van brede, open werkzaamheden. Een typische beslissing voor een organisatie is dan ook of een taak specifiek en herhaalbaar genoeg is voor een klein model, of dat ze de bredere mogelijkheden van een groot model nodig heeft.

De aflevering "Small Language Models for Faster, Cheaper Enterprise AI" raadt bedrijven aan om SLM's te overwegen en klaar te blijven voor de volgende golf van AI-innovatie, en merkt op dat experts voorspellen dat AI binnenkort tot de beroepsbevolking zal behoren en industrieën zal transformeren. In het FAQ-formaat definieert de aflevering een SLM als een model met minder parameters dan grote modellen, dat lokaal op apparaten kan draaien en snelle, nauwkeurige resultaten geeft voor specifieke taken.

Overzicht samengesteld met AI op basis van M365.FM-afleveringen en de feiten op deze pagina. Je kunt het verbeteren met de bewerkknop hieronder.

TypeConcept
WikipediaSmall language model (SLM) – Wikipedia en.wikipedia.org

Artikelen over Small language model (SLM) (4)

Artikelen waarin Small language model (SLM) een onderwerp is:

Veelgestelde vragen

Vragen met AI zijn met AI geschreven op basis van de feiten op deze pagina.

Wat is een klein taalmodel (SLM)? (AI)

Een klein taalmodel is een compact AI-taalmodel met veel minder parameters dan een groot taalmodel. Het heeft minder rekenkracht nodig en kan gericht worden op een smal domein of lokaal op apparaten draaien.

Hoe verschilt een SLM van een groot taalmodel? (AI)

SLM's hebben doorgaans minder dan ongeveer 40 miljard parameters, waarbij veel modellen onder de 10 miljard blijven, terwijl LLM's vaak honderden miljarden of meer hebben. Ze gebruiken meestal dezelfde architectuur, maar de kleinere omvang verlaagt de rekenkrachtbehoefte en kan de nauwkeurigheid en generalisatie verminderen.

Waarom zijn SLM's belangrijk voor privacy? (AI)

De M365.FM-aflevering over SLM's stelt dat Phi-modellen lokaal kunnen worden ingezet, waardoor de gegevens binnen de organisatie blijven. Hierdoor kan de organisatie de toegang beheren en aan compliance-eisen voldoen.

Woordenlijst

Community wiki

Short info above, community knowledge below: add practical tips, examples or corrections. New contributions are reviewed first; trusted members publish directly.

Experts en bedrijven voor dit onderwerp

Niemand heeft dit onderwerp nog opgegeven. Voeg het toe aan je profiel.

Bronnen

Beheerd door Mirko Peters (Microsoft MVP) · Laatst bijgewerkt: