Small language model (SLM)
Concept
Een klein taalmodel is een compact AI-taalmodel met veel minder parameters dan een groot taalmodel, waardoor het minder rekenkracht nodig heeft en gericht kan worden op een smal domein of lokaal op apparaten kan draaien.
Vaak samen besproken
Afleveringen over Small language model (SLM) gaan vaak ook over Multi-agent system, Large language model (LLM) en Microsoft Foundry.
Beschrijving
Een klein taalmodel (SLM) is een compact AI-taalmodel dat veel minder parameters heeft dan een groot taalmodel (LLM). Door deze kleinere omvang heeft het minder rekenkracht nodig en kan het gericht worden op een smal domein of lokaal op apparaten draaien. SLM's worden ook compacte taalmodellen genoemd. Ze zijn gebouwd voor natuurlijketaaltaken zoals tekstgeneratie, maar ze zijn klein genoeg om getraind of uitgevoerd te worden op consumentenhardware, waaronder persoonlijke computers, laptops en slimme apparaten.
Het verschil in omvang is het centrale onderscheid. Eén overzicht plaatst SLM's doorgaans onder ongeveer 40 miljard parameters, waarbij veel modelfamilies onder de 10 miljard blijven. Grote taalmodellen hebben daarentegen vaak honderden miljarden parameters en soms meer dan een biljoen. De meeste SLM's gebruiken dezelfde architectuur als LLM's, maar met minder parameters en soms een lagere numerieke precisie. Ze worden doorgaans gemaakt of verkleind met technieken zoals kennisdistillatie, snoeien (pruning) en quantisatie. Voortraining helpt ook zeer kleine modellen, en grotere voortrainingsdatasets verbeteren hun resultaten over het algemeen.
Verschillende modelfamilies worden als SLM's beschreven. Voorbeelden die in het brondmateriaal worden genoemd zijn Gemma, Granite, Ministral, Phi, Qwen, SmolLM (met varianten van 135M, 360M en 1,7B) en de on-device foundation models van Apple. De Phi-familie van Microsoft is het meest relevant voor het Microsoft-ecosysteem en is de familie die in de M365.FM-aflevering over dit onderwerp wordt besproken.
De belangrijkste voordelen zijn lagere rekenkrachtvereisten en de mogelijkheid om lokaal te draaien zonder cloudtoegang. Het lokaal draaien van een model heeft een directe consequentie voor de manier waarop gegevens worden verwerkt. De M365.FM-aflevering "Small Language Models for Faster, Cheaper Enterprise AI" stelt dat wanneer Phi-modellen lokaal worden ingezet, de gegevens binnen de organisatie blijven, en de organisatie de toegang beheert en aan compliance-eisen kan voldoen. De aflevering beschrijft SLM's als modellen die snelle, nauwkeurige resultaten leveren voor specifieke taken, zoals het samenvatten van e-mails, het classificeren van tickets of documenten, en het efficiënt verwerken van regelgevingsdocumenten.
De keerzijde is capaciteit. Minder parameters beperken hoeveel informatie een model kan coderen, wat de generalisatie en nauwkeurigheid kan verminderen in vergelijking met grote modellen. Daardoor hangt de kwaliteit van een SLM sterk af van hoe goed de trainingsdata aansluit bij de taak die het krijgt. Daarom worden SLM's doorgaans gepresenteerd rond smalle, goed afgebakende toepassingen in plaats van brede, open werkzaamheden. Een typische beslissing voor een organisatie is dan ook of een taak specifiek en herhaalbaar genoeg is voor een klein model, of dat ze de bredere mogelijkheden van een groot model nodig heeft.
De aflevering "Small Language Models for Faster, Cheaper Enterprise AI" raadt bedrijven aan om SLM's te overwegen en klaar te blijven voor de volgende golf van AI-innovatie, en merkt op dat experts voorspellen dat AI binnenkort tot de beroepsbevolking zal behoren en industrieën zal transformeren. In het FAQ-formaat definieert de aflevering een SLM als een model met minder parameters dan grote modellen, dat lokaal op apparaten kan draaien en snelle, nauwkeurige resultaten geeft voor specifieke taken.
Overzicht samengesteld met AI op basis van M365.FM-afleveringen en de feiten op deze pagina. Je kunt het verbeteren met de bewerkknop hieronder.
| Type | Concept |
|---|---|
| Wikipedia | Small language model (SLM) – Wikipedia en.wikipedia.org |
Artikelen over Small language model (SLM) (4)
Artikelen waarin Small language model (SLM) een onderwerp is:
- Waarom Copilot faalt: hallucinaties en privacyfouten in de onderneming ontrafeld
· Mirko Peters
Wanneer je achter je werkplek gaat zitten en een AI-assistent zoals Microsoft Copilot opent, doe je dat met een duidelijke verwachting: je wilt je werkproces versnellen, …
Dit moet je horenSmall Language Models for Faster, Cheaper Enterprise AI - Copilot-fouten verhelpen met Small Language Models
· Mirko Peters
Welkom terug bij de podcast-begeleidingsblog! In dit bericht duiken we diep in de technische verschuiving die verandert hoe bedrijfsorganisaties tegen kunstmatige intelligentie aan - Why Copilot Fails: Unpacking Hallucinations and Enterprise Privacy Flaws
· Mirko Peters
When you sit down at your workstation and open up an AI assistant like Microsoft Copilot, you do so with a clear expectation: you want to accelerate your workflow, … - Fixing Copilot's Flaws with Small Language Models
· Mirko Peters
Welcome back to the podcast companion blog! In this post, we are diving deep into the technical shift transforming how enterprise organizations approach artificial …
Veelgestelde vragen
Vragen met AI zijn met AI geschreven op basis van de feiten op deze pagina.
Wat is een klein taalmodel (SLM)? (AI)
Een klein taalmodel is een compact AI-taalmodel met veel minder parameters dan een groot taalmodel. Het heeft minder rekenkracht nodig en kan gericht worden op een smal domein of lokaal op apparaten draaien.
Hoe verschilt een SLM van een groot taalmodel? (AI)
SLM's hebben doorgaans minder dan ongeveer 40 miljard parameters, waarbij veel modellen onder de 10 miljard blijven, terwijl LLM's vaak honderden miljarden of meer hebben. Ze gebruiken meestal dezelfde architectuur, maar de kleinere omvang verlaagt de rekenkrachtbehoefte en kan de nauwkeurigheid en generalisatie verminderen.
Waarom zijn SLM's belangrijk voor privacy? (AI)
De M365.FM-aflevering over SLM's stelt dat Phi-modellen lokaal kunnen worden ingezet, waardoor de gegevens binnen de organisatie blijven. Hierdoor kan de organisatie de toegang beheren en aan compliance-eisen voldoen.
Community wiki
Short info above, community knowledge below: add practical tips, examples or corrections. New contributions are reviewed first; trusted members publish directly.
Experts en bedrijven voor dit onderwerp
Niemand heeft dit onderwerp nog opgegeven. Voeg het toe aan je profiel.
Bronnen
- Small language model (SLM) – Wikipedia en.wikipedia.org
- RSS-feed: Small language model (SLM)
- Artikelen over dit onderwerp: 4
Beheerd door Mirko Peters (Microsoft MVP) · Laatst bijgewerkt: