Small language model (SLM)
Concepto
Un modelo de lenguaje pequeño es un modelo de lenguaje de IA compacto con muchos menos parámetros que un modelo de lenguaje grande, por lo que necesita menos cómputo y puede centrarse en un dominio específico o ejecutarse en dispositivos locales.
Temas que suelen tratarse juntos
Los episodios sobre Small language model (SLM) suelen tratar también Multi-agent system, Large language model (LLM) y Microsoft Foundry.
Descripción
Un modelo de lenguaje pequeño (SLM) es un modelo de lenguaje de IA compacto que tiene muchos menos parámetros que un modelo de lenguaje grande (LLM). Debido a este menor tamaño, necesita menos cómputo y puede centrarse en un dominio específico o ejecutarse en dispositivos locales. Los SLM también se denominan modelos de lenguaje compactos. Están diseñados para tareas de lenguaje natural, como la generación de texto, pero son lo bastante pequeños como para entrenarse o ejecutarse en hardware de consumo, incluidos ordenadores personales, portátiles y dispositivos inteligentes.
La diferencia de tamaño es la distinción central. Una descripción general sitúa los SLM típicamente por debajo de unos 40 000 millones de parámetros, y muchas familias de modelos tienen menos de 10 000 millones. Los modelos de lenguaje grandes, en comparación, suelen tener cientos de miles de millones de parámetros y, en ocasiones, más de un billón. La mayoría de los SLM utilizan la misma arquitectura que los LLM, pero con menos parámetros y, a veces, con una precisión numérica menor. Suelen producirse o reducirse mediante técnicas como la destilación de conocimiento, la poda y la cuantización. El preentrenamiento también ayuda a los modelos muy pequeños, y un mayor volumen de datos de preentrenamiento mejora generalmente sus resultados.
Varias familias de modelos se describen como SLM. Entre los ejemplos mencionados en el material de origen se encuentran Gemma, Granite, Ministral, Phi, Qwen, SmolLM (con variantes de 135M, 360M y 1.7B) y los modelos fundacionales en el dispositivo de Apple. La familia Phi de Microsoft es la más relevante para el ecosistema de Microsoft, y es la familia que se analiza en el episodio de M365.FM sobre este tema.
Las principales ventajas son los menores requisitos de cómputo y la posibilidad de ejecutarse localmente sin acceso a la nube. Ejecutar un modelo localmente tiene una consecuencia directa para el tratamiento de los datos. El episodio de M365.FM "Small Language Models for Faster, Cheaper Enterprise AI" afirma que, cuando los modelos Phi se implementan localmente, los datos permanecen dentro de la organización, y esta controla el acceso y puede cumplir los requisitos de cumplimiento normativo. El episodio describe los SLM como una solución que ofrece resultados rápidos y precisos para tareas específicas, como resumir correos electrónicos, clasificar tickets o documentos, y procesar documentos normativos de forma eficiente.
La contrapartida es la capacidad. Un menor número de parámetros limita la cantidad de información que un modelo puede codificar, lo que puede reducir la generalización y la precisión en comparación con los modelos grandes. Por ello, la calidad de un SLM depende en gran medida de lo bien que sus datos de entrenamiento se ajusten a la tarea encomendada. Por eso los SLM suelen plantearse en torno a casos de uso estrechos y bien definidos, en lugar de trabajos amplios y abiertos. Una decisión típica para una organización es, por tanto, si una tarea es lo bastante específica y repetible para un modelo pequeño, o si necesita la capacidad más amplia de un modelo grande.
El episodio "Small Language Models for Faster, Cheaper Enterprise AI" recomienda a las empresas considerar los SLM y mantenerse preparadas para la próxima ola de innovación en IA, y señala que los expertos prevén que la IA se incorporará pronto a la fuerza laboral y transformará los sectores. En su formato de preguntas frecuentes, el episodio define un SLM como un modelo con menos parámetros que los modelos grandes, capaz de ejecutarse en dispositivos locales y de ofrecer resultados rápidos y precisos para tareas específicas.
Resumen generado con IA a partir de los episodios de M365.FM y los datos de esta página. Puedes mejorarlo con el botón de edición de abajo.
| Tipo | Concepto |
|---|---|
| Wikipedia | Small language model (SLM) – Wikipedia en.wikipedia.org |
Artículos sobre Small language model (SLM) (4)
Artículos que tratan sobre Small language model (SLM):
- Por qué falla Copilot: análisis de las alucinaciones y de los fallos de privacidad empresarial
· Mirko Peters
Cuando te sientas frente a tu estación de trabajo y abres un asistente de IA como Microsoft Copilot, lo haces con una expectativa clara: quieres acelerar tu flujo de trabajo, autom
Tienes que escuchar estoSmall Language Models for Faster, Cheaper Enterprise AI - Corregir los fallos de Copilot con modelos de lenguaje pequeños
· Mirko Peters
¡Bienvenido de nuevo al blog complementario del podcast! En esta entrada vamos a profundizar en el cambio técnico que está transformando la forma en que las organizaciones empresar - Why Copilot Fails: Unpacking Hallucinations and Enterprise Privacy Flaws
· Mirko Peters
When you sit down at your workstation and open up an AI assistant like Microsoft Copilot, you do so with a clear expectation: you want to accelerate your workflow, … - Fixing Copilot's Flaws with Small Language Models
· Mirko Peters
Welcome back to the podcast companion blog! In this post, we are diving deep into the technical shift transforming how enterprise organizations approach artificial …
Preguntas frecuentes
Las preguntas marcadas con IA se escribieron con IA a partir de los datos de esta página.
¿Qué es un modelo de lenguaje pequeño (SLM)? (IA)
Un modelo de lenguaje pequeño es un modelo de lenguaje de IA compacto con muchos menos parámetros que un modelo de lenguaje grande. Necesita menos cómputo y puede centrarse en un dominio específico o ejecutarse en dispositivos locales.
¿En qué se diferencia un SLM de un modelo de lenguaje grande? (IA)
Los SLM suelen tener menos de unos 40 000 millones de parámetros, y muchos menos de 10 000 millones, mientras que los LLM suelen tener cientos de miles de millones o más. Normalmente comparten la misma arquitectura, pero su menor tamaño reduce las necesidades de cómputo y puede disminuir la precisión y la generalización.
¿Por qué son importantes los SLM para la privacidad? (IA)
El episodio de M365.FM sobre los SLM afirma que los modelos Phi pueden implementarse localmente, por lo que los datos permanecen dentro de la organización. Esto permite a la organización controlar el acceso y cumplir los requisitos de cumplimiento normativo.
Community wiki
Short info above, community knowledge below: add practical tips, examples or corrections. New contributions are reviewed first; trusted members publish directly.
Expertos y empresas para este tema
Nadie ha indicado aún este tema. Añádelo a tu perfil.
Fuentes
- Small language model (SLM) – Wikipedia en.wikipedia.org
- Feed RSS: Small language model (SLM)
- Artículos sobre este tema: 4
Mantenido por Mirko Peters (Microsoft MVP) · Última actualización: