M365Con 2027 – conferência online gratuita · 11–22 Jan 2027 · 120 sessions m365con.net

Small language model (SLM)

Concept

Um pequeno modelo de linguagem é um modelo compacto de IA com muito menos parâmetros do que um grande modelo de linguagem, por isso exige menos computação e pode ser focado em um domínio restrito ou executado em dispositivos locais.

✦ CONCEPTSmall language model(SLM)M365.FM
Title graphic: Small language model (SLM) (Concept)

Frequentemente tratados em conjunto

Os episódios sobre Small language model (SLM) costumam abordar também Multi-agent system, Large language model (LLM) e Microsoft Foundry.

Descrição

Um pequeno modelo de linguagem (SLM) é um modelo compacto de IA com muito menos parâmetros do que um grande modelo de linguagem (LLM). Por causa desse tamanho menor, ele exige menos computação e pode ser focado em um domínio restrito ou executado em dispositivos locais. Os SLMs também são chamados de modelos de linguagem compactos. Eles são criados para tarefas de linguagem natural, como geração de texto, mas são pequenos o suficiente para serem treinados ou executados em hardware de consumo, incluindo computadores pessoais, laptops e dispositivos inteligentes.

A diferença de tamanho é a distinção central. Uma visão geral situa os SLMs, normalmente, abaixo de cerca de 40 bilhões de parâmetros, com muitas famílias de modelos abaixo de 10 bilhões. Já os grandes modelos de linguagem costumam ter centenas de bilhões de parâmetros e, às vezes, mais de um trilhão. A maioria dos SLMs usa a mesma arquitetura dos LLMs, mas com menos parâmetros e, em alguns casos, com menor precisão numérica. Eles são comumente produzidos ou reduzidos por meio de técnicas como destilação de conhecimento, poda e quantização. O pré-treinamento também ajuda modelos muito pequenos, e um volume maior de dados de pré-treinamento geralmente melhora seus resultados.

Várias famílias de modelos são descritas como SLMs. Exemplos citados no material de origem incluem Gemma, Granite, Ministral, Phi, Qwen, SmolLM (com variantes de 135M, 360M e 1,7B) e os modelos de fundação da Apple para execução no dispositivo. A família Phi, da Microsoft, é a mais relevante para o ecossistema Microsoft, e é a família discutida no episódio do M365.FM sobre este tema.

As principais vantagens são a menor exigência de computação e a capacidade de funcionar localmente, sem acesso à nuvem. Executar um modelo localmente tem uma consequência direta para o tratamento de dados. O episódio do M365.FM "Small Language Models for Faster, Cheaper Enterprise AI" afirma que, quando os modelos Phi são implantados localmente, os dados permanecem dentro da organização, que controla o acesso e pode atender a requisitos de conformidade. O episódio descreve os SLMs como capazes de entregar resultados rápidos e precisos para tarefas específicas, como resumir e-mails, classificar tickets ou documentos e processar documentos regulatórios de forma eficiente.

A contrapartida é a capacidade. Menos parâmetros limitam a quantidade de informação que um modelo pode codificar, o que pode reduzir a generalização e a precisão em comparação com modelos grandes. Como resultado, a qualidade de um SLM depende muito de quão bem seus dados de treinamento correspondem à tarefa para a qual ele é usado. É por isso que os SLMs costumam ser apresentados em torno de casos de uso restritos e bem definidos, e não de trabalhos amplos e abertos. Uma decisão típica para uma organização é, portanto, avaliar se uma tarefa é específica e repetível o suficiente para um modelo pequeno, ou se ela exige a capacidade mais ampla de um modelo grande.

O episódio "Small Language Models for Faster, Cheaper Enterprise AI" recomenda que as empresas considerem os SLMs e se mantenham preparadas para a próxima onda de inovação em IA, e observa que especialistas preveem que a IA em breve fará parte da força de trabalho e transformará setores. Em seu formato de perguntas frequentes, o episódio define um SLM como um modelo com menos parâmetros do que os grandes modelos, capaz de rodar em dispositivos locais e de entregar resultados rápidos e precisos para tarefas específicas.

Overview compiled with AI from M365.FM episodes and the facts on this page. You can improve it with the edit button below.

TipoConcept
WikipédiaSmall language model (SLM) – Wikipedia en.wikipedia.org

Articles about Small language model (SLM) (4)

Artigos que tratam de Small language model (SLM):

Perguntas frequentes

Questions marked with AI were written with AI from the facts on this page.

O que é um pequeno modelo de linguagem (SLM)? (AI)

Um pequeno modelo de linguagem é um modelo compacto de IA com muito menos parâmetros do que um grande modelo de linguagem. Ele exige menos computação e pode ser focado em um domínio restrito ou executado em dispositivos locais.

Em que um SLM difere de um grande modelo de linguagem? (AI)

Os SLMs normalmente têm abaixo de cerca de 40 bilhões de parâmetros, com muitos abaixo de 10 bilhões, enquanto os LLMs costumam ter centenas de bilhões ou mais. Eles geralmente compartilham a mesma arquitetura, mas o tamanho menor reduz as necessidades de computação e pode reduzir a precisão e a generalização.

Por que os SLMs são importantes para a privacidade? (AI)

O episódio do M365.FM sobre SLMs afirma que os modelos Phi podem ser implantados localmente, de modo que os dados permanecem dentro da organização. Isso permite que a organização controle o acesso e atenda a requisitos de conformidade.

Glossário

Community wiki

Short info above, community knowledge below: add practical tips, examples or corrections. New contributions are reviewed first; trusted members publish directly.

Especialistas e empresas para este tópico

Ninguém indicou ainda este tópico. Adicione-o ao seu perfil.

Sources

Maintained by Mirko Peters (Microsoft MVP) · Last updated: