Small language model (SLM)
Concept
소형 언어 모델은 대형 언어 모델보다 훨씬 적은 매개변수를 가진 소형 AI 언어 모델로, 더 적은 컴퓨팅 자원을 필요로 하며 좁은 도메인에 집중하거나 로컬 기기에서 실행할 수 있습니다.
함께 자주 다루는 주제
Small language model (SLM) 관련 에피소드에서는 Multi-agent system, Large language model (LLM) 및 Microsoft Foundry도 자주 다룹니다.
Description
소형 언어 모델(SLM)은 대형 언어 모델(LLM)보다 훨씬 적은 매개변수를 가진 소형 AI 언어 모델입니다. 이러한 작은 규모 덕분에 더 적은 컴퓨팅 자원을 필요로 하며, 좁은 도메인에 집중하거나 로컬 기기에서 실행할 수 있습니다. SLM은 컴팩트 언어 모델이라고도 불립니다. 텍스트 생성과 같은 자연어 작업을 위해 만들어졌지만, 개인용 컴퓨터, 노트북, 스마트 기기를 포함한 일반 소비자 하드웨어에서도 학습하거나 실행할 수 있을 만큼 작습니다.
규모의 차이가 핵심적인 구분점입니다. 한 개요에서는 SLM을 대략 400억 개 미만의 매개변수를 가진 모델로 보며, 많은 모델 계열은 100억 개 미만입니다. 이에 비해 대형 언어 모델은 보통 수천억 개의 매개변수를 가지며, 때로는 1조 개를 넘기도 합니다. 대부분의 SLM은 LLM과 같은 아키텍처를 사용하지만 매개변수가 적고, 경우에 따라 수치 정밀도도 낮습니다. 이들은 지식 증류, 가지치기, 양자화와 같은 기법으로 만들어지거나 축소되는 경우가 많습니다. 사전 학습도 아주 작은 모델에 도움이 되며, 일반적으로 더 큰 사전 학습 데이터는 결과를 향상시킵니다.
여러 모델 계열이 SLM으로 소개됩니다. 원본 자료에서 언급된 예로는 Gemma, Granite, Ministral, Phi, Qwen, SmolLM(1억 3,500만, 3억 6,000만, 17억 개 매개변수 변형 포함), 그리고 Apple의 온디바이스 기반 모델이 있습니다. Microsoft의 Phi 계열은 Microsoft 생태계와 가장 관련이 깊으며, 이 주제를 다룬 M365.FM 에피소드에서 논의된 계열입니다.
주요 장점은 낮은 컴퓨팅 요구 사항과 클라우드 접근 없이 로컬에서 실행할 수 있다는 점입니다. 모델을 로컬에서 실행하면 데이터 처리에 직접적인 영향이 있습니다. M365.FM 에피소드 "Small Language Models for Faster, Cheaper Enterprise AI"에 따르면, Phi 모델을 로컬에 배포하면 데이터가 조직 내부에 머물고, 조직이 접근을 통제하여 규정 준수 요건을 충족할 수 있습니다. 이 에피소드는 SLM이 이메일 요약, 티켓이나 문서 분류, 규제 문서의 효율적 처리 등 특정 작업에서 빠르고 정확한 결과를 제공한다고 설명합니다.
그 대가는 용량입니다. 매개변수가 적으면 모델이 담을 수 있는 정보의 양이 제한되어, 대형 모델에 비해 일반화 능력과 정확도가 떨어질 수 있습니다. 따라서 SLM의 품질은 학습 데이터가 주어진 작업과 얼마나 잘 맞는지에 크게 좌우됩니다. 이 때문에 SLM은 광범위하고 개방형인 작업보다는 좁고 명확하게 정의된 사용 사례를 중심으로 설명되는 것이 일반적입니다. 따라서 조직의 전형적인 결정은 작업이 소형 모델에 적합할 만큼 구체적이고 반복적인지, 아니면 대형 모델의 더 넓은 역량이 필요한지를 판단하는 것입니다.
에피소드 "Small Language Models for Faster, Cheaper Enterprise AI"는 기업이 SLM을 검토하고 AI 혁신의 다음 물결에 대비할 것을 권장하며, 전문가들은 AI가 곧 노동 인력에 합류하여 산업을 변화시킬 것이라고 예측한다고 언급합니다. FAQ 형식으로 된 이 에피소드는 SLM을 대형 모델보다 적은 매개변수를 가지며, 로컬 기기에서 실행되고 특정 작업에 대해 빠르고 정확한 결과를 제공할 수 있는 모델로 정의합니다.
Overview compiled with AI from M365.FM episodes and the facts on this page. You can improve it with the edit button below.
| Type | Concept |
|---|---|
| Wikipedia | Small language model (SLM) – Wikipedia en.wikipedia.org |
Articles about Small language model (SLM) (4)
Small language model (SLM)을(를) 다룬 글:
- Copilot이 실패하는 이유: 환각(Hallucination)과 엔터프라이즈 개인 정보 보호 결함 분석
· Mirko Peters
워크스테이션 앞에 앉아 Microsoft Copilot 같은 AI 어시스턴트를 열 때는 분명한 기대를 가지고 시작합니다. 업무 흐름을 가속하고, 번거로운 작업을 자동화하며, 더 깔끔하고 빠르게 코드를 작성하고 싶어 합니다. 많은 일상 업무에서 대규모 언어 모델(LLM)은 이 약속을 지킵니다. 하지만 엔터프라이즈급 소프트웨 - Small Language Model로 Copilot의 결함 해결하기
· Mirko Peters
팟캐스트 동반 블로그에 다시 오신 것을 환영합니다! 이번 글에서는 기업 조직이 인공지능에 접근하는 방식을 바꾸고 있는 기술적 변화를 깊이 살펴보겠습니다. AI 코딩 어시스턴트나 Microsoft Copilot 같은 생산성 도구를 사용해 보셨다면, 아마 가끔 보이는 실수를 겪어 보셨을 겁니다. 존재하지 않는 패키지 이름을 - Why Copilot Fails: Unpacking Hallucinations and Enterprise Privacy Flaws
· Mirko Peters
When you sit down at your workstation and open up an AI assistant like Microsoft Copilot, you do so with a clear expectation: you want to accelerate your workflow, … - Fixing Copilot's Flaws with Small Language Models
· Mirko Peters
Welcome back to the podcast companion blog! In this post, we are diving deep into the technical shift transforming how enterprise organizations approach artificial …
Frequently asked questions
Questions marked with AI were written with AI from the facts on this page.
소형 언어 모델(SLM)이란 무엇인가요? (AI)
소형 언어 모델은 대형 언어 모델보다 훨씬 적은 매개변수를 가진 컴팩트한 AI 언어 모델입니다. 더 적은 컴퓨팅 자원을 필요로 하며, 좁은 도메인에 집중하거나 로컬 기기에서 실행할 수 있습니다.
SLM은 대형 언어 모델과 어떻게 다른가요? (AI)
SLM은 보통 약 400억 개 미만의 매개변수를 가지며, 많은 경우 100억 개 미만입니다. 반면 LLM은 수천억 개 이상인 경우가 많습니다. 대개 같은 아키텍처를 사용하지만, 규모가 작아 컴퓨팅 요구 사항은 낮아지는 대신 정확도와 일반화 능력이 떨어질 수 있습니다.
SLM은 왜 개인정보 보호 측면에서 중요한가요? (AI)
M365.FM의 SLM 관련 에피소드는 Phi 모델을 로컬에 배포할 수 있으므로 데이터가 조직 내부에 머문다고 설명합니다. 이를 통해 조직은 접근을 통제하고 규정 준수 요건을 충족할 수 있습니다.
Community wiki
Short info above, community knowledge below: add practical tips, examples or corrections. New contributions are reviewed first; trusted members publish directly.
Experts and companies for this topic
Nobody has listed this topic yet. Add it to your profile.
Sources
- Small language model (SLM) – Wikipedia en.wikipedia.org
- RSS 피드: Small language model (SLM)
- Articles on this topic: 4
Maintained by Mirko Peters (Microsoft MVP) · Last updated: