Small language model (SLM)
Concept
Model bahasa kecil adalah model bahasa AI yang ringkas dengan parameter jauh lebih sedikit dibandingkan model bahasa besar, sehingga membutuhkan komputasi yang lebih rendah dan dapat difokuskan pada domain yang sempit atau dijalankan di perangkat lokal.
Sering dibahas bersama
Episode tentang Small language model (SLM) sering juga membahas Multi-agent system, Large language model (LLM), dan Microsoft Foundry.
Description
Model bahasa kecil (SLM) adalah model bahasa AI yang ringkas dengan parameter jauh lebih sedikit dibandingkan model bahasa besar (LLM). Karena ukurannya yang lebih kecil, SLM membutuhkan komputasi yang lebih rendah dan dapat difokuskan pada domain yang sempit atau dijalankan di perangkat lokal. SLM juga disebut model bahasa ringkas. Model ini dibangun untuk tugas bahasa alami seperti pembuatan teks, tetapi cukup kecil untuk dilatih atau dijalankan pada perangkat konsumen, termasuk komputer pribadi, laptop, dan perangkat pintar.
Perbedaan ukuran menjadi pembeda utama. Salah satu ulasan menyebutkan bahwa SLM umumnya memiliki parameter di bawah sekitar 40 miliar, dengan banyak keluarga model yang berada di bawah 10 miliar. Sebaliknya, model bahasa besar sering memiliki ratusan miliar parameter dan terkadang lebih dari satu triliun. Sebagian besar SLM menggunakan arsitektur yang sama dengan LLM, tetapi dengan parameter yang lebih sedikit dan terkadang presisi numerik yang lebih rendah. Model ini umumnya dihasilkan atau diperkecil dengan teknik seperti distilasi pengetahuan, pemangkasan (pruning), dan kuantisasi. Pra-pelatihan juga membantu model yang sangat kecil, dan data pra-pelatihan yang lebih besar umumnya meningkatkan hasilnya.
Beberapa keluarga model digambarkan sebagai SLM. Contoh yang disebutkan dalam materi sumber termasuk Gemma, Granite, Ministral, Phi, Qwen, SmolLM (dengan varian 135M, 360M, dan 1,7B), serta model fondasi on-device milik Apple. Keluarga Phi dari Microsoft adalah yang paling relevan dengan ekosistem Microsoft, dan merupakan keluarga yang dibahas dalam episode M365.FM tentang topik ini.
Keuntungan utamanya adalah kebutuhan komputasi yang lebih rendah dan kemampuan untuk berjalan secara lokal tanpa akses cloud. Menjalankan model secara lokal berdampak langsung pada penanganan data. Episode M365.FM "Small Language Models for Faster, Cheaper Enterprise AI" menyatakan bahwa ketika model Phi diterapkan secara lokal, data tetap berada di dalam organisasi, dan organisasi dapat mengontrol akses serta memenuhi persyaratan kepatuhan. Episode tersebut menggambarkan SLM menghasilkan hasil yang cepat dan akurat untuk tugas tertentu, seperti meringkas email, mengklasifikasikan tiket atau dokumen, serta memproses dokumen regulasi secara efisien.
Kompromi yang harus diterima adalah kapasitas. Parameter yang lebih sedikit membatasi jumlah informasi yang dapat dikodekan model, yang dapat menurunkan generalisasi dan akurasi dibandingkan model besar. Akibatnya, kualitas SLM sangat bergantung pada seberapa baik data pelatihannya sesuai dengan tugas yang diberikan. Inilah sebabnya SLM biasanya dibingkai untuk kasus penggunaan yang sempit dan terdefinisi dengan baik, bukan pekerjaan yang luas dan terbuka. Keputusan yang umum bagi organisasi adalah apakah suatu tugas cukup spesifik dan berulang untuk model kecil, atau apakah tugas itu membutuhkan kemampuan yang lebih luas dari model besar.
Episode "Small Language Models for Faster, Cheaper Enterprise AI" menyarankan agar bisnis mempertimbangkan SLM dan tetap siap menghadapi gelombang inovasi AI berikutnya, serta mencatat bahwa para ahli memperkirakan AI akan segera bergabung dengan tenaga kerja dan mengubah berbagai industri. Dalam format FAQ-nya, episode tersebut mendefinisikan SLM sebagai model dengan parameter lebih sedikit dibandingkan model besar yang dapat berjalan di perangkat lokal dan memberikan hasil yang cepat dan akurat untuk tugas tertentu.
Overview compiled with AI from M365.FM episodes and the facts on this page. You can improve it with the edit button below.
| Type | Concept |
|---|---|
| Wikipedia | Small language model (SLM) – Wikipedia en.wikipedia.org |
Articles about Small language model (SLM) (4)
Artikel yang membahas Small language model (SLM):
- Mengapa Copilot Gagal: Membedah Halusinasi dan Celah Privasi Perusahaan
· Mirko Peters
Saat Anda duduk di depan workstation dan membuka asisten AI seperti Microsoft Copilot, Anda melakukannya dengan ekspektasi yang jelas: Anda ingin mempercepat alur kerja, mengotomat
Kamu perlu mendengarkan iniSmall Language Models for Faster, Cheaper Enterprise AI - Memperbaiki Kelemahan Copilot dengan Small Language Models
· Mirko Peters
Selamat datang kembali di blog pendamping podcast! Dalam artikel ini, kita akan membahas secara mendalam pergeseran teknis yang mengubah cara organisasi perusahaan mendekati kecerd - Why Copilot Fails: Unpacking Hallucinations and Enterprise Privacy Flaws
· Mirko Peters
When you sit down at your workstation and open up an AI assistant like Microsoft Copilot, you do so with a clear expectation: you want to accelerate your workflow, … - Fixing Copilot's Flaws with Small Language Models
· Mirko Peters
Welcome back to the podcast companion blog! In this post, we are diving deep into the technical shift transforming how enterprise organizations approach artificial …
Frequently asked questions
Questions marked with AI were written with AI from the facts on this page.
Apa itu model bahasa kecil (SLM)? (AI)
Model bahasa kecil adalah model bahasa AI yang ringkas dengan parameter jauh lebih sedikit dibandingkan model bahasa besar. Model ini membutuhkan komputasi yang lebih rendah dan dapat difokuskan pada domain yang sempit atau dijalankan di perangkat lokal.
Apa perbedaan SLM dengan model bahasa besar? (AI)
SLM umumnya memiliki parameter di bawah sekitar 40 miliar, dengan banyak yang di bawah 10 miliar, sedangkan LLM sering memiliki ratusan miliar atau lebih. Keduanya biasanya memiliki arsitektur yang sama, tetapi ukuran yang lebih kecil menurunkan kebutuhan komputasi dan dapat mengurangi akurasi serta generalisasi.
Mengapa SLM penting untuk privasi? (AI)
Episode M365.FM tentang SLM menyatakan bahwa model Phi dapat diterapkan secara lokal sehingga data tetap berada di dalam organisasi. Hal ini memungkinkan organisasi mengontrol akses dan memenuhi persyaratan kepatuhan.
Community wiki
Short info above, community knowledge below: add practical tips, examples or corrections. New contributions are reviewed first; trusted members publish directly.
Experts and companies for this topic
Nobody has listed this topic yet. Add it to your profile.
Sources
- Small language model (SLM) – Wikipedia en.wikipedia.org
- Feed RSS: Small language model (SLM)
- Articles on this topic: 4
Maintained by Mirko Peters (Microsoft MVP) · Last updated: