M365Con 2027 – konferensi online gratis · 11–22 Jan 2027 · 120 sessions m365con.net

Small language model (SLM)

Concept

Model bahasa kecil adalah model bahasa AI yang ringkas dengan parameter jauh lebih sedikit dibandingkan model bahasa besar, sehingga membutuhkan komputasi yang lebih rendah dan dapat difokuskan pada domain yang sempit atau dijalankan di perangkat lokal.

✦ CONCEPTSmall language model(SLM)M365.FM
Title graphic: Small language model (SLM) (Concept)

Sering dibahas bersama

Episode tentang Small language model (SLM) sering juga membahas Multi-agent system, Large language model (LLM), dan Microsoft Foundry.

Description

Model bahasa kecil (SLM) adalah model bahasa AI yang ringkas dengan parameter jauh lebih sedikit dibandingkan model bahasa besar (LLM). Karena ukurannya yang lebih kecil, SLM membutuhkan komputasi yang lebih rendah dan dapat difokuskan pada domain yang sempit atau dijalankan di perangkat lokal. SLM juga disebut model bahasa ringkas. Model ini dibangun untuk tugas bahasa alami seperti pembuatan teks, tetapi cukup kecil untuk dilatih atau dijalankan pada perangkat konsumen, termasuk komputer pribadi, laptop, dan perangkat pintar.

Perbedaan ukuran menjadi pembeda utama. Salah satu ulasan menyebutkan bahwa SLM umumnya memiliki parameter di bawah sekitar 40 miliar, dengan banyak keluarga model yang berada di bawah 10 miliar. Sebaliknya, model bahasa besar sering memiliki ratusan miliar parameter dan terkadang lebih dari satu triliun. Sebagian besar SLM menggunakan arsitektur yang sama dengan LLM, tetapi dengan parameter yang lebih sedikit dan terkadang presisi numerik yang lebih rendah. Model ini umumnya dihasilkan atau diperkecil dengan teknik seperti distilasi pengetahuan, pemangkasan (pruning), dan kuantisasi. Pra-pelatihan juga membantu model yang sangat kecil, dan data pra-pelatihan yang lebih besar umumnya meningkatkan hasilnya.

Beberapa keluarga model digambarkan sebagai SLM. Contoh yang disebutkan dalam materi sumber termasuk Gemma, Granite, Ministral, Phi, Qwen, SmolLM (dengan varian 135M, 360M, dan 1,7B), serta model fondasi on-device milik Apple. Keluarga Phi dari Microsoft adalah yang paling relevan dengan ekosistem Microsoft, dan merupakan keluarga yang dibahas dalam episode M365.FM tentang topik ini.

Keuntungan utamanya adalah kebutuhan komputasi yang lebih rendah dan kemampuan untuk berjalan secara lokal tanpa akses cloud. Menjalankan model secara lokal berdampak langsung pada penanganan data. Episode M365.FM "Small Language Models for Faster, Cheaper Enterprise AI" menyatakan bahwa ketika model Phi diterapkan secara lokal, data tetap berada di dalam organisasi, dan organisasi dapat mengontrol akses serta memenuhi persyaratan kepatuhan. Episode tersebut menggambarkan SLM menghasilkan hasil yang cepat dan akurat untuk tugas tertentu, seperti meringkas email, mengklasifikasikan tiket atau dokumen, serta memproses dokumen regulasi secara efisien.

Kompromi yang harus diterima adalah kapasitas. Parameter yang lebih sedikit membatasi jumlah informasi yang dapat dikodekan model, yang dapat menurunkan generalisasi dan akurasi dibandingkan model besar. Akibatnya, kualitas SLM sangat bergantung pada seberapa baik data pelatihannya sesuai dengan tugas yang diberikan. Inilah sebabnya SLM biasanya dibingkai untuk kasus penggunaan yang sempit dan terdefinisi dengan baik, bukan pekerjaan yang luas dan terbuka. Keputusan yang umum bagi organisasi adalah apakah suatu tugas cukup spesifik dan berulang untuk model kecil, atau apakah tugas itu membutuhkan kemampuan yang lebih luas dari model besar.

Episode "Small Language Models for Faster, Cheaper Enterprise AI" menyarankan agar bisnis mempertimbangkan SLM dan tetap siap menghadapi gelombang inovasi AI berikutnya, serta mencatat bahwa para ahli memperkirakan AI akan segera bergabung dengan tenaga kerja dan mengubah berbagai industri. Dalam format FAQ-nya, episode tersebut mendefinisikan SLM sebagai model dengan parameter lebih sedikit dibandingkan model besar yang dapat berjalan di perangkat lokal dan memberikan hasil yang cepat dan akurat untuk tugas tertentu.

Overview compiled with AI from M365.FM episodes and the facts on this page. You can improve it with the edit button below.

TypeConcept
WikipediaSmall language model (SLM) – Wikipedia en.wikipedia.org

Articles about Small language model (SLM) (4)

Artikel yang membahas Small language model (SLM):

Frequently asked questions

Questions marked with AI were written with AI from the facts on this page.

Apa itu model bahasa kecil (SLM)? (AI)

Model bahasa kecil adalah model bahasa AI yang ringkas dengan parameter jauh lebih sedikit dibandingkan model bahasa besar. Model ini membutuhkan komputasi yang lebih rendah dan dapat difokuskan pada domain yang sempit atau dijalankan di perangkat lokal.

Apa perbedaan SLM dengan model bahasa besar? (AI)

SLM umumnya memiliki parameter di bawah sekitar 40 miliar, dengan banyak yang di bawah 10 miliar, sedangkan LLM sering memiliki ratusan miliar atau lebih. Keduanya biasanya memiliki arsitektur yang sama, tetapi ukuran yang lebih kecil menurunkan kebutuhan komputasi dan dapat mengurangi akurasi serta generalisasi.

Mengapa SLM penting untuk privasi? (AI)

Episode M365.FM tentang SLM menyatakan bahwa model Phi dapat diterapkan secara lokal sehingga data tetap berada di dalam organisasi. Hal ini memungkinkan organisasi mengontrol akses dan memenuhi persyaratan kepatuhan.

Glossary

Community wiki

Short info above, community knowledge below: add practical tips, examples or corrections. New contributions are reviewed first; trusted members publish directly.

Experts and companies for this topic

Nobody has listed this topic yet. Add it to your profile.

Sources

Maintained by Mirko Peters (Microsoft MVP) · Last updated: