M365Con 2027 – כנס אונליין חינמי · 11–22 Jan 2027 · 120 sessions m365con.net

Small language model (SLM)

Concept

מודל שפה קטן הוא מודל שפה מלאכותי קומפקטי, עם הרבה פחות פרמטרים ממודל שפה גדול, ולכן הוא דורש פחות משאבי חישוב וניתן למקד אותו בתחום צר או להריץ אותו על מכשירים מקומיים.

✦ CONCEPTSmall language model(SLM)M365.FM
Title graphic: Small language model (SLM) (Concept)

נושאים שנדונים לעיתים קרובות יחד

בפרקים על Small language model (SLM) עולים לעיתים קרובות גם: Multi-agent system, Large language model (LLM) ו-Microsoft Foundry.

Description

מודל שפה קטן (SLM) הוא מודל שפה מלאכותי קומפקטי, בעל הרבה פחות פרמטרים ממודל שפה גדול (LLM). בשל גודלו הקטן, הוא דורש פחות משאבי חישוב וניתן למקד אותו בתחום צר או להריץ אותו על מכשירים מקומיים. מודלי SLM נקראים גם מודלי שפה קומפקטיים. הם נבנו למשימות שפה טבעית כמו יצירת טקסט, אך הם קטנים מספיק כדי לאמן או להריץ אותם על חומרה צרכנית, כולל מחשבים אישיים, מחשבים ניידים ומכשירים חכמים.

ההבדל בגודל הוא ההבחנה המרכזית. סקירה אחת מציבה את מודלי ה-SLM בדרך כלל מתחת לכ-40 מיליארד פרמטרים, כאשר משפחות מודלים רבות מתחת ל-10 מיליארד. לעומת זאת, למודלי שפה גדולים יש לעיתים קרובות מאות מיליארדי פרמטרים, ולעיתים יותר מטריליון. לרוב מודלי ה-SLM משתמשים באותה ארכיטקטורה כמו מודלי ה-LLM, אך עם פחות פרמטרים ולעיתים עם דיוק מספרי נמוך יותר. הם מיוצרים או מצומצמים בדרך כלל בטכניקות כמו זיקוק ידע (knowledge distillation), גיזום (pruning) וקוונטיזציה (quantization). גם אימון מקדים (pre-training) מועיל למודלים קטנים מאוד, וככלל, נתוני אימון מקדים גדולים יותר משפרים את תוצאותיהם.

כמה משפחות מודלים מתוארות כמודלי SLM. דוגמאות שמופיעות בחומר המקור כוללות את Gemma, Granite, Ministral, Phi, Qwen, SmolLM (עם גרסאות של 135M, 360M ו-1.7B) ומודלי היסוד שפועלים על המכשיר של Apple. משפחת Phi של Microsoft היא זו הרלוונטית ביותר לאקוסיסטם של Microsoft, והיא המשפחה שנדונה בפרק של M365.FM בנושא זה.

היתרונות העיקריים הם דרישות חישוב נמוכות יותר והיכולת לפעול מקומית ללא גישה לענן. הרצת מודל מקומית משפיעה ישירות על טיפול בנתונים. בפרק של M365.FM בשם "Small Language Models for Faster, Cheaper Enterprise AI" נאמר שכאשר מודלי Phi מופעלים מקומית, הנתונים נשארים בתוך הארגון, והארגון שולט בגישה ויכול לעמוד בדרישות הציות (compliance). הפרק מתאר את מודלי ה-SLM כמי שמספקים תוצאות מהירות ומדויקות למשימות מסוימות, כגון סיכום הודעות דוא"ל, סיווג כרטיסים או מסמכים, ועיבוד יעיל של מסמכים רגולטוריים.

הפשרה היא בקיבולת. פחות פרמטרים מגבילים כמה מידע מודל יכול לקודד, מה שעלול להפחית את יכולת ההכללה והדיוק בהשוואה למודלים גדולים. כתוצאה מכך, איכות מודל SLM תלויה במידה רבה במידת ההתאמה בין נתוני האימון שלו למשימה שהוא מקבל. לכן מודלי SLM מוצגים בדרך כלל סביב מקרי שימוש צרים ומוגדרים היטב, ולא סביב עבודה רחבה ופתוחה. החלטה טיפוסית של ארגון היא לכן אם המשימה ספציפית וחוזרת מספיק למודל קטן, או שהיא דורשת את היכולת הרחבה יותר של מודל גדול.

הפרק "Small Language Models for Faster, Cheaper Enterprise AI" ממליץ לעסקים לשקול מודלי SLM ולהישאר מוכנים לגל הבא של חדשנות בתחום הבינה המלאכותית, ומציין כי מומחים צופים שבינה מלאכותית תצטרף בקרוב לכוח העבודה ותשנה תעשיות. בפורמט השאלות והתשובות שלו, הפרק מגדיר מודל SLM כמודל בעל פחות פרמטרים ממודלים גדולים, שיכול לפעול על מכשירים מקומיים ולספק תוצאות מהירות ומדויקות למשימות ספציפיות.

Overview compiled with AI from M365.FM episodes and the facts on this page. You can improve it with the edit button below.

TypeConcept
WikipediaSmall language model (SLM) – Wikipedia en.wikipedia.org

Articles about Small language model (SLM) (4)

מאמרים שעוסקים ב-Small language model (SLM):

Frequently asked questions

Questions marked with AI were written with AI from the facts on this page.

מהו מודל שפה קטן (SLM)? (AI)

מודל שפה קטן הוא מודל שפה מלאכותי קומפקטי, עם הרבה פחות פרמטרים ממודל שפה גדול. הוא דורש פחות משאבי חישוב וניתן למקד אותו בתחום צר או להריץ אותו על מכשירים מקומיים.

מה ההבדל בין מודל SLM למודל שפה גדול? (AI)

למודלי SLM יש בדרך כלל פחות מכ-40 מיליארד פרמטרים, ורבים מהם פחות מ-10 מיליארד, ואילו למודלי LLM יש לעיתים קרובות מאות מיליארדים או יותר. לרוב הם חולקים את אותה ארכיטקטורה, אך הגודל הקטן יותר מפחית את דרישות החישוב ועלול להפחית את הדיוק וכושר ההכללה.

מדוע מודלי SLM חשובים לפרטיות? (AI)

הפרק של M365.FM על מודלי SLM אומר שניתן להפעיל מודלי Phi מקומית, כך שהנתונים נשארים בתוך הארגון. כך הארגון יכול לשלוט בגישה ולעמוד בדרישות הציות.

Glossary

Community wiki

Short info above, community knowledge below: add practical tips, examples or corrections. New contributions are reviewed first; trusted members publish directly.

Experts and companies for this topic

Nobody has listed this topic yet. Add it to your profile.

Sources

Maintained by Mirko Peters (Microsoft MVP) · Last updated: