Small language model (SLM)
Concept
מודל שפה קטן הוא מודל שפה מלאכותי קומפקטי, עם הרבה פחות פרמטרים ממודל שפה גדול, ולכן הוא דורש פחות משאבי חישוב וניתן למקד אותו בתחום צר או להריץ אותו על מכשירים מקומיים.
נושאים שנדונים לעיתים קרובות יחד
בפרקים על Small language model (SLM) עולים לעיתים קרובות גם: Multi-agent system, Large language model (LLM) ו-Microsoft Foundry.
Description
מודל שפה קטן (SLM) הוא מודל שפה מלאכותי קומפקטי, בעל הרבה פחות פרמטרים ממודל שפה גדול (LLM). בשל גודלו הקטן, הוא דורש פחות משאבי חישוב וניתן למקד אותו בתחום צר או להריץ אותו על מכשירים מקומיים. מודלי SLM נקראים גם מודלי שפה קומפקטיים. הם נבנו למשימות שפה טבעית כמו יצירת טקסט, אך הם קטנים מספיק כדי לאמן או להריץ אותם על חומרה צרכנית, כולל מחשבים אישיים, מחשבים ניידים ומכשירים חכמים.
ההבדל בגודל הוא ההבחנה המרכזית. סקירה אחת מציבה את מודלי ה-SLM בדרך כלל מתחת לכ-40 מיליארד פרמטרים, כאשר משפחות מודלים רבות מתחת ל-10 מיליארד. לעומת זאת, למודלי שפה גדולים יש לעיתים קרובות מאות מיליארדי פרמטרים, ולעיתים יותר מטריליון. לרוב מודלי ה-SLM משתמשים באותה ארכיטקטורה כמו מודלי ה-LLM, אך עם פחות פרמטרים ולעיתים עם דיוק מספרי נמוך יותר. הם מיוצרים או מצומצמים בדרך כלל בטכניקות כמו זיקוק ידע (knowledge distillation), גיזום (pruning) וקוונטיזציה (quantization). גם אימון מקדים (pre-training) מועיל למודלים קטנים מאוד, וככלל, נתוני אימון מקדים גדולים יותר משפרים את תוצאותיהם.
כמה משפחות מודלים מתוארות כמודלי SLM. דוגמאות שמופיעות בחומר המקור כוללות את Gemma, Granite, Ministral, Phi, Qwen, SmolLM (עם גרסאות של 135M, 360M ו-1.7B) ומודלי היסוד שפועלים על המכשיר של Apple. משפחת Phi של Microsoft היא זו הרלוונטית ביותר לאקוסיסטם של Microsoft, והיא המשפחה שנדונה בפרק של M365.FM בנושא זה.
היתרונות העיקריים הם דרישות חישוב נמוכות יותר והיכולת לפעול מקומית ללא גישה לענן. הרצת מודל מקומית משפיעה ישירות על טיפול בנתונים. בפרק של M365.FM בשם "Small Language Models for Faster, Cheaper Enterprise AI" נאמר שכאשר מודלי Phi מופעלים מקומית, הנתונים נשארים בתוך הארגון, והארגון שולט בגישה ויכול לעמוד בדרישות הציות (compliance). הפרק מתאר את מודלי ה-SLM כמי שמספקים תוצאות מהירות ומדויקות למשימות מסוימות, כגון סיכום הודעות דוא"ל, סיווג כרטיסים או מסמכים, ועיבוד יעיל של מסמכים רגולטוריים.
הפשרה היא בקיבולת. פחות פרמטרים מגבילים כמה מידע מודל יכול לקודד, מה שעלול להפחית את יכולת ההכללה והדיוק בהשוואה למודלים גדולים. כתוצאה מכך, איכות מודל SLM תלויה במידה רבה במידת ההתאמה בין נתוני האימון שלו למשימה שהוא מקבל. לכן מודלי SLM מוצגים בדרך כלל סביב מקרי שימוש צרים ומוגדרים היטב, ולא סביב עבודה רחבה ופתוחה. החלטה טיפוסית של ארגון היא לכן אם המשימה ספציפית וחוזרת מספיק למודל קטן, או שהיא דורשת את היכולת הרחבה יותר של מודל גדול.
הפרק "Small Language Models for Faster, Cheaper Enterprise AI" ממליץ לעסקים לשקול מודלי SLM ולהישאר מוכנים לגל הבא של חדשנות בתחום הבינה המלאכותית, ומציין כי מומחים צופים שבינה מלאכותית תצטרף בקרוב לכוח העבודה ותשנה תעשיות. בפורמט השאלות והתשובות שלו, הפרק מגדיר מודל SLM כמודל בעל פחות פרמטרים ממודלים גדולים, שיכול לפעול על מכשירים מקומיים ולספק תוצאות מהירות ומדויקות למשימות ספציפיות.
Overview compiled with AI from M365.FM episodes and the facts on this page. You can improve it with the edit button below.
| Type | Concept |
|---|---|
| Wikipedia | Small language model (SLM) – Wikipedia en.wikipedia.org |
Articles about Small language model (SLM) (4)
מאמרים שעוסקים ב-Small language model (SLM):
- למה Copilot נכשל: ניתוח של הזיות וליקויים בפרטיות ארגונית
· Mirko Peters
כשאתם מתיישבים מול מחשב העבודה ופותחים עוזר בינה מלאכותית כמו Microsoft Copilot, אתם עושים זאת עם ציפייה ברורה: אתם רוצים להאיץ את תהליך העבודה, לאוטמט משימות מייגעות ולכתוב קוד נק
כדאי לך להאזין לזהSmall Language Models for Faster, Cheaper Enterprise AI - תיקון הפגמים של Copilot באמצעות מודלי שפה קטנים
· Mirko Peters
ברוכים השבים לבלוג הנלווה לפודקאסט! בפוסט הזה אנחנו צוללים לעומק השינוי הטכנולוגי שמשנה את הדרך שבה ארגונים גדולים ניגשים לבינה מלאכותית. אם השתמשתם פעם בעוזר תכנות מבוסס AI או בכל - Why Copilot Fails: Unpacking Hallucinations and Enterprise Privacy Flaws
· Mirko Peters
When you sit down at your workstation and open up an AI assistant like Microsoft Copilot, you do so with a clear expectation: you want to accelerate your workflow, … - Fixing Copilot's Flaws with Small Language Models
· Mirko Peters
Welcome back to the podcast companion blog! In this post, we are diving deep into the technical shift transforming how enterprise organizations approach artificial …
Frequently asked questions
Questions marked with AI were written with AI from the facts on this page.
מהו מודל שפה קטן (SLM)? (AI)
מודל שפה קטן הוא מודל שפה מלאכותי קומפקטי, עם הרבה פחות פרמטרים ממודל שפה גדול. הוא דורש פחות משאבי חישוב וניתן למקד אותו בתחום צר או להריץ אותו על מכשירים מקומיים.
מה ההבדל בין מודל SLM למודל שפה גדול? (AI)
למודלי SLM יש בדרך כלל פחות מכ-40 מיליארד פרמטרים, ורבים מהם פחות מ-10 מיליארד, ואילו למודלי LLM יש לעיתים קרובות מאות מיליארדים או יותר. לרוב הם חולקים את אותה ארכיטקטורה, אך הגודל הקטן יותר מפחית את דרישות החישוב ועלול להפחית את הדיוק וכושר ההכללה.
מדוע מודלי SLM חשובים לפרטיות? (AI)
הפרק של M365.FM על מודלי SLM אומר שניתן להפעיל מודלי Phi מקומית, כך שהנתונים נשארים בתוך הארגון. כך הארגון יכול לשלוט בגישה ולעמוד בדרישות הציות.
Community wiki
Short info above, community knowledge below: add practical tips, examples or corrections. New contributions are reviewed first; trusted members publish directly.
Experts and companies for this topic
Nobody has listed this topic yet. Add it to your profile.
Sources
- Small language model (SLM) – Wikipedia en.wikipedia.org
- פיד RSS: Small language model (SLM)
- Articles on this topic: 4
Maintained by Mirko Peters (Microsoft MVP) · Last updated: