LLMLingua
Product
LLMLingua היא משפחה של שיטות לדחיסת פרומפטים ממחקר Microsoft Research, שמסירות טוקנים פחות חשובים מתוך הפרומפטים, כך שמודלי שפה גדולים יוכלו לעבוד עם קלטים קצרים וזולים יותר.
Short description written with AI from the facts on this page. You can improve it with the edit button below.
נושאים שנדונים גם
בפרק על LLMLingua עולים גם: Model router (Microsoft Foundry), Pay-as-you-go pricing, Provisioned throughput units (PTU), Semantic caching, Chargeback ו-Microsoft Cost Management.
| Type | Product |
|---|
Community wiki
Short info above, community knowledge below: add practical tips, examples or corrections. New contributions are reviewed first; trusted members publish directly.
Experts and companies for this topic
Nobody has listed this topic yet. Add it to your profile.
Sources
- LLMLingua ב-microsoft.com microsoft.com
- LLMLingua series (Microsoft Research) microsoft.com
Maintained by Mirko Peters (Microsoft MVP) · Last updated: