LLMLingua
Product
LLMLingua — це сімейство методів стиснення промптів від Microsoft Research, які видаляють менш важливі токени з промптів, щоб великі мовні моделі могли працювати з коротшими й дешевшими вхідними даними.
Short description written with AI from the facts on this page. You can improve it with the edit button below.
Також обговорюють
У випуску на тему LLMLingua обговорюють також: Model router (Microsoft Foundry), Pay-as-you-go pricing, Provisioned throughput units (PTU), Semantic caching, Chargeback та Microsoft Cost Management.
| Type | Product |
|---|
Community wiki
Short info above, community knowledge below: add practical tips, examples or corrections. New contributions are reviewed first; trusted members publish directly.
Experts and companies for this topic
Nobody has listed this topic yet. Add it to your profile.
Sources
- LLMLingua у microsoft.com microsoft.com
- LLMLingua series (Microsoft Research) microsoft.com
Maintained by Mirko Peters (Microsoft MVP) · Last updated: