LLMLingua
Product
LLMLingua — это семейство методов сжатия промптов от Microsoft Research, которые удаляют менее важные токены из промптов, чтобы большие языковые модели могли работать с более короткими и более дешёвыми входными данными.
Short description written with AI from the facts on this page. You can improve it with the edit button below.
Также обсуждаются
В выпуске на тему LLMLingua обсуждаются также: Model router (Microsoft Foundry), Pay-as-you-go pricing, Provisioned throughput units (PTU), Semantic caching, Chargeback и Microsoft Cost Management.
| Type | Product |
|---|
Community wiki
Short info above, community knowledge below: add practical tips, examples or corrections. New contributions are reviewed first; trusted members publish directly.
Experts and companies for this topic
Nobody has listed this topic yet. Add it to your profile.
Sources
- LLMLingua в microsoft.com microsoft.com
- LLMLingua series (Microsoft Research) microsoft.com
Maintained by Mirko Peters (Microsoft MVP) · Last updated: