LLMLingua
Product
LLMLingua é uma família de métodos de compressão de prompts da Microsoft Research que removem tokens menos importantes dos prompts, para que modelos de linguagem de grande porte possam trabalhar com entradas mais curtas e mais baratas.
Short description written with AI from the facts on this page. You can improve it with the edit button below.
Também abordados
O episódio sobre LLMLingua aborda também Model router (Microsoft Foundry), Pay-as-you-go pricing, Provisioned throughput units (PTU), Semantic caching, Chargeback e Microsoft Cost Management.
| Tipo | Product |
|---|
Community wiki
Short info above, community knowledge below: add practical tips, examples or corrections. New contributions are reviewed first; trusted members publish directly.
Especialistas e empresas para este tópico
Ninguém indicou ainda este tópico. Adicione-o ao seu perfil.
Sources
- LLMLingua no microsoft.com microsoft.com
- LLMLingua series (Microsoft Research) microsoft.com
Maintained by Mirko Peters (Microsoft MVP) · Last updated: