LLMLingua
Producto
LLMLingua es una familia de métodos de compresión de prompts de Microsoft Research que eliminan los tokens menos importantes de los prompts para que los modelos de lenguaje grandes puedan trabajar con entradas más cortas y económicas.
Descripción breve escrita con IA a partir de los datos de esta página. Puedes mejorarla con el botón de editar de abajo.
También se tratan
El episodio sobre LLMLingua trata también Model router (Microsoft Foundry), Pay-as-you-go pricing, Provisioned throughput units (PTU), Semantic caching, Chargeback y Microsoft Cost Management.
| Tipo | Producto |
|---|
Community wiki
Short info above, community knowledge below: add practical tips, examples or corrections. New contributions are reviewed first; trusted members publish directly.
Expertos y empresas para este tema
Nadie ha indicado aún este tema. Añádelo a tu perfil.
Fuentes
- LLMLingua en microsoft.com microsoft.com
- LLMLingua series (Microsoft Research) microsoft.com
Mantenido por Mirko Peters (Microsoft MVP) · Última actualización: