LLMLingua
Produit
LLMLingua est une famille de méthodes de compression de prompts issue de Microsoft Research. Elles suppriment les jetons les moins importants des prompts afin que les grands modèles de langage puissent travailler avec des entrées plus courtes et moins coûteuses.
Courte description rédigée avec l'IA à partir des informations de cette page. Tu peux l'améliorer avec le bouton de modification ci-dessous.
Également abordés
L’épisode consacré à LLMLingua aborde aussi Model router (Microsoft Foundry), Pay-as-you-go pricing, Provisioned throughput units (PTU), Semantic caching, Chargeback et Microsoft Cost Management.
| Type | Produit |
|---|
Community wiki
Short info above, community knowledge below: add practical tips, examples or corrections. New contributions are reviewed first; trusted members publish directly.
Experts et entreprises pour ce sujet
Personne n'a encore indiqué ce sujet. Ajoutez-le à votre profil.
Sources
- LLMLingua sur microsoft.com microsoft.com
- LLMLingua series (Microsoft Research) microsoft.com
Maintenu par Mirko Peters (Microsoft MVP) · Dernière mise à jour: