LLMLingua
Product
LLMLingua to rodzina metod kompresji promptów opracowanych przez Microsoft Research, które usuwają mniej istotne tokeny z promptów, dzięki czemu duże modele językowe mogą pracować z krótszymi i tańszymi danymi wejściowymi.
Short description written with AI from the facts on this page. You can improve it with the edit button below.
Omawiane również
W odcinku na temat LLMLingua pojawiają się też: Model router (Microsoft Foundry), Pay-as-you-go pricing, Provisioned throughput units (PTU), Semantic caching, Chargeback i Microsoft Cost Management.
| Typ | Product |
|---|
Community wiki
Short info above, community knowledge below: add practical tips, examples or corrections. New contributions are reviewed first; trusted members publish directly.
Eksperci i firmy w tym temacie
Nikt jeszcze nie wskazał tego tematu. Dodaj go do swojego profilu.
Sources
- LLMLingua na microsoft.com microsoft.com
- LLMLingua series (Microsoft Research) microsoft.com
Maintained by Mirko Peters (Microsoft MVP) · Last updated: