LLMLingua
Prodotto
LLMLingua è una famiglia di metodi di compressione dei prompt sviluppati da Microsoft Research che rimuovono i token meno importanti dai prompt, così che i modelli linguistici di grandi dimensioni possano lavorare con input più brevi e meno costosi.
Kurze Beschreibung mit KI aus den Fakten dieser Seite erstellt. Du kannst sie mit der Bearbeiten-Schaltfläche unten verbessern.
Trattati anche
L’episodio su LLMLingua parla anche di Model router (Microsoft Foundry), Pay-as-you-go pricing, Provisioned throughput units (PTU), Semantic caching, Chargeback e Microsoft Cost Management.
| Tipo | Prodotto |
|---|
Community wiki
Short info above, community knowledge below: add practical tips, examples or corrections. New contributions are reviewed first; trusted members publish directly.
Esperti e aziende per questo argomento
Nessuno ha ancora indicato questo argomento. Aggiungilo al tuo profilo.
Fonti
- LLMLingua su microsoft.com microsoft.com
- LLMLingua series (Microsoft Research) microsoft.com
Mantenuto da Mirko Peters (Microsoft MVP) · Ultimo aggiornamento: