LLMLingua
Produkt
LLMLingua ist eine Familie von Methoden zur Prompt-Komprimierung von Microsoft Research, die weniger wichtige Tokens aus Prompts entfernt, damit große Sprachmodelle mit kürzeren, kostengünstigeren Eingaben arbeiten können.
Kurzbeschreibung, mit KI aus den Fakten dieser Seite geschrieben. Du kannst sie unten über „Bearbeiten“ verbessern.
Ebenfalls besprochen
In der Folge zu LLMLingua geht es auch um Model router (Microsoft Foundry), Pay-as-you-go pricing, Provisioned throughput units (PTU), Semantic caching, Chargeback und Microsoft Cost Management.
| Typ | Produkt |
|---|
Community-Wiki
Oben die Kurzinfo, unten das Wissen der Community: ergänze praktische Tipps, Beispiele oder Korrekturen. Neue Beiträge werden zuerst geprüft, bewährte Mitglieder veröffentlichen direkt.
Experten und Firmen zu diesem Thema
Dieses Thema hat noch niemand im Profil angegeben. Trag es in deinem Profil ein.
Quellen
- LLMLingua auf microsoft.com microsoft.com
- LLMLingua series (Microsoft Research) microsoft.com
Gepflegt von Mirko Peters (Microsoft MVP) · Zuletzt aktualisiert: