LLMLingua
Product
LLMLingua は、Microsoft Research による一連のプロンプト圧縮手法で、重要度の低いトークンを取り除くことで、大規模言語モデルがより短く低コストな入力で動作できるようにします。
Short description written with AI from the facts on this page. You can improve it with the edit button below.
あわせて取り上げられたテーマ
LLMLinguaに関するエピソードでは、Model router (Microsoft Foundry)、Pay-as-you-go pricing、Provisioned throughput units (PTU)、Semantic caching、Chargeback、Microsoft Cost Managementも取り上げられています。
| Type | Product |
|---|
Community wiki
Short info above, community knowledge below: add practical tips, examples or corrections. New contributions are reviewed first; trusted members publish directly.
Experts and companies for this topic
Nobody has listed this topic yet. Add it to your profile.
Sources
- microsoft.comのLLMLingua microsoft.com
- LLMLingua series (Microsoft Research) microsoft.com
Maintained by Mirko Peters (Microsoft MVP) · Last updated: