M365Con 2027 – conférence en ligne gratuite · 11–22 Jan 2027 · 120 sessions m365con.net

Provisioned throughput units (PTU)

Concept

Les unités de débit provisionné (provisioned throughput units, PTU) sont l'unité normalisée utilisée pour réserver une capacité de traitement de modèle dédiée aux déploiements Azure OpenAI, comme alternative à la facturation à l'utilisation par jetons.

✦ CONCEPTProvisioned throughputunits (PTU)M365.FM
Image de titre : Provisioned throughput units (PTU) (Concept)

Également abordés

L’épisode consacré à Provisioned throughput units (PTU) aborde aussi LLMLingua, Model router (Microsoft Foundry), Pay-as-you-go pricing, Semantic caching, Chargeback et Microsoft Cost Management.

Description

Les unités de débit provisionné (PTU) sont l'unité normalisée utilisée pour réserver une capacité de traitement de modèle dédiée aux déploiements Azure OpenAI. La documentation de Microsoft décrit une unité de débit provisionné comme l'unité de mesure des déploiements provisionnés dans Microsoft Foundry, où chaque unité représente une quantité fixe de capacité de traitement de modèle. Les PTU constituent une alternative à la facturation à l'utilisation par jetons, dans laquelle la capacité est partagée et le coût dépend du nombre de jetons consommés.

L'idée centrale est la réservation. Le nombre d'unités choisi est réservé exclusivement au déploiement, que des requêtes arrivent ou non. Comme la capacité n'est pas partagée comme dans les déploiements standard, la latence est plus prévisible. La documentation présente le débit provisionné comme adapté à un trafic stable, aux applications sensibles à la latence, aux volumes de production élevés et aux scénarios en temps réel, tels que les chats, les copilotes ou les agents.

Plusieurs paramètres déterminent la manière dont les PTU sont obtenus et utilisés. Le quota est indépendant du modèle, mais il est accordé par abonnement, par région et par type de déploiement. Chaque modèle a un nombre minimal d'unités et son propre rendement en jetons par minute et par unité ; un même nombre de PTU offre donc un débit différent selon le modèle. Les types de déploiement comprennent le provisionné global, le provisionné par zone de données et le provisionné régional. Une fonction facultative de débordement (spillover) peut acheminer les requêtes excédentaires vers un déploiement standard lorsque la capacité provisionnée est dépassée, bien qu'elle ne soit pas disponible pour toutes les familles de modèles.

La facturation des PTU se fait à l'heure et par unité, quel que soit le nombre de jetons consommés. Les réservations Azure sont proposées comme option d'engagement à tarif réduit. Le dimensionnement d'un déploiement repose sur les taux de requêtes, la taille des invites et des réponses ainsi que les taux de cache, et le portail Azure comprend un calculateur de capacité pour faciliter cette estimation. La documentation avertit également que le quota ne garantit pas la capacité, laquelle peut fluctuer, et que les réservations ne la garantissent pas davantage. C'est pourquoi il est recommandé de créer d'abord le déploiement avant de s'engager dans une réservation.

Une décision typique concernant les PTU consiste à déterminer si les profils de charge justifient une capacité réservée ou si la facturation à l'utilisation suffit. Un trafic de production stable, à fort volume ou sensible à la latence correspond aux scénarios que la documentation associe au débit provisionné, tandis qu'une utilisation variable ou à faible volume correspond à la facturation standard par jetons. Le modèle de facturation horaire signifie que le coût est lié aux unités réservées plutôt qu'à l'usage, ce qui explique l'importance du dimensionnement.

L'épisode du M365.FM « How to Build Low-Cost AI Agents in Microsoft Cloud » replace les PTU dans la structure de coûts plus large de la création d'agents. Dans sa présentation des couches de facturation, l'épisode énumère les Provisioned Throughput Units comme coût du débit dans Foundry et indique un montant de 1 $ par PTU. Il les place à côté d'autres postes de coûts, tels que les coûts de journalisation et d'observabilité des agents, qui varient selon le volume de journalisation, et le Microsoft Agent Pre-Purchase Plan, décrit comme un plan unifié offrant des remises sur les services d'IA, à 19 000 $ pour 20 000 ACU. L'épisode indique que ce plan de prépaiement couvre plus de 30 services et offre une voie de gouvernance unique pour les projets d'IA, et il présente la compréhension de ces couches de facturation comme un moyen de prendre de meilleures décisions et de maîtriser les coûts de l'IA.

Aperçu compilé avec l'IA à partir des épisodes M365.FM et des informations de cette page. Tu peux l'améliorer avec le bouton de modification ci-dessous.

TypeConcept
DocumentationProvisioned throughput units (PTU) – Microsoft Learn learn.microsoft.com

Questions fréquentes

Les questions marquées IA ont été rédigées avec l'IA à partir des informations de cette page.

Qu'est-ce qu'une unité de débit provisionné (PTU) ? (IA)

Une PTU est l'unité de mesure des déploiements provisionnés dans Microsoft Foundry et Azure OpenAI, où chaque unité représente une quantité fixe de capacité de traitement de modèle réservée exclusivement au déploiement.

Comment les PTU sont-elles facturées par rapport aux déploiements standard ? (IA)

Les PTU sont facturées à l'heure et par unité, quel que soit le nombre de jetons consommés, avec les réservations Azure comme option d'engagement à tarif réduit. Les déploiements standard utilisent la facturation à l'utilisation par jetons sur une capacité partagée.

Un quota de PTU garantit-il la capacité ? (IA)

Non. La documentation précise que le quota ne garantit pas la capacité et que les réservations ne la garantissent pas davantage ; il est donc conseillé de créer d'abord le déploiement.

Glossaire

Community wiki

Short info above, community knowledge below: add practical tips, examples or corrections. New contributions are reviewed first; trusted members publish directly.

Experts et entreprises pour ce sujet

Personne n'a encore indiqué ce sujet. Ajoutez-le à votre profil.

Sources

Maintenu par Mirko Peters (Microsoft MVP) · Dernière mise à jour: