M365Con 2027 – conférence en ligne gratuite · 11–22 Jan 2027 · 120 sessions→ m365con.net

Blog · Reliqio

Ajouter une couche LLM à un backend .NET avec Semantic Kernel

Par ·

Comment nous ajoutons des fonctionnalités d'IA aux backends .NET existants : Semantic Kernel, RAG sur Azure AI Search, prompts testés, journalisation et quelques garde-fous.

Traduit automatiquement par IA à partir de l'article original.

Presque chaque client disposant d'un backend .NET existant finit par nous poser la même question : « Peut-on ajouter de l'IA à tout ça ? » En général, il s'agit de résumés, d'une recherche plus pertinente ou d'un assistant de support. Et souvent, quelqu'un dans l'équipe a déjà proposé un service Python séparé pour cela.

C'est possible. Mais dans la plupart des projets sur lesquels nous avons travaillé, ce n'était pas nécessaire. Semantic Kernel s'intègre très bien dans une application ASP.NET Core, et vous conservez votre pipeline, votre journalisation et vos tests existants. Voici à peu près comment nous procédons.

Isoler le modèle derrière Semantic Kernel

Traitez le LLM comme n'importe quelle autre dépendance externe, comme un fournisseur de paiement. Semantic Kernel propose déjà une abstraction IChatCompletionService [1], donc votre code n'utilise jamais directement le SDK d'un fournisseur. Enregistrez-la dans la DI, et passer d'Azure OpenAI à un autre fournisseur devient une simple modification de configuration.

Chez nous, cela donne : le kernel est enregistré une seule fois dans Program.cs, chaque cas d'usage a son petit service dédié (TicketSummaryService, par exemple), et le nom de déploiement, la température et les limites de tokens sont regroupés dans une classe d'options. Les contrôleurs ne connaissent que le service. Cela facilite aussi les tests unitaires, car vous pouvez remplacer le service de complétion par un faux.

Essayer le RAG avant d'envisager le fine-tuning

Le fine-tuning impressionne, mais pour des données métier, le RAG suffit presque toujours. Nous indexons les documents dans Azure AI Search avec des champs vectoriels [2], récupérons les quelques fragments les plus pertinents pour chaque requête et les transmettons au modèle. C'est moins coûteux, vous savez exactement ce que le modèle a reçu, et lorsqu'un document change, les réponses changent le jour même.

Quelques points qui ont amélioré la qualité des réponses plus que nous ne l'attendions :

  • Découpez les documents selon leurs titres et sections, et non selon un nombre fixe de caractères.
  • Conservez le locataire, la langue et la date avec chaque fragment, et filtrez sur ces critères avant le classement.
  • Utilisez la recherche hybride (mots-clés + vecteurs). Sur la documentation technique, la recherche purement vectorielle manquait régulièrement les termes exacts, comme les codes d'erreur.
  • Renvoyez toujours les sources avec la réponse. Les utilisateurs lui font davantage confiance, et vous repérez plus vite une mauvaise récupération.

Les prompts sont du code, testez-les

Les modèles de prompts sont versionnés dans le dépôt, à côté du service qui les utilise. Ils passent en revue dans les pull requests, comme le reste. Nous conservons aussi un petit jeu de 20 à 50 questions avec leurs réponses attendues, exécuté en CI. Si quelqu'un « améliore » un prompt et que les réponses se dégradent, le build échoue. Cela nous a déjà sauvé plusieurs fois.

Journaliser chaque appel

Pour chaque requête, nous enregistrons les tokens de prompt et de complétion, la latence, la version du modèle et les identifiants des documents récupérés. Semantic Kernel émet de l'OpenTelemetry, donc tout cela apparaît dans Application Insights, à côté des autres traces. Sans cela, vous ne pouvez pas expliquer une mauvaise réponse, et vous ignorez ce que coûte réellement chaque fonctionnalité.

Garde-fous

  • Validez les sorties structurées avec un schéma JSON avant que votre code ne les utilise.
  • Faites passer les entrées utilisateur et les sorties du modèle par Azure AI Content Safety [3].
  • Placez les limites de débit et les budgets de tokens par locataire dans un middleware, et non dans le code qui appelle le modèle.

Prévoir les échecs

Les points d'accès LLM sont parfois limités en débit, expirent ou renvoient de temps en temps un JSON mal formé. Encadrez les appels avec des tentatives, des délais d'attente et un circuit breaker (Polly ou Microsoft.Extensions.Http.Resilience), et affichez à l'utilisateur un repli propre plutôt qu'une erreur 500. Le streaming aide beaucoup aussi : les gens patientent bien plus volontiers dès que les premiers mots apparaissent.

Commencer petit

Ce qui a fonctionné pour nous :

  1. Choisissez d'abord une fonctionnalité interne à faible risque. Les résumés de tickets sont un bon candidat.
  2. Déployez-la derrière un feature flag auprès de quelques utilisateurs et recueillez leurs retours sur les réponses.
  3. Chaque semaine, examinez les traces et les coûts, et ajustez la récupération et les prompts avant d'ajouter quoi que ce soit.
  4. Ne la montrez aux clients que lorsque les résultats d'évaluation et les coûts cessent de fluctuer.

En résumé

Conçue de cette manière, la partie IA n'est qu'une dépendance de plus dans votre architecture. Vous conservez votre code .NET, votre déploiement et votre supervision, et vous pouvez changer de modèle lorsqu'une meilleure option apparaît.

C'est l'approche que nous utilisons chez Reliqio [4]. Nous accompagnons des fondateurs en tant que partenaire technique sur des produits B2C dotés d'IA dans la healthtech, la fintech et le e-commerce. Si vous avez résolu ces problèmes différemment, je serais ravi de le lire en commentaire.

Sources

  1. ↑ Introduction to Semantic Kernel – Microsoft Learn (2026) · learn.microsoft.com
  2. ↑ Vector search in Azure AI Search – Microsoft Learn (2026) · learn.microsoft.com
  3. ↑ What is Azure AI Content Safety? – Microsoft Learn (2026) · learn.microsoft.com
  4. ↑ Reliqio - AI B2C product development partner – Reliqio (2026) · reliqio.com

Entités dans cet article

Semantic Kernel Azure AI Search .NET ASP.NET Azure OpenAI Service

Articles associés

RSS