Añadir una capa LLM a un backend .NET con Semantic Kernel
Por Reliqio ·
Cómo añadimos funciones de IA a backends .NET existentes: Semantic Kernel, RAG sobre Azure AI Search, prompts probados, logging y algunas barreras de seguridad.
Traducido automáticamente con IA a partir de la publicación original.
Casi todos los clientes que tienen un backend .NET existente acaban preguntando lo mismo tarde o temprano: "¿Podemos añadirle algo de IA?" Normalmente se refieren a resúmenes, una búsqueda mejor o un asistente de soporte. Y casi siempre alguien del equipo ya ha propuesto un servicio aparte en Python para eso.
Se puede hacer así. Pero en la mayoría de los proyectos en los que hemos trabajado no hacía falta. Semantic Kernel encaja sin problemas en una aplicación ASP.NET Core, y conservas tu pipeline, tu logging y tus pruebas. Así es más o menos como lo montamos.
Oculta el modelo detrás de Semantic Kernel
Trata el LLM como cualquier otra dependencia externa, por ejemplo un proveedor de pagos. Semantic Kernel ya tiene una abstracción IChatCompletionService [1], así que tu código nunca toca directamente un SDK del proveedor. Regístrala en DI y pasar de Azure OpenAI a otro proveedor se convierte en un cambio de configuración.
En nuestro caso queda así: el kernel se registra una vez en Program.cs, cada caso de uso tiene su propio servicio pequeño (TicketSummaryService, por ejemplo), y el nombre del despliegue, la temperatura y los límites de tokens viven en una clase de opciones. Los controladores solo conocen el servicio. Además, eso facilita las pruebas unitarias, porque puedes sustituir el servicio de completado por un falso.
Prueba RAG antes de pensar en el fine-tuning
El fine-tuning suena impresionante, pero para datos de negocio RAG casi siempre basta. Indexamos documentos en Azure AI Search con campos vectoriales [2], recuperamos los fragmentos más relevantes para cada petición y se los pasamos al modelo. Es más barato, puedes ver exactamente qué recibió el modelo y, cuando un documento cambia, las respuestas cambian ese mismo día.
Algunas cosas que mejoraron la calidad de las respuestas más de lo que esperábamos:
- Divide los documentos por encabezados y secciones, no por un número fijo de caracteres.
- Guarda el tenant, el idioma y la fecha junto a cada fragmento, y filtra por ellos antes de rankear.
- Usa búsqueda híbrida (palabras clave + vectores). En documentación técnica, la búsqueda vectorial pura seguía fallando con términos exactos como los códigos de error.
- Devuelve siempre las fuentes junto con la respuesta. Los usuarios confían más en ella, y detectarás antes una recuperación defectuosa.
Los prompts son código, así que pruébalos
Las plantillas de prompt van en el repositorio, junto al servicio que las usa. Se revisan en los pull requests como cualquier otro cambio. También mantenemos un pequeño conjunto de 20 a 50 preguntas con respuestas esperadas y lo ejecutamos en CI. Si alguien "mejora" un prompt y las respuestas empeoran, la compilación falla. Esto nos ha salvado más de una vez.
Registra cada llamada
Para cada petición registramos los tokens de prompt y de respuesta, la latencia, la versión del modelo y los identificadores de los documentos recuperados. Semantic Kernel emite OpenTelemetry, así que todo esto aparece en Application Insights junto al resto de trazas. Sin ello no puedes explicar una respuesta incorrecta, y no tienes ni idea de lo que cuesta realmente cada función.
Barreras de seguridad
- Valida la salida estructurada contra un esquema JSON antes de que tu código la use.
- Pasa la entrada del usuario y la salida del modelo por Azure AI Content Safety [3].
- Pon los límites de peticiones y los presupuestos de tokens por tenant en middleware, no en el código que llama al modelo.
Espera que a veces falle
Los endpoints de LLM sufren limitación de tasa, sufren timeouts y, de vez en cuando, devuelven JSON roto. Envuelve las llamadas con reintentos, timeouts y un circuit breaker (Polly o Microsoft.Extensions.Http.Resilience), y muestra al usuario un fallback adecuado en lugar de un 500. El streaming también ayuda mucho: la gente espera con mucha más paciencia cuando empiezan a aparecer las primeras palabras.
Empieza poco a poco
Lo que nos ha funcionado:
- Elige primero una función interna y de bajo riesgo. Los resúmenes de tickets son un buen candidato.
- Despliégala tras un feature flag para unos pocos usuarios y pide opiniones sobre las respuestas.
- Revisa las trazas y los costes cada semana, y ajusta la recuperación y los prompts antes de añadir nada nuevo.
- Muéstrala a los clientes solo cuando los resultados de evaluación y los costes dejen de dar saltos.
En resumen
Hecho así, la parte de IA es una dependencia más de tu arquitectura. Conservas tu código .NET, tu despliegue y tu monitorización, y puedes cambiar de modelo cuando salga algo mejor.
Esta es la configuración que usamos en Reliqio [4]. Trabajamos con fundadores como socio técnico en productos B2C con IA en healthtech, fintech y e-commerce. Si has resuelto alguno de estos puntos de otra manera, me gustaría leer cómo en los comentarios.
Sources
- ↑ Introduction to Semantic Kernel – Microsoft Learn (2026) · learn.microsoft.com
- ↑ Vector search in Azure AI Search – Microsoft Learn (2026) · learn.microsoft.com
- ↑ What is Azure AI Content Safety? – Microsoft Learn (2026) · learn.microsoft.com
- ↑ Reliqio - AI B2C product development partner – Reliqio (2026) · reliqio.com