M365Con 2027 – conferencia online gratuita · 11–22 Jan 2027 · 120 sessions→ m365con.net

Blog · Mirko Peters

Resolver el problema de los mil millones de vectores en Azure AI Search

By ·

Descubre los desafíos técnicos únicos de buscar en conjuntos de datos masivos a gran escala. Este artículo analiza cómo la alta dimensionalidad y las limitaciones de memoria afectan a las cargas de trabajo de IA empresarial.

Automatically translated with AI from the original post. Read the English original

Descubre los desafíos técnicos únicos de buscar en conjuntos de datos masivos a gran escala. Este artículo analiza cómo la alta dimensionalidad y las limitaciones de memoria afectan a las cargas de trabajo de IA empresarial.

El problema de los mil millones de vectores en Azure AI Search

Desafíos de la búsqueda de vectores a escala de mil millones

Te enfrentas al problema de los mil millones de vectores cuando necesitas indexar y buscar en conjuntos de datos masivos en la IA empresarial. Gestionar miles de millones de vectores plantea desafíos técnicos únicos. Debes crear sistemas de indexación eficiente que puedan procesar datos a gran escala sin ralentizarse. Las actualizaciones en tiempo real son importantes, porque quieres que tus resultados de búsqueda se mantengan actualizados y relevantes. Además, gestionar incrustaciones de alta dimensionalidad es esencial para obtener resultados de búsqueda precisos.

Cuando trabajas con conjuntos de datos de escala de mil millones, te encuentras con varias limitaciones:

  • La alta dimensionalidad aumenta los costes computacionales y puede ralentizar el rendimiento de la búsqueda.
  • La brecha semántica entre las representaciones vectoriales y el significado real puede provocar imprecisiones.
  • La recolección de elementos no utilizados se vuelve difícil, lo que complica eliminar información obsoleta de los índices.
  • La calidad de los vectores depende del modelo de incrustación que elijas, lo que afecta a la precisión de la búsqueda.
  • La escalabilidad aumenta los requisitos de memoria y puede incrementar los tiempos de búsqueda.
  • El problema del arranque en frío dificulta buscar elementos nuevos sin buenas representaciones vectoriales.
  • La interpretabilidad es baja, por lo que entender por qué aparece un resultado de búsqueda puede ser complicado.

Estos desafíos hacen que el problema de los mil millones de vectores sea uno de los más difíciles de la IA moderna.

Por qué importa la elección del algoritmo

La elección del algoritmo tiene un impacto directo en cómo resuelves el problema de los mil millones de vectores. Si eliges un algoritmo como HNSW, obtienes acceso rápido y búsquedas eficientes en conjuntos de datos grandes. Sin embargo, necesitas mucha RAM, lo que puede aumentar los costes. Otros algoritmos, como KNN exhaustivo, ofrecen alta precisión, pero requieren mucho más cálculo, por lo que son más adecuados para conjuntos de datos más pequeños. El algoritmo adecuado te ayuda a equilibrar velocidad, precisión y uso de recursos. Puedes optimizar el rendimiento de tu aplicación específica ajustando el algoritmo a tus necesidades. Esta decisión determina lo bien que gestionas conjuntos de datos masivos y cuánto gastas en hardware.

Descripción general de Azure AI Search

Azure AI Search te ofrece una plataforma potente para abordar el problema de los mil millones de vectores. Puedes preprocesar tus datos con herramientas avanzadas de limpieza y enriquecimiento, lo que mejora la calidad de tus vectores antes de indexarlos. La plataforma organiza tu información en una base de datos vectorial diseñada para tareas de recuperación y para las necesidades actuales de búsqueda. Te beneficias de funciones sólidas de búsqueda y recuperación, incluido el procesamiento de lenguaje natural para la comprensión semántica. La seguridad es robusta, con cifrado y controles de acceso para proteger tus datos.

Azure AI Search se integra sin problemas con otros servicios de Microsoft Azure y con plataformas de terceros. Puedes usar la búsqueda híbrida, que combina la búsqueda por palabras clave y la búsqueda vectorial para obtener los mejores resultados. La clasificación y el ajuste de relevancia te permiten modificar cómo aparecen los resultados, haciéndolos más útiles para tus usuarios. La plataforma también ofrece experiencias de búsqueda inteligentes, como el autocompletado y los resultados sugeridos. Construido sobre la infraestructura global de Azure, Azure AI Search ofrece la escala y la fiabilidad que necesitas para conjuntos de datos masivos y proyectos de datos a gran escala.

Índice basado en grafos: HNSW y DiskANN

Graph-Based Index: HNSW and DiskANN

Qué es HNSW

Quizá hayas oído hablar de HNSW, que son las siglas de hierarchical navigable small world (mundo pequeño navegable jerárquico). Este algoritmo de índice basado en grafos te ayuda a encontrar vectores similares con rapidez en conjuntos de datos grandes. HNSW construye una estructura de grafo de varias capas que conecta los puntos de datos de forma que la búsqueda sea rápida y precisa. Cada capa del grafo tiene una densidad distinta: las capas superiores tienen menos nodos y las inferiores tienen más. Este diseño te permite empezar la búsqueda desde arriba y bajar, acotando los resultados a medida que avanzas. HNSW está optimizado para la búsqueda de vectores en memoria, así que mantiene todo el grafo en RAM. Este enfoque te ofrece resultados con baja latencia, pero también significa que necesitas mucha memoria cuando el conjunto de datos crece.

Qué es DiskANN

DiskANN es la respuesta de Microsoft a los desafíos de la búsqueda de vectores a escala de miles de millones. Este índice basado en grafos usa un enfoque híbrido que combina memoria y almacenamiento SSD. DiskANN te permite guardar la mayor parte del índice en SSD, que son mucho más baratos que la RAM. Solo mantienes en memoria los datos de navegación más importantes. Este diseño te ayuda a gestionar conjuntos de datos masivos sin costes de hardware elevados. DiskANN usa el algoritmo de grafos Vamana para guiar la búsqueda a través de los datos. También emplea un método especial de poda para mantener el grafo diverso y eficiente. El diskann de Microsoft impulsa Azure AI Search y otros servicios, lo que lo convierte en una innovación clave para la IA empresarial.

InnovaciónDescripción
Búsqueda ANN de alta velocidadLa arquitectura de DiskANN permite una búsqueda ANN eficiente en SSD, lo que ayuda a reducir los costes de hardware.
Sistema de memoria híbridoDiskANN usa una combinación de DRAM y SSD para gestionar miles de millones de puntos en una sola máquina.
Almacenamiento rentableDiskANN almacena el índice ANN en disco, lo que ofrece una solución económica para manejar datos de alta dimensionalidad.

Cómo funciona HNSW

Construcción del grafo

HNSW construye su índice basado en grafos creando una jerarquía de grafos de búsqueda. Empiezas con una estructura vacía. El primer vector que añades se convierte en el único nodo de la capa superior. Para cada vector nuevo, HNSW decide en cuántas capas debe entrar mediante un proceso aleatorio. El nuevo vector se conecta con sus vecinos más cercanos en cada capa, hasta su máximo asignado. La capa superior tiene menos nodos, lo que la convierte en un buen punto de partida para la búsqueda. Las capas inferiores tienen más nodos, lo que permite búsquedas más detalladas. HNSW puede actualizar su grafo sin reconstruirlo por completo, así que puedes añadir datos nuevos a medida que crecen tus necesidades.

Proceso de búsqueda

Cuando buscas con HNSW, empiezas en la capa superior del grafo. Usas enlaces de largo alcance para avanzar rápidamente hacia la zona donde podría estar tu vector objetivo. A medida que bajas por cada capa, las conexiones se vuelven más densas. Esto te ayuda a afinar la búsqueda y acercarte a la mejor coincidencia. En la capa más baja, HNSW usa una búsqueda por haz (beam search) para encontrar los vecinos más cercanos. Este proceso ofrece resultados rápidos y precisos, sobre todo cuando todo el grafo cabe en memoria.

  • Principios de diseño de HNSW:
    • Optimizado para operaciones en memoria, con baja latencia y alto recall.
    • Usa una estructura de grafo de varias capas basada en redes de mundo pequeño.
    • Emplea una estrategia de poda para eliminar aristas redundantes y favorecer la diversidad.
    • El proceso de búsqueda consiste en descender por las capas, empezando por enlaces dispersos de largo alcance y terminando con una búsqueda por haz en la capa base.

Como ves, tanto HNSW como DiskANN usan un índice basado en grafos, pero sus diseños responden a necesidades distintas. HNSW funciona mejor cuando puedes mantenerlo todo en memoria. DiskANN permite escalar a miles de millones de vectores gracias a los SSD, lo que lo hace ideal para cargas de trabajo empresariales en Azure AI Search.

Cómo funciona DiskANN

Arquitectura híbrida de memoria y SSD

Encuentras un enfoque singular cuando usas DiskANN para la búsqueda de miles de millones de vectores. DiskANN combina memoria y almacenamiento SSD para crear una arquitectura híbrida. Este diseño te permite guardar la mayor parte del índice de vectores en SSD, que cuestan menos que la RAM. Solo mantienes en memoria los datos de navegación esenciales. Este método te permite escalar la búsqueda a miles de millones de vectores sin necesitar hardware costoso.

DiskANN utiliza dos técnicas principales para optimizar el almacenamiento y la velocidad:

  • Grafo Vamana: Utilizas esta estructura para navegar de forma eficiente por el índice.
  • Cuantización de producto (PQ): Comprimes los vectores en memoria, lo que reduce el uso de RAM.

Te beneficias de un proceso de ejecución de consultas en dos fases. En la primera fase, DiskANN utiliza los vectores comprimidos con PQ en RAM para identificar rápidamente un conjunto de candidatos. Durante este paso no necesitas leer del disco. En la segunda fase, DiskANN obtiene de la SSD los vectores de precisión completa del conjunto de candidatos. Después calculas las distancias exactas para encontrar las mejores coincidencias. Este proceso te ofrece un alto recall y una baja latencia, al mismo tiempo que mantiene bajos los requisitos de memoria.

Consejo: La arquitectura híbrida de memoria y SSD de DiskANN permite la búsqueda a escala web en hardware convencional. Puedes almacenar los índices vectoriales en SSD en lugar de en RAM, lo que hace más asequibles las aplicaciones a gran escala.

Proceso de búsqueda

Una búsqueda en DiskANN comienza navegando por el grafo Vamana con los vectores comprimidos en memoria. Este paso te ayuda a encontrar candidatos prometedores con rapidez. En esta etapa evitas las lecturas de disco, lo que acelera el proceso. Una vez que tienes el conjunto de candidatos, DiskANN pasa a la siguiente fase.

Obtienes de la SSD los vectores de precisión completa de cada candidato. Calculas las distancias exactas entre tu consulta y estos candidatos. Este proceso en dos fases garantiza que obtengas resultados precisos sin ralentizar la búsqueda. Logras un alto recall porque DiskANN examina en detalle los mejores candidatos. Además, mantienes la latencia baja porque la mayor parte del trabajo se realiza en memoria.

El proceso de búsqueda de DiskANN funciona bien con conjuntos de datos masivos. Puedes manejar miles de millones de vectores sin necesitar grandes cantidades de RAM. Obtienes resultados rápidos y fiables aunque tus datos crezcan. Esto convierte a DiskANN en una opción sólida para cargas de trabajo de IA empresariales en Azure AI Search.

PasoQué hacesBeneficio
Fase 1: NavegaciónUtilizar vectores comprimidos con PQ en RAM para encontrar candidatosBúsqueda rápida, sin lecturas de disco
Fase 2: RefinamientoObtener de la SSD los vectores de precisión completa y calcular las distanciasAlto recall, baja latencia

Ves que la arquitectura híbrida y el proceso de búsqueda de DiskANN te ayudan a resolver de forma eficiente el problema de los miles de millones de vectores. Puedes escalar tu búsqueda, reducir costes y mantener el rendimiento a medida que crecen tus datos.

Ventajas e inconvenientes

Pros y contras de HNSW

Con frecuencia eliges HNSW para la recuperación de vectores porque ofrece una velocidad de búsqueda de última generación y un alto recall. Cuando ajustas HNSW correctamente, obtienes resultados rápidos y coincidencias precisas. Maneja bien datos vectoriales de alta dimensión, algo importante para las cargas de trabajo de IA actuales. Además, se beneficia de las adiciones incrementales, así que puedes actualizar el índice sin reconstruirlo todo.

VentajasInconvenientes
Velocidad de búsqueda de última generación y alto recall cuando se ajusta correctamente.Alto consumo de memoria debido al almacenamiento de los enlaces del grafo para cada vector.
Maneja bien los datos de alta dimensión.Tiempo de construcción del índice largo con parámetros de construcción de alta calidad.
Admite adiciones incrementales de forma eficiente.La eliminación compleja de elementos puede degradar el rendimiento con el tiempo.

Escalas HNSW de forma eficiente porque la construcción del índice tiene un coste de O(N log N). La construcción en paralelo te permite aprovechar procesadores multinúcleo, lo que acelera el proceso. El uso de memoria crece linealmente con el tamaño del conjunto de datos, así que puedes prever las necesidades de almacenamiento. Sin embargo, debes mantener todo el grafo en RAM, lo que limita la escalabilidad con conjuntos de datos de miles de millones de vectores.

Pros y contras de DiskANN

Recurres a DiskANN cuando necesitas escalar la recuperación de vectores más allá de lo que puede soportar la RAM. DiskANN optimiza el uso de SSD, lo que reduce los costes de hardware y te permite gestionar conjuntos de datos masivos. Obtienes alta precisión y baja latencia combinando búsquedas en memoria con lecturas por lotes de SSD. DiskANN admite actualizaciones en tiempo real y búsqueda híbrida, de modo que puedes filtrar y recuperar vectores de forma eficiente.

Ten en cuenta estos puntos sobre DiskANN:

  • Escalabilidad rentable al usar SSD en lugar de RAM.
  • Alta precisión y baja latencia a escala mediante búsquedas en memoria y lecturas de SSD.
  • Actualizaciones en tiempo real y recuperación híbrida de vectores y datos filtrados.
  • Los tiempos de compilación son lentos porque la construcción del grafo Vamana es computacionalmente costosa.
  • El rendimiento depende del throughput y de la latencia de los SSD.
  • Las actualizaciones son más costosas en comparación con estructuras en memoria como hnsw.
  • La implementación y el ajuste requieren una optimización cuidadosa.

Te beneficias de la capacidad de diskann para manejar vectores cuantizados, lo que comprime los datos y mejora la búsqueda eficiente en memoria. Puedes usar diskann para cargas de trabajo de mil millones de vectores sin preocuparte por los límites de RAM.

Eficiencia de memoria y almacenamiento

Debes tener en cuenta la eficiencia de memoria y de almacenamiento al elegir entre hnsw y diskann para la recuperación de vectores. HNSW funciona bien con conjuntos de datos que caben en la RAM de tu servidor. Obtienes acceso rápido y alto rendimiento, pero no puedes escalar más allá de tus límites de memoria. DiskANN te permite ampliar el tamaño de tu conjunto de datos hasta la capacidad del disco, a cambio de algo de velocidad. Almacenas la mayor parte de tu índice en SSD, lo que hace de diskann una opción ideal para conjuntos de datos vectoriales masivos.

CaracterísticaHNSWDiskANN
Eficiencia de memoriaMuy eficiente para conjuntos de datos que caben en la caché del servidor (RAM).Diseñado para conjuntos de datos demasiado grandes para caber en la RAM.
Eficiencia de almacenamientoLimitado por la cantidad de RAM disponible.Amplía el tamaño del conjunto de datos hasta la capacidad del disco, a cambio de algo de velocidad.
Optimización del rendimientoAprovecha el rápido acceso a memoria para ganar velocidad.Minimiza las penalizaciones de rendimiento del almacenamiento en disco, que es más lento.
Idoneidad del conjunto de datosAdecuado para conjuntos de datos que caben en RAM.Adecuado para conjuntos de datos masivos que superan la capacidad de la RAM.

Usas vectores cuantizados tanto en hnsw como en diskann para reducir las necesidades de almacenamiento y mejorar la velocidad de recuperación. La arquitectura híbrida de diskann te permite escalar la búsqueda vectorial manteniendo los costos bajos. Logras una búsqueda eficiente en memoria para tareas de recuperación a gran escala, sobre todo cuando trabajas con vectores cuantizados y almacenamiento SSD.

Comparativa de algoritmos de búsqueda vectorial

Vector Search Algorithm Comparison

Rendimiento a escala

Debes medir cómo se comporta un algoritmo de búsqueda vectorial a medida que crece tu conjunto de datos. HNSW y DiskANN buscan ofrecer un alto recall y velocidad, pero sus estrategias difieren. HNSW se basa en grafos en memoria, lo que significa que obtienes búsqueda rápida del vecino más cercano cuando tus vectores caben en RAM. DiskANN usa un enfoque híbrido de memoria y SSD, así que puedes escalar el rendimiento de tu búsqueda sin preocuparte por los límites de memoria.

Cuando ejecutas una búsqueda del vecino más cercano sobre millones de vectores, HNSW te ofrece recuperación de alta velocidad y baja latencia. Puedes ajustar los parámetros para el recall y la velocidad. DiskANN mantiene un alto recall y velocidad incluso cuando tu conjunto de datos crece. Almacenas la mayor parte de tu índice en SSD, lo que te permite manejar miles de millones de vectores. Usas una búsqueda en dos etapas para equilibrar velocidad y precisión. La primera etapa encuentra candidatos en memoria, y la segunda refina los resultados usando SSD.

Logras un alto recall y velocidad con ambos algoritmos, pero DiskANN te permite escalar el rendimiento de la búsqueda más allá de los límites de la RAM.

Escalabilidad para miles de millones de vectores

Enfrentas nuevos desafíos cuando tu conjunto de datos pasa de millones a miles de millones de vectores. HNSW funciona bien hasta 50 millones de vectores. Usas HNSW como algoritmo de búsqueda vectorial predeterminado y ajustas los parámetros para el recall. Cuando llegas a entre 50 y 500 millones de vectores, implementas fragmentación (sharding) y cuantización escalar. Puedes usar recuperación en dos fases para mayor eficiencia. Para conjuntos de datos de más de 500 millones de vectores, necesitas recuperación jerárquica y arquitecturas multinivel. Usas cuantización agresiva para los datos fríos.

Rango de número de vectoresEstrategia con HNSW
1-50MUsa HNSW como algoritmo predeterminado, asegúrate de que los vectores quepan en RAM y ajusta los parámetros para el recall.
50-500MImplementa fragmentación (sharding), habilita la cuantización escalar y considera la recuperación en dos fases para mayor eficiencia.
500M+Usa recuperación jerárquica, arquitecturas multinivel y cuantización agresiva para los datos fríos.

DiskANN cambia las reglas del juego para la búsqueda vectorial a escala de miles de millones. Almacenas la mayor parte de tu índice en SSD, así que no tienes que preocuparte por los límites de RAM. Usas cuantización de producto para comprimir los vectores y mantienes los datos de navegación en memoria. Escalas tu búsqueda del vecino más cercano a miles de millones de vectores sin sacrificar el rendimiento de búsqueda. DiskANN admite búsqueda aproximada basada en clustering y recuperación híbrida, lo que te ayuda a gestionar conjuntos de datos masivos.

DiskANN te permite escalar tu algoritmo de búsqueda vectorial a miles de millones de vectores, lo que lo convierte en una opción ideal para cargas de trabajo empresariales.

Latencia de consulta y rendimiento

La latencia de consulta y el rendimiento importan cuando ejecutas búsqueda vectorial a escala. HNSW ofrece baja latencia para la búsqueda del vecino más cercano porque mantiene todo el grafo en memoria. Obtienes respuestas rápidas y un rendimiento alto con conjuntos de datos que caben en RAM. Cuando tu conjunto de datos crece, la latencia aumenta a medida que fragmentas los datos o usas arquitecturas de varios niveles.

DiskANN utiliza un proceso de búsqueda en dos etapas. Primero buscas en vectores comprimidos en memoria, lo que permite seleccionar candidatos con rapidez. Después refinas la consulta recuperando vectores de precisión total desde SSD. Este enfoque mantiene la latencia baja y un rendimiento alto, incluso con conjuntos de datos de miles de millones de vectores. Optimizas la recuperación agrupando las lecturas de SSD y usando estructuras de navegación eficientes.

Con DiskANN consigues una alta exhaustividad (recall) y velocidad, incluso cuando aumenta el volumen de consultas. No tienes que preocuparte por los límites de memoria, así que puedes escalar el rendimiento de búsqueda para aplicaciones empresariales.

Con DiskANN obtienes una latencia de consulta y un rendimiento fiables, lo que lo convierte en una opción sólida para la búsqueda del vecino más cercano a gran escala.

Impacto en coste y recursos

Debes considerar el coste y el impacto en recursos cuando elijas un algoritmo de búsqueda vectorial para Azure AI Search. La forma en que cada algoritmo usa la memoria y el almacenamiento afecta a tu presupuesto y a tu capacidad de escalar.

DiskANN destaca en cargas de trabajo de miles de millones de vectores. Puedes almacenar la mayor parte de tu índice en SSD, que cuestan menos que la RAM. Este diseño te permite escalar de miles a miles de millones de vectores sin un aumento enorme de los costes de memoria. DiskANN funciona bien para cargas de trabajo de IA en producción porque aprovecha eficientemente los SSD y mantiene solo los datos más importantes en memoria.

HNSW funciona mejor con conjuntos de datos de tamaño medio. Necesitas mantener todo el índice en RAM. Este requisito limita cuánto puedes escalar. Si tu conjunto de datos crece demasiado, puedes enfrentarte a costes operativos elevados. Además, HNSW está limitado a 2.000 dimensiones, lo que puede restringir tus casos de uso.

Tipo de índiceAdecuado para cargas de trabajo de miles de millones de vectoresRequisitos de memoriaCostes operativos
DiskANNSí, diseñado para el rendimiento de SSDEscala de miles a miles de millones de vectoresRecomendado para cargas de trabajo de IA en producción
HNSWNo, adecuado para conjuntos de datos medianosRequiere que el índice quepa en RAMLimitado a 2.000 dimensiones

Consejo: si quieres controlar los costes y escalar tu búsqueda a miles de millones de vectores, DiskANN te da una ventaja clara. Puedes usar SSD asequibles y mantener bajas tus necesidades de memoria.

Casos de uso reales

Puedes ver el valor de estos algoritmos en aplicaciones reales. Muchas organizaciones usan DiskANN y HNSW para distintos tipos de problemas de búsqueda vectorial.

  • Puedes usar un método híbrido rentable para la búsqueda aproximada del vecino más cercano. Este enfoque combina el almacenamiento en SSD con estructuras de grafo en memoria.
  • Puedes desplegar DiskANN para conjuntos de datos estáticos, como corpus de investigación, donde los datos no cambian con frecuencia.
  • Puedes elegir DiskANN para despliegues sensibles al coste. Funciona bien en aplicaciones de escala de miles de millones de vectores en las que necesitas controlar los gastos.
  • Puedes usar DiskANN para consultas que toleran latencias inferiores a 10 milisegundos. Esta velocidad es suficientemente rápida para muchas tareas de búsqueda empresarial.
  • Puedes combinar HNSW con archivos invertidos respaldados por disco (HNSW-IF) para la búsqueda híbrida. Este método consigue una alta exhaustividad (recall) y mantiene la latencia baja.
Caso de usoDescripción
Conjuntos de datos estáticosIdeal para corpus de investigación donde los datos no cambian con frecuencia.
Despliegues sensibles al costeAdecuado para aplicaciones de escala de miles de millones de vectores donde el coste es un factor importante.
Consultas tolerantes a la latenciaFunciona bien para consultas que toleran latencias inferiores a 10 ms.

Nota: muchas organizaciones consiguen una exhaustividad (recall) del 90 % con una latencia de 10 ms usando métodos híbridos. Este rendimiento cubre las necesidades de la mayoría de las aplicaciones de búsqueda de IA empresariales.

Puedes ajustar la elección del algoritmo a tu carga de trabajo. Si necesitas escalar, controlar los costes y mantener baja la latencia, DiskANN te ofrece la flexibilidad y la eficiencia que necesitas.

Cuándo usar HNSW o DiskANN

Elegir el algoritmo adecuado para tu carga de trabajo de Azure AI Search puede marcar una gran diferencia en velocidad, coste y precisión. Tienes que analizar tus datos, tu hardware y la frecuencia con la que cambian los datos. Veamos los principales criterios de decisión para que elijas la mejor herramienta para tus necesidades de búsqueda vectorial.

Criterios de decisión

Tamaño del conjunto de datos

Siempre conviene empezar por el tamaño del conjunto de datos. Si trabajas con millones de vectores, hnsw ofrece resultados de búsqueda rápidos y precisos. Funciona mejor cuando los datos caben en memoria. Cuando el conjunto de datos crece hasta miles de millones de vectores, diskann se convierte en la mejor opción. Utiliza SSD para almacenar la mayor parte del índice, así que no tienes que preocuparte por quedarte sin RAM.

CriterioHNSWDiskANN
Tamaño del conjunto de datosAdecuado para millones de vectoresDestaca con miles de millones de vectores

Como puedes ver, hnsw encaja mejor en cargas de trabajo más pequeñas, mientras que diskann gestiona conjuntos de datos masivos sin perder rendimiento.

Hardware y coste

Tu hardware y tu presupuesto también influyen mucho. Hnsw necesita mucha RAM porque mantiene todo el grafo en memoria. Esto puede resultar caro a medida que crece la base de datos vectorial. Diskann te ayuda a ahorrar dinero al almacenar la mayor parte del índice en SSD, que cuestan menos que la RAM. Solo necesitas memoria suficiente para la parte de navegación del índice.

CriterioHNSWDiskANN
InfraestructuraRequisitos de RAMReduce los costes de memoria

Si quieres mantener los costes bajos y, aun así, buscar entre miles de millones de vectores, diskann te ofrece una ventaja clara.

Necesidades de latencia

Debes pensar en la rapidez con la que necesitas los resultados de búsqueda. Hnsw ofrece una latencia muy baja porque busca en memoria. Puedes obtener resultados en apenas unos milisegundos si los datos caben en RAM. Diskann equilibra velocidad y escala. Utiliza un proceso de búsqueda en dos pasos, así que sigues obteniendo resultados rápidos incluso con conjuntos de datos enormes. En la mayoría de las aplicaciones empresariales, diskann mantiene los tiempos de consulta por debajo de 10 milisegundos.

  • Hnsw es ideal para cargas de trabajo en las que cada milisegundo cuenta.
  • Diskann funciona bien cuando necesitas buscar en conjuntos de datos grandes con rapidez y puedes aceptar un pequeño aumento de la latencia.

Patrones de actualización

La frecuencia con la que cambian tus datos afecta a tu elección. Hnsw funciona bien con datos estáticos o que cambian lentamente. Si actualizas tus vectores con frecuencia, es posible que tengas que reconstruir el índice, lo que requiere tiempo. Diskann se adapta mejor a las actualizaciones frecuentes. Mantiene estables la precisión y el recall, incluso cuando añades o modificas vectores con frecuencia.

CaracterísticaHNSWDiskANN
Latencia de actualizaciónRequiere reconstruir el índice completoSe adapta de forma eficiente a los cambios
RecallAlto, pero afectado por los cambiosPrecisión estable con modificaciones frecuentes

Si tu aplicación necesita gestionar muchas actualizaciones, diskann te da más flexibilidad.

Escenarios de ejemplo

Puedes usar escenarios reales para ayudarte a decidir qué algoritmo se ajusta a tus necesidades.

MétricaHNSWDiskANN
Recall medio0.60.7
Precisión de extremo a extremo0.9720.933
Robustness-0.2@100.9980.984
Robustness-0.90.840.81
  • Hnsw ofrece un recall alto y un rendimiento de consultas rápido. En conjuntos de datos como SIFT1M, puedes alcanzar un recall de aproximadamente el 95 % en 10 resultados con solo 1-2 milisegundos por consulta en una CPU.
  • Diskann muestra un recall medio más alto, lo que significa que encuentra más coincidencias reales en conjuntos de datos grandes. Mantiene una precisión alta incluso a medida que crecen tus datos.
  • Hnsw funciona mejor para sistemas de recomendación o motores de búsqueda en los que necesitas máxima precisión y velocidad.
  • Diskann se adapta a búsquedas a gran escala, como la búsqueda de miles de millones de imágenes de productos o documentos, en las que necesitas equilibrar velocidad, coste y escala.

Hnsw destaca en cargas de trabajo que requieren la búsqueda más rápida posible en conjuntos de datos más pequeños. Diskann brilla cuando necesitas buscar entre enormes cantidades de datos sin disparar el presupuesto.

Migración y enfoques híbridos

No tienes que elegir un único algoritmo para todas las situaciones. Muchas organizaciones empiezan con hnsw para conjuntos de datos pequeños. A medida que su base de datos vectorial crece, pasan a diskann para gestionar más datos y mantener los costes bajos. También puedes usar un enfoque híbrido. Por ejemplo, podrías mantener en memoria los vectores más populares o recientes con hnsw, mientras almacenas los vectores antiguos o menos usados en SSD con diskann.

  • Empieza con hnsw para prototipos rápidos y cargas de trabajo pequeñas.
  • Migra a diskann cuando tu conjunto de datos supere los límites de memoria.
  • Combina ambos métodos para lograr la mejor combinación de velocidad y escala.

Consejo: revisa tu carga de trabajo con regularidad. A medida que cambien tus datos y tus necesidades, puedes ajustar tu enfoque para obtener el mejor rendimiento y valor.

Si entiendes el tamaño de tu conjunto de datos, el hardware, los requisitos de latencia y los patrones de actualización, podrás elegir con criterio entre hnsw y diskann. Así podrás crear un sistema de búsqueda vectorial que se ajuste a tus objetivos y crezca junto con tu negocio.

Prácticas recomendadas para la búsqueda vectorial en Azure

Consejos de configuración de índices

Puedes lograr un alto rendimiento en Azure AI Search siguiendo algunos consejos de configuración importantes. Empieza asegurándote de que tu tamaño de índice quepa en una única unidad de búsqueda vectorial. Así mantendrás tu búsqueda rápida y fiable. Intenta minimizar el tamaño de tus incrustaciones. Las incrustaciones más pequeñas mejoran los tiempos de consulta y aumentan las consultas por segundo. Usa consultas de vecino más cercano aproximado (ANN) para ganar eficiencia, ya que aceleran la búsqueda sin sacrificar demasiada precisión.

Mantén el número de resultados por consulta entre 10 y 100. Este intervalo reduce la latencia y mantiene la búsqueda ágil. Evita usar endpoints de modelos que escalen a cero en producción. Los arranques en frío pueden ralentizar la búsqueda y frustrar a los usuarios. Planifica los picos de consultas para que tu sistema pueda soportar aumentos repentinos del tráfico de búsqueda. Usa entidades de servicio con tokens de OAuth para una autenticación segura y eficiente. Utiliza siempre la última versión del SDK de Python para aprovechar las mejoras de rendimiento. Si necesitas mayor rendimiento, escala tu endpoint o paraleliza la carga en varios endpoints.

Consejo: un índice bien configurado es la base de una búsqueda vectorial optimizada en Azure.

Supervisión y optimización

Necesitas supervisar y optimizar tu sistema de búsqueda para mantener un alto rendimiento, sobre todo con cargas de trabajo de miles de millones de vectores. La siguiente tabla muestra algunas técnicas eficaces:

TécnicaDescripción
Índices multinivelUsa índices rápidos para los datos activos y comprime los datos fríos para ahorrar espacio.
Control de fan-outGestiona las interacciones entre fragmentos y clústeres para reducir los saltos de red.
CuantizaciónReduce el tamaño de los vectores con métodos como IVF-PQ para que quepan en los límites de memoria.
Ajuste de centroidesAjusta el número de centroides para equilibrar la exhaustividad y la sobrecarga.
Cálculo de distancia asimétricaAcelera la búsqueda comparando consultas de precisión completa con vectores comprimidos.
Enrutamiento intencionado de consultasUsa metadatos y agrupación en clústeres para evitar difusiones innecesarias durante la búsqueda.
Minimizar las cargas de redTransfiere solo los identificadores y las puntuaciones, no los vectores completos, entre nodos.
Agregación jerárquicaAgrega los resultados localmente para reducir la coordinación y estabilizar la latencia.
Dominio de la memoriaAsegúrate de que los vectores quepan en memoria para obtener el mejor rendimiento de búsqueda.
Uso situacional de GPUUsa GPU para la indexación si las necesitas, pero comprueba si mejoran el rendimiento de tu búsqueda.
Calidad de la redSupervisa las condiciones de la red, porque afectan a la latencia de la búsqueda.

Nota: la supervisión periódica te ayuda a detectar problemas a tiempo y a mantener tu búsqueda funcionando sin contratiempos.

Errores comunes

Al configurar o escalar tu sistema de búsqueda en Azure, puedes encontrarte con algunos errores comunes. Uno de ellos es dejar que el índice crezca demasiado para una única unidad de búsqueda. Esto puede ralentizar tus consultas y hacer que la búsqueda sea menos fiable. Usar incrustaciones grandes también puede perjudicar el rendimiento. Mantén siempre las incrustaciones lo más pequeñas posible para tu caso de uso.

Otro error es ignorar los picos de consultas. Si no planificas aumentos repentinos del tráfico de búsqueda, tu sistema puede fallar bajo presión. Depender de endpoints que escalan a cero puede provocar retrasos por arranque en frío, que ralentizan la búsqueda. No actualizar el SDK o no usar tokens de OAuth puede generar riesgos de seguridad y perder mejoras de rendimiento.

Recuerda: evita estos errores para que tu búsqueda sea rápida, segura y fiable.

Siguiendo estas prácticas recomendadas, podrás crear una experiencia de búsqueda robusta y eficiente en Azure. Gestionarás grandes conjuntos de datos con facilidad y ofrecerás resultados rápidos y precisos a tus usuarios.


Resuelves el problema de los mil millones de vectores en Azure AI Search eligiendo el algoritmo adecuado para tus necesidades. DiskANN te ofrece escalabilidad rentable para conjuntos de datos masivos, mientras que HNSW proporciona resultados rápidos para cargas de trabajo más pequeñas. Ajustas el algoritmo a tu carga de trabajo, a tu escala y a tu presupuesto. La siguiente tabla te ayuda a seleccionar el mejor endpoint:

Tipo de SKUDescripción del caso de uso
Endpoints estándarIdeal para necesidades de latencia críticas, con índices de menos de 320 M de vectores.
Endpoints optimizados para almacenamientoIdeal para más de 10 M de vectores, cuando puedes tolerar algo de latencia y necesitas eficiencia de costos.
  • Estima tus necesidades de almacenamiento probando con unos pocos documentos.
  • Planifica las actualizaciones y el volumen total de contenido.

Azure AI Search te ofrece flexibilidad y es compatible con las innovaciones de Microsoft para la IA empresarial.

Preguntas frecuentes

¿Cuál es la principal diferencia entre HNSW y DiskANN?

Usas HNSW para la búsqueda vectorial en memoria. DiskANN te permite almacenar la mayor parte de tu índice en SSD. Por eso DiskANN es más adecuado para manejar miles de millones de vectores sin costos elevados de memoria.

¿Puedes usar DiskANN en aplicaciones en tiempo real?

Sí. DiskANN ofrece búsquedas de baja latencia, a menudo por debajo de 10 milisegundos. Puedes usarlo para tareas de búsqueda de IA en tiempo real, incluso con conjuntos de datos muy grandes.

¿Cómo decides qué algoritmo usar en Azure AI Search?

Eliges HNSW para conjuntos de datos más pequeños que caben en la RAM. Optas por DiskANN para conjuntos de datos masivos que necesitan un escalado rentable. Ten en cuenta el tamaño de tus datos, el hardware y tus necesidades de latencia.

¿DiskANN requiere hardware especial?

No. Puedes ejecutar DiskANN en servidores estándar con SSD. No necesitas equipos costosos con mucha memoria. Esto facilita el escalado y lo hace más asequible.

¿Cómo protege Azure AI Search tus datos?

Azure AI Search utiliza cifrado y controles de acceso. Tú controlas quién puede acceder a tus datos. Las funciones de seguridad de Microsoft te ayudan a proteger la información sensible.

¿Puedes actualizar tu índice vectorial sin tiempo de inactividad?

Puedes actualizar los índices de HNSW y de DiskANN. DiskANN admite actualizaciones eficientes para conjuntos de datos grandes. Mantienes tus resultados de búsqueda actualizados sin dejar tu sistema fuera de servicio.

¿Cuáles son algunas buenas prácticas para optimizar el rendimiento de la búsqueda vectorial?

Usa embeddings más pequeños, mantén tu índice dentro de una única unidad de búsqueda y supervisa la latencia de las consultas. Actualiza siempre tu SDK y prepárate para los picos de consultas para mantener un rendimiento alto.


🎧 Escucha este episodio

¿Quieres una explicación práctica de HNSW vs DiskANN for Vector Search in Azure AI Search? Este episodio desglosa el tema con un lenguaje claro y muestra por qué importa para Microsoft 365, Azure, Power Platform, seguridad, IA y el trabajo moderno.

Escucha este episodio si quieres:

  • Entender los conceptos clave detrás de HNSW vs DiskANN for Vector Search in Azure AI Search
  • Ver cómo encaja en el ecosistema tecnológico de Microsoft en su conjunto
  • Descubrir dónde puede aportar valor práctico a tu organización

También te pueden interesar estos episodios relacionados de M365 FM:

Descubre más conversaciones prácticas sobre Microsoft en M365 FM.

Última revisión: julio de 2026.

A quién va dirigido

Este episodio está pensado para administradores, arquitectos, desarrolladores y profesionales de seguridad de Microsoft, así como para líderes de negocio que necesitan una base práctica antes de tomar decisiones de implementación, operación o gobernanza.

🎧 También te puede interesar

Entities in this article

DiskANN Azure AI Search Vector search Hybrid search Microsoft Azure Cold start Embeddings Semantic model

Related articles

RSS