Meta FAIR presentó e-means, un algoritmo integrado en FAISS 1.16.0 que, según sus autores, alcanza la pérdida de 25 épocas de k-means de Lloyd en entre 1,2 y 3 épocas en una amplia gama de escalas y conjuntos de datos. La mejora apunta a reducir el costo del clustering en procesos de datos e índices vectoriales, aunque el uso de memoria puede convertirse en un límite a escalas extremas.
***

• e-means actualiza los centroides mediante mini-lotes y medias móviles exponenciales, en lugar de recalcularlos con todos los datos en cada iteración.
• Sus autores reportan aceleraciones de 10 a 45 veces en GPU frente a Flash-KMeans y de 8 a 15 veces en CPU frente a k-means de Faiss.
• En la escala de 16 millones de centroides, los acumuladores float32 requieren 64 GiB y deben repartirse entre varias GPU.

⚡ Meta FAIR acelera el clustering de datos masivos

e-means alcanza la pérdida de 25 épocas de k-means en 1,2 a 3 épocas, según sus autores.

Ya está integrado en FAISS 1.16.0. En pruebas, reporta hasta 45 veces más velocidad en GPU.

A escala de 16 millones de centroides… pic.twitter.com/9dv2GgZx6i

— Diario฿itcoin (@DiarioBitcoin) November 11, 2026

Meta FAIR presenta e-means para acelerar el clustering de grandes conjuntos de datos

Meta FAIR presentó e-means, un algoritmo de clustering que busca reducir el tiempo necesario para agrupar datos en torno a centroides, una operación habitual al preparar índices vectoriales y otros procesos de datos. Según los resultados divulgados por sus autores, el método alcanza la pérdida que el k-means de Lloyd obtiene después de 25 épocas en entre 1,2 y 3 épocas en una amplia gama de escalas y conjuntos de datos. Una ficha del trabajo sitúa el rango reportado entre 1,4 y 2,6 épocas.

La implementación ya forma parte de FAISS 1.16.0 y puede utilizarse desde faiss.contrib.e_means. Sus responsables reportan mejoras de velocidad en CPU y GPU, pero las cifras son resultados propios de las pruebas descritas y no una comparación independiente; además, el consumo de memoria aumenta de forma considerable en configuraciones con millones de centroides.

Un cambio en la forma de actualizar los centroides

El algoritmo k-means agrupa puntos según su cercanía a centros llamados centroides, que se recalculan durante el entrenamiento. En la variante de Lloyd, cada iteración vuelve a recorrer el conjunto completo para obtener las sumas y los conteos de los puntos asignados a cada grupo, una tarea que puede resultar costosa cuando los datos son numerosos o el proceso se repite a gran escala.

e-means cambia esa actualización completa por mini-lotes y medias móviles exponenciales, o EMA. En términos generales, conserva una suma y un conteo por cluster, pero reduce gradualmente el peso de las estadísticas anteriores y agrega información del lote actual; así, las asignaciones más antiguas pierden influencia en vez de permanecer acumuladas indefinidamente.

La diferencia también permite contrastarlo con otros métodos. MacQueen, de 1967, continúa acumulando estadísticas de los lotes sin descartar las antiguas, mientras que Lloyd vuelve a calcularlas usando el conjunto entero; e-means aplica una tasa de decaimiento α tanto a la suma como al conteo, para que los centroides respondan a las asignaciones recientes.

Los investigadores describen a Lloyd como un caso límite de e-means: el lote cubre todos los datos y α equivale a 1. En el conjunto DEEP, sin embargo, esa configuración quedó 1,8% por encima de la mejor pérdida reportada; una alternativa basada en descenso de gradiente también terminó por encima de EMA, con diferencias de 1,6% en DEEP y 0,4% en SIFT.

Menos ajustes manuales y mecanismos para clusters vacíos

El equipo propone dos leyes de escala para determinar el tamaño del lote B y el paso inicial α0 a partir del número de datos n, la cantidad de clusters k y las épocas T. La intención es reducir el ajuste manual de parámetros, que de otro modo obligaría a probar varias combinaciones para adaptar el algoritmo a cada conjunto de datos.

En conjuntos reservados para la evaluación, la ley utilizada para elegir el paso tuvo un regret mediano de 0,07%, según el reporte. Después del valor inicial, el paso sigue una programación cosenoidal que desciende desde α0 hasta 0,1α0, de manera que el peso de las nuevas observaciones se reduce durante el entrenamiento.

El método incorpora además una estrategia para reactivar clusters que quedan por debajo de un umbral de tamaño: los revive dividiendo un cluster grande. Esa decisión importa especialmente cuando k es elevado, porque la desaparición de grupos puede dejar parte de la capacidad de agrupamiento sin uso; el entrenamiento termina, asimismo, calculando la media exacta de la última época para cada cluster.

Los autores también señalan que e-means utiliza kernels de GPU fusionados para la asignación al centroide más cercano. La fusión busca que el ahorro de épocas se refleje también en el tiempo de ejecución, aunque el resultado final depende de la configuración del hardware, del tamaño del lote y de la cantidad de centroides que deban mantenerse.

Las pruebas reportan mejoras en CPU y GPU

En 24 configuraciones de conjuntos de datos, e-means obtuvo una pérdida inferior a la de Lloyd después de 25 épocas en un número menor de épocas, según los autores. En una prueba con un hilo de CPU, la ejecución de referencia de Lloyd tomó 4,39 segundos para 25 épocas, mientras que e-means tardó 0,43 segundos y necesitó 2,2 épocas.

La misma demostración comparó el trabajo de una iteración: Lloyd procesó 100.000 puntos en 0,176 segundos y e-means procesó un lote de 512 puntos en 0,001 segundos. Son cifras de una prueba concreta, no una equivalencia entre ambas operaciones; muestran cómo el uso de mini-lotes puede reducir el trabajo de cada actualización y, en ese caso, el tiempo total.

En GPU, los investigadores reportan una aceleración de 10 a 45 veces frente a Flash-KMeans para alcanzar una pérdida equivalente. En CPU, indican una mejora de 8 a 15 veces frente a k-means de Faiss; las pruebas de GPU descritas en el material se realizaron con H100, por lo que esas cifras no deben interpretarse como garantías para cualquier equipo.

En los 11 conjuntos de embeddings del benchmark VIBE, e-means necesitó entre 1,6 y 2,4 épocas. En otra prueba, el conjunto DINO10B reunió 10.000 millones de embeddings de 1.024 dimensiones y se agrupó en 16,7 millones de clusters en 2,5 épocas, un resultado que ilustra la escala evaluada por el equipo.

Escala masiva, límites de memoria y alcance de los resultados

El rendimiento no elimina las exigencias de hardware. En ejecuciones con 16 millones de centroides, los acumuladores float32 requieren 64 GiB de memoria, según el material de la investigación; para manejar esa configuración, los centroides deben fragmentarse entre varias GPU.

Ese requisito marca una diferencia entre reducir el número de épocas y abaratar todos los recursos de una ejecución. Una técnica puede llegar antes a una pérdida determinada y, aun así, necesitar bastante memoria para conservar sus estadísticas; por eso, los equipos que evalúen e-means tendrán que considerar tanto el tiempo como la capacidad disponible en sus dispositivos.

Los experimentos también examinaron mínimos locales con un conjunto artificial de cinco grupos. De 200 inicializaciones, Lloyd quedó atrapado en un mínimo local en 46% de los casos, mientras que e-means no quedó atrapado en ninguna; el equipo atribuye una posible ventaja al ruido introducido por los mini-lotes, aunque el resultado corresponde a esa prueba específica.

La reactivación de grupos mostró otro efecto en DEEP con 16.384 clusters: la división proporcional dejó 47 clusters muertos, equivalentes a 0,3%, mientras que desactivar la reactivación elevó la cifra a 4.313, o 26,3%. Estas comparaciones ayudan a explicar por qué el algoritmo añade mecanismos distintos de la actualización EMA para mantener los grupos activos durante el proceso.

Disponibilidad en FAISS y cautelas para los usuarios

e-means se distribuye a través de FAISS 1.16.0 y admite CPU y GPU, además de tensores de PyTorch o arreglos de NumPy. La página de MarkTechPost presenta el algoritmo como una alternativa directa a k-means de Lloyd para tareas como construir índices vectoriales, cuantizadores y procesos de curación de datos, áreas donde el clustering suele ejecutarse antes de las etapas de uso cotidiano.

La comparación con otras implementaciones depende de qué se mida. Flash-KMeans ejecuta Lloyd de lote completo y, por diseño, busca resultados exactos respecto de ese procedimiento; e-means cambia la regla de actualización y usa mini-lotes, por lo que sus ventajas de tiempo se presentan frente a una pérdida equivalente, no como identidad de cada paso.

Los resultados son prometedores para quienes procesan grandes volúmenes de vectores, pero deben leerse como benchmarks divulgados por el propio equipo investigador. Las cifras disponibles no sustituyen pruebas con los datos, el hardware y los requisitos de calidad de cada aplicación, y la necesidad de distribuir acumuladores entre GPU puede limitar algunas configuraciones.

El aporte central de e-means es combinar actualizaciones EMA, pautas para elegir el tamaño de lote y el paso, y mecanismos para recuperar clusters pequeños. Su incorporación a FAISS 1.16.0 permite probarlo en una biblioteca de búsqueda vectorial, mientras que las mediciones independientes y la experiencia en cargas de trabajo diversas permitirán precisar hasta dónde llegan las mejoras reportadas.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.

ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín