El avance TurboQuant de Google sacude acciones de memoria y almacenamiento

10:20

Google presentó una nueva serie de algoritmos de compresión que reducen de forma significativa el uso de memoria en modelos de lenguaje, lo que provocó caídas inmediatas en acciones de fabricantes de chips de memoria y almacenamiento.

El conjunto incluye TurboQuant, PolarQuant y Quantized Johnson Lindenstrauss. Estas herramientas actúan sobre el sistema de caché clave valor, utilizado durante la inferencia para almacenar datos frecuentes. En pruebas con modelos abiertos como Gemma y Mistral, TurboQuant redujo el uso de memoria hasta 3 bits sin necesidad de entrenamiento adicional. También logró acelerar hasta ocho veces el cálculo de atención en GPUs Nvidia H100 frente a sistemas sin cuantización.

El anuncio generó inquietud en los mercados sobre una posible reducción en la demanda de hardware de memoria debido a la mayor eficiencia de los sistemas de inteligencia artificial.

El funcionamiento se basa en dos etapas. PolarQuant transforma los vectores tradicionales en coordenadas polares, sustituyendo valores por eje por radio y ángulo. Este método elimina el alto coste de normalización. Luego, Quantized Johnson Lindenstrauss introduce una corrección de error de un bit, proyectando los errores en un espacio de menor dimensión sin aumentar el consumo de memoria.

Google Research señaló que esta técnica resuelve de forma eficiente el problema del uso excesivo de memoria en la cuantización vectorial. Su aplicación podría extenderse a sistemas de búsqueda vectorial a gran escala.

Las acciones del sector reaccionaron con caídas, incluso cuando el Nasdaq 100 avanzaba. SanDisk registró la mayor pérdida, seguida por Micron, Western Digital y Seagate. También retrocedieron fabricantes de equipos como Lam Research y Applied Materials.

Morgan Stanley calificó la innovación como un cambio relevante en los costes del despliegue de inteligencia artificial. Indicó que podría beneficiar a proveedores de nube y plataformas de modelos. Sin embargo, estimó que el impacto a largo plazo en la demanda de hardware será limitado. La tecnología se aplica solo en la inferencia y no reduce la necesidad de entrenamiento. La reducción de costes podría impulsar nuevos usos de la inteligencia artificial.

Google presentará TurboQuant en la conferencia ICLR en Rio de Janeiro entre el 23 y el 27 de abril. PolarQuant será presentado en AISTATS 2026. El proyecto fue desarrollado por Amir Zandieh y Vahab Mirrokni junto con KAIST y la Universidad de Nueva York.