Inicio › IA · Hardware

IA · Hardware

Google presenta TPU 8tx y TPU 8i Max: cuatro sistemas de IA en un año y un acelerador que protege los datos mientras los procesa

Cuatro sistemas TPU en un solo año: el 8tx protege los datos mientras la IA los está usando y el 8i Max duplica memoria y cómputo para contextos gigantes. No son chips nuevos, y Google lo dice como virtud.

Redacción AlexTechNews9 de noviembre de 20263 min de lectura💬 Comentar
Los cuatro sistemas TPU de octava generación de Google sobre fondo negro: TPU 8t para entrenamiento, TPU 8i para razonamiento de baja latencia, TPU 8tx para computación confidencial y TPU 8i Max para contexto masivo y densidad
Los cuatro sistemas TPU de octava generación de Google: 8t, 8i, 8tx y 8i Max. Imagen: Google.

Google ya no presenta chips de IA de uno en uno: presenta sistemas. Este lunes ha anunciado dos nuevas configuraciones de su octava generación de TPU: TPU 8tx, para inferencia segura y confidencial, y TPU 8i Max, para ventanas de contexto enormes y con la mayor densidad de cómputo por rack de la familia. Con ellos suma cuatro sistemas TPU en un solo año —tras el 8t y el 8i de abril—, algo que no había hecho nunca.

El 8tx ataca el punto débil de la IA en la nube: los datos se cifran al guardarlos y al enviarlos, pero hay que descifrarlos en memoria mientras se procesan. Sobre el mismo silicio del 8t y con CPU host AMD EPYC de quinta generación, el 8tx lleva la protección al hardware y mantiene datos y pesos aislados incluso en uso activo, según Google. AMD lo presenta como el primer TPU en la nube con computación confidencial impuesta por hardware, apoyada en su tecnología SEV. Con la red Boardfly del 8i, Google promete hasta la mitad de latencia que el 8t con penalización casi nula.

El 8i Max ataca el otro cuello de botella, la memoria. Cuando decenas de agentes trabajan a la vez sobre un código entero o sobre horas de vídeo, el contexto se come el ancho de banda. Google ha combinado dos chips 8i en un solo paquete: el resultado, según la compañía, duplica el cómputo, la SRAM y el ancho de banda HBM del 8i, y mete el doble de silicio en el mismo espacio de rack.

Hay una confesión en el propio anuncio: no son chips nuevos. Son el silicio de abril reconfigurado —empaquetado, red y memoria alrededor—, y Google lo defiende como estrategia: construir el ordenador alrededor del chip permite entregar sistemas en meses, no en años. Amin Vahdat, responsable de infraestructura de IA de Google, lo confirmó a Bloomberg, que también fija el calendario que el anuncio omite: ambos sistemas llegarán el año que viene. Sin precio publicado.

El movimiento se lee contra Nvidia. Las TPU, nacidas para uso interno, son hoy la alternativa que Google Cloud vende a laboratorios, empresas y gobiernos —casi 100 clientes, dice la compañía— justo cuando los agentes piden aceleradores especializados. Alphabet subía más de un 2 % en el premercado, según Reuters. La pregunta ya no es si Google puede diseñar el chip: es si puede entregarlo a tiempo y a un precio que haga daño de verdad.

Comentarios

Sé el primero en comentar.

Los comentarios aparecen tras una breve revisión. Sin cuentas y sin rastreadores.

Sigue leyendo