Terminología

Las siguientes condiciones se aplican a AI Hypercomputer.

Acelerador
Es un dispositivo de hardware especializado, como una GPU o una TPU, diseñado para realizar tareas específicas, como cargas de trabajo de aprendizaje automático, de manera más eficiente que un procesador de uso general.

Bloquear
Es una colección de subbloques interconectados por una red de alta velocidad que no bloquea y que proporciona un ancho de banda alto para todas las máquinas host del bloque.

Clúster
Es una colección de bloques interconectados por un tejido de red de alta velocidad. Cada clúster es único a nivel global. En el caso de las máquinas A4X, A4, A3 Ultra, A3 Mega y A3 High (8 GPUs), un clúster proporciona una estructura de red común y sin bloqueo para tus bloques de capacidad de aceleradores. Dentro de un clúster, la comunicación entre nodos (tráfico este-oeste) no es de bloqueo para toda la colección de bloques.

GPU agrupadas
A Categoría de familias de máquinas para GPU, incluidas A5X, A4X Max, A4X, A4, A3 Ultra, A3 Mega y A3 High (8 GPU). Las GPU agrupadas permiten que los equipos implementen y escalen miles de aceleradores interconectados como un único sistema con acoplamiento alto a través de tejidos de redes especializados y mantenimiento sincronizado. Son ideales para cargas de trabajo que requieren sincronización de procesamiento, memoria y redes de alta velocidad extremas. Entre los casos de uso comunes, se incluyen el entrenamiento previo de modelos de base con billones de parámetros, la entrega de modelos de frontera y las simulaciones para el descubrimiento de fármacos.

Mantenimiento de emergencia
A veces, se denomina mantenimiento de emergencia. Es un evento de mantenimiento no planificado causado por un problema crítico de hardware, software o seguridad. Para los tipos de máquinas con aceleradores compatibles, el mantenimiento de emergencia proporciona un aviso anticipado en lugar de una interrupción inmediata. Esta notificación te da tiempo para vaciar tus cargas de trabajo de forma correcta y, de manera opcional, activar la reparación antes de que el sistema finalice las VMs.

GPU general
Es una categoría de familias de máquinas de GPU, que incluye G2, G4, A2, N1+T4 y A3 Edge. Las GPU de uso general permiten que los equipos implementen y escalen aceleradores de NVIDIA con autonomía operativa completa, lo que evita la complejidad arquitectónica de los clústeres de supercomputación coordinados. Son ideales para cargas de trabajo que priorizan la alta disponibilidad, el aprovisionamiento de autoservicio y el escalamiento independiente. Los casos de uso comunes incluyen la inferencia en tiempo real, la RAG, la creación de prototipos y el entrenamiento de modelos pequeños a medianos.

Estructura de red
Infraestructura de red de alta velocidad que proporciona un ancho de banda alto y baja latencia en todos los bloques y servicios de Google Cloud un clúster. La estructura usa la arquitectura de la red Jupiter. Para optimizar el rendimiento, la estructura usa una red definida por software y conmutadores ópticos.

Nodo o host
Una sola máquina de servidor físico en el centro de datos. Cada host tiene recursos de procesamiento asociados, como aceleradores. La cantidad y la configuración de estos recursos de procesamiento dependen de la familia de máquinas. Las instancias de Compute Engine se aprovisionan sobre un host físico.

Un dominio de NVLink, también conocido como subbloque, es la unidad principal de capacidad para las máquinas A5X, A4X Max y A4X. Un dominio de NVLink consta de 18 instancias de A5X, A4X Max o A4X (72 GPUs) que están conectadas por un sistema de NVLink de varios nodos.

Subbloque
Es un grupo de hosts y hardware de conectividad asociado que se encuentran en un solo bloque físico. En el contexto de las máquinas A5X, A4X Max y A4X, un subbloque también se conoce como dominio de NVLink.

Superblock
Es una agrupación física de máquinas interconectadas dentro de centros de datos. Si colocas máquinas dentro de un superbloque, lograrás la capacidad de procesamiento de red extrema y la latencia de menos de un milisegundo que se requieren para ejecutar cargas de trabajo de entrenamiento con acoplamiento alto.

Más información

En los siguientes documentos, se proporcionan más explicaciones de las terminologías que son relevantes para los temas correspondientes: