Las GPU agrupadas, como las series de máquinas A4X Max, A4X, A4, A3 Ultra, A3 Mega y A3 High (8 GPU), están diseñadas para permitirte ejecutar clústeres de inteligencia artificial (IA) y aprendizaje automático (AA) a gran escala, y proporcionan las siguientes capacidades de administración de clústeres:
- Colocación de infraestructura de GPU agrupadas
- Ubicación adaptada a la topología del clúster
- Modo operativo del clúster
- Programación y controles del mantenimiento de clústeres
- Herramientas de supervisión y diagnóstico de clústeres
Serie de máquinas compatible
Las capacidades de administración de clústeres que se describen en esta página están disponibles para la serie de máquinas de GPU agrupadas, que están optimizadas para cargas de trabajo de varios nodos a gran escala.
Estas funciones no se aplican a la serie de máquinas de GPU de uso general, que consta de recursos de procesamiento independientes que usan redes de VPC estándar y no admiten modos operativos de mantenimiento ni colocación densa.
En la siguiente tabla, se resumen las series de máquinas compatibles con AI Hypercomputer:
| Categoría | Series de máquinas | Admite la administración de clústeres |
|---|---|---|
| GPU agrupadas | A5X, A4X Max, A4X, A4, A3 Ultra, A3 Mega y A3 High | Sí |
| GPU generales | A3 Edge, A2, G2, G4, N1 | No |
Para obtener más información sobre cada serie de máquinas, consulta Acerca de los aceleradores de GPU.
La mayoría de las capacidades de administración de clústeres solo se admiten para la capacidad vinculada a reservas, es decir, la infraestructura que usa el modelo de aprovisionamiento vinculado a reservas, que solo admite tipos de máquinas de GPU agrupadas. Para la capacidad que usa cualquier otro modelo de aprovisionamiento, solo están disponibles las siguientes funciones de administración de clústeres:
- Colocación de recursos de infraestructura de IA
- Ubicación adaptada a la topología del clúster
- Administra los eventos del host en todas las instancias
Colocación de infraestructura de GPU agrupadas
Cuando usas GPU agrupadas, como A4X Max, A4X, A4, A3 Ultra, A3 Mega y A3 High (8 GPU), puedes solicitar máquinas host que Compute Engine aprovisiona lo más cerca posible. Estas máquinas ofrecen las siguientes características:
Compute Engine aprovisiona las máquinas como bloques de recursos.
Una estructura de red de aprendizaje automático (AA) dinámica interconecta las máquinas.
Esta disposición de recursos minimiza los saltos de red y optimiza la latencia de red más baja. Para implementar bloques de máquinas optimizadas para aceleradores que Compute Engine asigna de forma densa, puedes usar las siguientes opciones:
Los recursos deben asignarse de forma densa entre sí cuando realizas una o más de las siguientes acciones:
Crea recursos que usen la misma reserva futura en AI Hypercomputer o reserva futura en modo Calendario.
Implementa un grupo de instancias administrado (MIG) que use solicitudes de cambio de tamaño y crea los recursos en la misma solicitud.
Especifica que los recursos usen la misma política de posición compacta o de carga de trabajo que especifica un valor de distancia máxima. En particular, solo se requiere que los recursos estén tan cerca como lo especifica el valor de distancia máxima de la política.
De manera opcional, los recursos se asignan de forma densa entre sí, según la disponibilidad de mejor esfuerzo, cuando realizas una o más de las siguientes acciones:
Crea recursos en la misma solicitud para VMs de inicio flexible.
Especifica que los recursos usen la misma política de posición compacta o de carga de trabajo que no especifique una distancia máxima.
Colocación con reconocimiento de topología del clúster
Después de crear las GPU agrupadas, puedes obtener información de la topología a nivel de nodo y de clúster. Esta información te ayuda a hacer lo siguiente:
Ajusta el diseño de tu aplicación o carga de trabajo para minimizar aún más la latencia de la red.
Comprende y soluciona problemas de latencia y rendimiento de red en las instancias que se comunican con frecuencia entre sí. Estos problemas pueden ocurrir si las instancias se encuentran inesperadamente lejos unas de otras.
Específicamente, la compatibilidad con las capacidades de topología es la siguiente:
La información de la topología funciona mejor con la capacidad vinculada a la reserva, que es necesaria para ver la topología de una reserva.
Las capacidades de topología solo admiten tipos de máquinas que admiten políticas de posición compacta.
En el caso de las VMs Spot, la información de la topología solo aparece cuando una máquina usa una política de posición compacta.
Para obtener más información, consulta Visualiza la topología de las instancias de procesamiento.
Modo operativo del clúster
Cuando reservas capacidad para crear instancias de procesamiento o clústeres con GPU agrupadas, el tipo de máquina que reservas determina el modo operativo del clúster para las instancias. Este modo especifica cómo se comportan tus instancias después de errores de host o informes de host defectuosos. Los modos operativos disponibles para una instancia son el modo administrado, en el que Compute Engine reemplaza automáticamente cualquier máquina defectuosa, pero retiene parte de tu capacidad reservada para proporcionar a tus instancias los recursos necesarios para reiniciarse. O el modo de capacidad total, en el que tienes acceso a toda tu capacidad reservada, pero eres responsable de administrar las fallas y el mantenimiento planificado.
Para obtener más información, consulta Modo operativo de reserva.
Programación y controles de mantenimiento de clústeres
Controlas el mantenimiento de las GPU agrupadas con la programación basada en la topología en un bloque de recursos. Esta función ayuda a sincronizar las actualizaciones para que tus cargas de trabajo sean más resilientes a los eventos de host y se minimicen las interrupciones. Este enfoque ayuda a mejorar la tasa de transferencia útil de tu carga de trabajo.
Para facilitar el control total de los eventos de mantenimiento, puedes usar las siguientes funciones:
Tipo de programación del mantenimiento
Cuando reservas capacidad para crear instancias de procesamiento o clústeres de GPU agrupadas, puedes definir cómo Compute Engine mantiene la infraestructura en la que se ejecutan tus instancias. Según el tipo de máquina que quieras usar para tus instancias, puedes elegir entre el mantenimiento sincronizado en todas las instancias (agrupado) o diferentes programas de mantenimiento (independiente).
Para obtener más información, consulta Tipos de programación de mantenimiento.
Administra eventos de host
Después de crear las GPU agrupadas y de iniciar tu carga de trabajo, puedes configurar alertas y recibir notificaciones cuando se programe, inicie o complete el mantenimiento de tus instancias o bloques reservados. También puedes ver y, si es necesario, iniciar de forma manual el mantenimiento de una instancia o un bloque reservado antes de la hora programada. Estas opciones te ayudan a controlar y minimizar de forma proactiva los tiempos de inactividad de tus cargas de trabajo.
Para obtener más información, consulta lo siguiente:
Herramientas de supervisión y diagnóstico de clústeres
Para la supervisión y la solución de problemas, las GPU agrupadas incluyen los siguientes servicios:
Predicción de degradación del estado de la VM, que te ayuda a identificar las VMs que probablemente se degraden en las próximas cinco horas.
Informes de hosts defectuosos, que puedes usar para marcar problemas con máquinas host individuales.
Compatibilidad con las métricas de Cloud Monitoring, que te ayudan a supervisar el rendimiento de las redes y las GPU.