Descripción general de la capacidad

GPU generales GPU agrupadas

AI Hypercomputer admite varias opciones de consumo para ayudarte a obtener y usar recursos de procesamiento. En este documento, se proporciona una descripción general de cómo puedes obtener capacidad para cada opción de consumo.

Cómo obtener capacidad

Si quieres obtener asistencia potenciada por IA para evaluar las opciones de adquisición de capacidad y los requisitos de cuota, ejecuta la siguiente instrucción en Compute Advisor:

agent_mode_2 Compute Advisor Compute Advisor es un asistente potenciado por IA al que puedes pedirle que te brinde recomendaciones personalizadas para tu infraestructura en función de información como tus límites de cuota, las reservas existentes y las restricciones de ubicación de los recursos.

Este mensaje evalúa las cuotas y las reservas existentes de tu proyecto, compara los pasos de adquisición de capacidad en las opciones de consumo y genera una tabla de Markdown con las acciones de cuota y reserva recomendadas.

Actúa como arquitecto de infraestructura de IA. Ayúdame a obtener capacidad de procesamiento en AI Hypercomputer según las cuotas de mi proyecto, las reservas activas y las regiones disponibles.

Proporciona lo siguiente:

1. Auditoría de cuotas y reservas del proyecto: Inspecciona las cuotas de GPU estándar y interrumpibles de mi proyecto, y las reservas activas en todas las regiones, y, luego, identifica qué series de máquinas de GPU tienen cuotas disponibles o reservas activas en comparación con las que requieren un aumento de cuota o una reserva.

2. Comparación de adquisición de capacidad: Compara las opciones de consumo actuales y disponibles en AI Hypercomputer y sus características específicas, incluidos los niveles de GPU compatibles (GPU agrupadas y GPU generales), los tipos de cuota requeridos, los plazos de entrega y los modelos de facturación, según mi proyecto y la serie de máquinas de mis VMs.

3. Ruta de adquisición recomendada: Recomienda la mejor ruta de adquisición de capacidad para cargas de trabajo de GPU agrupadas de larga duración, trabajos reservados a mediano plazo, trabajos densos de corta duración y, en general, implementaciones de GPU.

Dale formato de tabla de Markdown a la comparación (con columnas para la opción de consumo, las GPU compatibles, la cuota requerida y el modelo de facturación), proporciona un comando de gcloud CLI listo para usar para reservar capacidad o crear instancias, y finaliza con 2 o 3 preguntas sobre mi serie de GPU de destino, el recuento de nodos y la duración para definir mejor el plan de acción.

Act as an AI infrastructure architect. Help me obtain compute capacity in AI Hypercomputer based on my project's quotas, active reservations, and available regions.

Provide the following:

1. Project quota and reservation audit: Inspect my project's standard and preemptible GPU quotas and active reservations across regions, and identify which GPU machine series have available quota or active reservations compared to those that require a quota increase or reservation.

2. Capacity acquisition comparison: Compare current and available consumption options in AI Hypercomputer and their specific characteristics—including supported GPU tiers (clustered GPUs and general GPUs), required quota types, lead times, and billing models—based on my project and the machine series of my VMs.

3. Recommended acquisition path: Recommend the best capacity acquisition path for long-running clustered GPU workloads, medium-term reserved jobs, short-lived dense jobs, and general GPU deployments.

Format the comparison as a Markdown table (with columns for Consumption Option, Supported GPUs, Required Quota, and Billing Model), provide a ready-to-use gcloud CLI command to reserve capacity or create instances, and end with 2-3 questions about my target GPU series, node count, and duration to refine the action plan.

Editar y ejecutar instrucciones en Compute Advisor

En la siguiente tabla, se describe cómo puedes obtener capacidad para cada opción de consumo.

Opción de consumo	Proceso para obtener capacidad	Implicaciones de precios
Reservas futuras de más de 90 días (para bloques de capacidad)	Para obtener recursos de reservas futuras, el proceso es el siguiente: Comunícate con tu equipo de cuentas para reservar capacidad. Puedes solicitar solo instancias de procesamiento. Si tus cargas de trabajo requieren almacenamiento, también puedes solicitar un grupo de Hyperdisk con tus instancias de procesamiento. Google aumenta tu cuota y, luego, aprovisiona los recursos solicitados en la fecha y hora que especificaste. Cuando creas una instancia o un clúster de Compute Engine, especifica el modelo de aprovisionamiento vinculado a la reserva y las propiedades que coincidan con tus recursos reservados. Compute Engine aprovisiona instancias y clústeres de procesamiento con tu capacidad reservada.	Pagas por todo el período de reserva, sin importar si usas los recursos reservados o no. Para obtener más información, consulta los precios de las reservas y los grupos de almacenamiento.
Reservas futuras de hasta 90 días (en modo de calendario)	Para obtener recursos de reservas futuras, el proceso es el siguiente: Buscar capacidad disponible y reservar recursos. No se cobra ninguna cuota y no es necesario que realices ninguna acción. Cuando creas una instancia de procesamiento o un clúster, debes especificar el modelo de aprovisionamiento vinculado a la reserva. Las instancias y los clústeres de procesamiento se aprovisionan desde tu capacidad reservada.	Se te cobrará por todo el período de reserva, independientemente de si usas los recursos reservados durante todo el período. Para obtener más información, consulta Precios de Dynamic Workload Scheduler.
Inicio flexible	Para esta opción de consumo, no se requiere reserva. Para obtener recursos de inicio flexible, el proceso es el siguiente: Debes solicitar cuota interrumpible para el tipo de máquina de GPU que deseas usar. Cuando crees instancias o clústeres de procesamiento con una de las siguientes opciones, especifica el modelo de aprovisionamiento de inicio flexible: Crea una instancia de máquina virtual (VM) independiente Crea MIG con solicitudes de cambio de tamaño Crea clústeres de Slurm: Crear un clúster completamente administrado Crear un clúster autoadministrado Crea clústeres de GKE: Crea un clúster de GKE optimizado para IA con Cluster Toolkit Crear un clúster de GKE optimizado para IA que use A4 o A3 Ultra Cuando los recursos solicitados estén disponibles, Compute Engine aprovisionará tus VMs. Tus VMs se ejecutan durante un máximo de siete días.	Se te cobra cuando los recursos están en uso. Los recursos aprovisionados con el inicio flexible obtienen descuentos automáticamente a través de los precios del programador dinámico de cargas de trabajo.
A pedido	Para esta opción de consumo, la reserva de capacidad es opcional. Los recursos a pedido solo están disponibles para las GPU generales (como N1, G2, G4, A2 o A3 Edge). Para obtener estos recursos on-demand, el proceso es el siguiente: Solicita una cuota de GPU estándar para el tipo de máquina que deseas usar. Para obtener más información, consulta Solicita un aumento de la cuota. Verifica la disponibilidad consultando las regiones preferidas para tu hardware en la lista de disponibilidad de GPU por región y zona de Compute Engine. Crea una instancia de procesamiento o un clúster y especifica el modelo de aprovisionamiento estándar. Los recursos se aprovisionan de inmediato según la capacidad disponible. Nota: Para mejorar tus posibilidades de obtener capacidad de GPU general, te recomendamos que uses el inicio flexible. La opción de consumo de inicio flexible se diseñó específicamente para ayudarte a obtener recursos de alta demanda, como GPU, a un precio con descuento.	Se aplican las tarifas estándar a pedido mientras los recursos están en uso.
Reservas según demanda	Las reservas según demanda (a veces denominadas reservas) solo están disponibles para las GPU generales (como G2, G4, A2 o A3 Edge). Para reservar capacidad, el proceso es el siguiente: Solicita una cuota de GPU estándar para tu tipo de máquina. Para obtener más detalles, consulta Solicita un aumento de la cuota. Crea una reserva según demanda para tu tipo de VM y GPU específico con la consola de Google Cloud , gcloud CLI o algún otro método. Para obtener detalles sobre todos los métodos para crear reservas, consulta Crea una reserva para un solo proyecto. Aprovisiona tus recursos creando una instancia o un clúster y orientándolos a tu reserva específica.	Se aplican las tarifas estándar durante todo el período de reserva. Aplica CUD para obtener ahorros significativos.
Reservas futuras estándar	En esta opción de consumo, reservas capacidad para una fecha futura. Las reservas futuras estándar usan el modelo de aprovisionamiento estándar y solo están disponibles para las GPU generales. Solicita una cuota de GPU estándar para tu tipo de máquina. Para obtener más información, consulta Solicita un aumento de la cuota. Crea una solicitud de reserva futura para tu tipo de VM y GPU específico. Cuando la reserva alcance su hora de inicio, crea instancias de procesamiento con tu capacidad reservada. Precaución: Debes tener suficiente cuota para los recursos solicitados tanto cuando envíes tu solicitud de reserva a Google Cloud para su revisión como cuando tu solicitud alcance su hora de inicio después de la aprobación. Si te falta cuota, es posible que Google Cloud rechace tu solicitud o aprovisione solo una parte de los recursos solicitados en la hora de inicio.	Se aplican las tarifas estándar durante todo el período de reserva. Aplica CUD para obtener ahorros significativos.
Spot	Para esta opción de consumo, no se requiere reserva. Para obtener recursos Spot, el proceso es el siguiente: Debes solicitar cuota interrumpible para el tipo de máquina de GPU que deseas usar. Consulta la disponibilidad de recursos en la región o zona en la que deseas crear instancias de procesamiento. Cuando creas una instancia o un clúster de procesamiento, especifica el modelo de aprovisionamiento Spot. Los recursos se aprovisionan a medida que la capacidad está disponible, pero se pueden interrumpir en cualquier momento.	Se te cobra cuando los recursos están en uso. Las VMs Spot obtienen descuentos automáticamente a través de los precios de las VMs Spot.

¿Qué sigue?

• Para revisar las opciones disponibles para consumir recursos, consulta Modelos de consumo.
• Para implementar tu infraestructura, consulta Crea una instancia o un clúster de Compute Engine.
• Para reservar recursos para tus cargas de trabajo, consulta Reserva capacidad.
• Para verificar dónde están disponibles las GPUs específicas, consulta Disponibilidad de GPUs por región y zona.