En este documento, se explica cómo planificar y diseñar tus instancias o clústeres de GPU con instrucciones para Compute Advisor, una interfaz potenciada por IA que funciona con Gemini. Para obtener más información sobre los componentes que debes configurar antes o cuando creas un clúster, consulta Planifica y crea tu infraestructura de IA.
Compute Advisor te ayuda a evaluar las opciones de hardware, estimar los costos de implementación y ver las configuraciones recomendadas para tus clústeres. Para adaptar sus recomendaciones, Compute Advisor evalúa tu proyecto deGoogle Cloud verificando tus límites de cuota, las reservas existentes, los descuentos por compromiso de uso (CUD), la región y la zona predeterminadas, y cualquier restricción de ubicación de recursos. Si usas Compute Advisor para que te ayude con la planificación, puedes alcanzar una configuración óptima para tu carga de trabajo antes de crear o modificar un clúster.
Limitaciones
Cuando envías instrucciones a Compute Advisor en la consola de Google Cloud , no puedes crear, modificar ni borrar recursos directamente.
Antes de comenzar
Cuando usas la consola de Google Cloud para acceder a los servicios y las APIs de Google Cloud , no necesitas configurar la autenticación.
Roles obligatorios
Para obtener los permisos que
necesitas para acceder a Gemini y enviarle instrucciones,
pídele a tu administrador que te otorgue el rol de IAM de
visualizador de Cluster Director (roles/hypercomputecluster.viewer) en el proyecto.
Para obtener más información sobre cómo otorgar roles, consulta Administra el acceso a proyectos, carpetas y organizaciones.
Este rol predefinido contiene los permisos necesarios para acceder a Gemini y enviarle instrucciones. Para ver los permisos exactos que son necesarios, expande la sección Permisos requeridos:
Permisos necesarios
Se requieren los siguientes permisos para acceder a Gemini y enviarle instrucciones:
-
Para ver una lista de clústeres, haz lo siguiente:
hypercomputecluster.clusters.list
También puedes obtener estos permisos con roles personalizados o con otros roles predefinidos.
Accede a Compute Advisor en la consola de Google Cloud
Para acceder a Compute Advisor en la consola de Google Cloud , completa los siguientes pasos:
En la consola de Google Cloud , ve a la página Compute Advisor.
Cuando la página esté lista, podrás ver lo siguiente:
Los elementos de la IU que se muestran en la captura de pantalla anterior son los siguientes:
Panel lateral del historial de conversaciones: Muestra tus chats recientes. Puedes interactuar con este panel de la siguiente manera:
Para iniciar una conversación nueva, haz clic en Nuevo chat.
Para reanudar una conversación reciente, en la sección Chats recientes, haz clic en la conversación.
Para ver una lista de todas tus conversaciones, haz clic en Ver todas. En la página Mi historial, puedes ver los detalles de una conversación anterior y reanudarla, o borrar conversaciones si ya no las necesitas.
Tarjetas de instrucciones de acción rápida: Un conjunto de tarjetas que contienen una instrucción de ejemplo cada una. Si haces clic en una tarjeta, la consola de Google Cloud propaga automáticamente el cuadro de instrucción con la instrucción de ejemplo.
Cuadro de instrucción: Este campo te permite ingresar y enviar instrucciones. Para enviar una instrucción, haz clic en Enviar instrucción.
Instrucción para Compute Advisor
Después de enviar una instrucción, Compute Advisor comienza a generar una respuesta. Aparecerá un panel y la consola de Google Cloud mostrará la respuesta a tu instrucción en el panel, como se muestra en la siguiente captura de pantalla:
Según tu instrucción, el panel de respuesta incluye los siguientes elementos:
Fundamentación contextual: Compute Advisor evalúa automáticamente el contexto de tu proyecto para ofrecer recomendaciones muy personalizadas, incluidos los límites de cuota, las reservas existentes, los CUD, la región y la zona predeterminadas, y cualquier restricción de ubicación de los recursos.
Fragmentos de código interactivos: Compute Advisor genera comandos de gcloud, métodos de la API de REST o recursos de Terraform. Puedes copiar y pegar estos fragmentos de código o ejecutarlos en Cloud Shell.
Lienzo visual: Compute Advisor organiza las recomendaciones en tablas estructuradas y comparaciones en paralelo. Esta vista te ayuda a evaluar las funciones de los productos y los enfoques de arquitectura. También proporciona un plan de implementación para tu caso de uso.
En las siguientes secciones, se describen las prácticas recomendadas para escribir instrucciones y ejemplos de instrucciones que puedes usar antes de crear o modificar un clúster.
Prácticas recomendadas para escribir instrucciones
Para obtener las recomendaciones más precisas y prácticas de Compute Advisor, te recomendamos que estructures tus instrucciones de la misma manera que lo harías con un bloque de código. Este enfoque guía a la IA generativa con declaraciones de parámetros claras, definiciones de roles, instrucciones específicas y formatos de salida explícitos.
Cuando envíes instrucciones a Compute Advisor, ten en cuenta las siguientes prácticas recomendadas:
Enfócate en el diseño y la planificación: Te recomendamos que no le pidas a Compute Advisor que solucione problemas de errores del clúster. Para resolver estos errores, consulta Soluciona problemas relacionados con la creación, actualización y eliminación de instancias de procesamiento.
Especifica una personificación o un rol: Declara un rol o una personificación de destino, como un administrador de TI, un investigador de IA o un ingeniero de plataformas, para que Compute Advisor los adopte. Este enfoque guía el tono, la profundidad y el nivel de experiencia de las recomendaciones resultantes.
Proporciona instrucciones explícitas y numeradas: Desglosa tu objetivo en preguntas o tareas concretas y paso a paso. Este enfoque estructura el proceso de razonamiento de Compute Advisor y ayuda a garantizar que Compute Advisor aborde todos tus requisitos.
Define un formato de salida específico: Indica de forma explícita cómo quieres que se formatee la recomendación, como una explicación de la guía, una tabla de comparación de Markdown o un bloque de código de gcloud listo para usar.
Aprovecha la fundamentación automática del contexto: No necesitas incluir tu región o zona predeterminadas, las cuotas disponibles, los CUD ni las restricciones de ubicación de los recursos en tu instrucción. Compute Advisor puede acceder a esta información en tu proyecto de Google Cloud .
Define tus diseños de forma iterativa: Puedes modificar o expandir la respuesta que generó Compute Advisor enviando nuevas instrucciones. Por ejemplo, puedes pedirle al asistente que agregue recomendaciones de redes a tu plan de implementación o que modifique los requisitos de almacenamiento sin iniciar una conversación nueva.
Ejemplos de instrucciones
Los siguientes son ejemplos de instrucciones que puedes usar para diseñar y optimizar tu clúster:
Topología del clúster y estrategia de ubicación: Para determinar el modelo de implementación y la política de ubicación óptimos para una carga de trabajo de IA de alto rendimiento, usa una instrucción como la siguiente:
Act as an AI researcher. I need to design a GPU cluster topology in Cluster Director to train a foundation large language model that maximizes ML goodput and secures accelerator capacity. Please provide the following: 1. A comparison of clustered GPU machine series across available regions. 2. An explanation of how compact placement policies and workload policies reduce network latency and boost goodput. 3. The optimal configuration for future reservations in AI Hypercomputer to secure capacity for this workload. Format the comparison as a Markdown table, and provide the deployment steps as a ready-to-use gcloud code block.Modelo de aprovisionamiento y optimización de costos: Para evaluar los modelos de aprovisionamiento y reducir los costos del procesamiento por lotes, usa una instrucción como la siguiente:
Act as an IT administrator. I need to select the most cost-effective consumption option to run large fault-tolerant AI batch jobs on clusters in Cluster Director without data loss. Please provide the following: 1. A cost and availability comparison of Flex-start VMs against Spot VMs for AI workloads. 2. An explanation of how atomic allocation in Flex-start VMs provisions all accelerator nodes at the exact same time. 3. A cluster configuration with checkpoint storage to save model state before Compute Engine reclaims a Spot VM. Format the comparison as a Markdown table, and provide the configuration steps to complete in the Google Cloud console.
¿Qué sigue?
Para revisar cómo obtener capacidad y cuota en AI Hypercomputer, consulta Descripción general de la capacidad.
Para comparar las opciones de aceleradores y seleccionar la serie de GPU adecuada, consulta Elige entre GPUs generales y GPUs agrupadas.
Para seleccionar herramientas y crear tu clúster, consulta Descripción general de las opciones de implementación.