Implementa cargas de trabajo

Un operador de cargas de trabajo puede pasar opciones a una instancia de VM de carga de trabajo de Confidential Space para determinar su comportamiento antes de que se ejecute. Si bien algunas marcas tienen valores obligatorios que no cambian, debes tomar las siguientes decisiones:

  • Si se debe basar la instancia de VM en una imagen de Confidential Space de producción o de depuración.

  • Si deseas usar AMD SEV, Intel TDX o Intel TDX con Confidential Computing de NVIDIA para ayudar a mantener la privacidad de los datos de tu carga de trabajo.

  • Qué variables de metadatos de VM se deben pasar, lo que incluye detalles como qué imagen de contenedor de carga de trabajo se debe ejecutar, qué servicio de certificación se debe usar, si se debe registrar en Cloud Logging y qué variables de entorno se deben configurar.

  • Qué cuenta de servicio se debe conectar a la VM para ejecutar la carga de trabajo y qué permisos necesita para acceder a los datos confidenciales en otros proyectos y escribir los resultados en algún lugar.

  • En qué zona se debe ejecutar la instancia de VM.

Este es un ejemplo que crea una Confidential VM y ejecuta un contenedor de Docker llamado WORKLOAD_CONTAINER_NAME:

Cargas de trabajo basadas en CPU

gcloud compute instances create INSTANCE_NAME \
    --confidential-compute-type=CONFIDENTIAL_COMPUTING_TECHNOLOGY \
    --machine-type=MACHINE_TYPE_NAME \
    --maintenance-policy=MAINTENANCE_POLICY \
    --shielded-secure-boot \
    --image-project=confidential-space-images \
    --image-family=IMAGE_FAMILY \
    --metadata="^~^tee-image-reference=us-docker.pkg.dev/WORKLOAD_AUTHOR_PROJECT_ID/REPOSITORY_NAME/WORKLOAD_CONTAINER_NAME:latest" \
    --service-account=WORKLOAD_SERVICE_ACCOUNT_NAME@WORKLOAD_OPERATOR_PROJECT_ID. \
    --scopes=cloud-platform \
    --zone=ZONE_NAME \
    --project=PROJECT_ID

Ingresa los siguientes valores:

  • INSTANCE_NAME: Es el nombre de la instancia de VM nueva.

  • CONFIDENTIAL_COMPUTING_TECHNOLOGY: Es el tipo de tecnología de Confidential Computing que se usará. Elige uno de los siguientes valores:

    • SEV

    • TDX

  • MACHINE_TYPE_NAME: Es el tipo de máquina de la VM, por ejemplo, n2d-standard-2. Los tipos de máquinas válidos para las instancias de Confidential VM se determinan según la tecnología de Confidential Computing que hayas elegido, ya sea AMD SEV o Intel TDX. Consulta Tipos de máquinas.

  • MAINTENANCE_POLICY: En el caso de los tipos de máquinas N2D que usan SEV, establece este valor en MIGRATE para que sea compatible con la migración en vivo. Para todos los demás tipos de máquinas, establece este valor en TERMINATE, ya que no admiten la migración en vivo.

  • IMAGE_FAMILY_NAME: Es la familia de las imágenes de Confidential Space. Elige una de estas opciones:

    • confidential-space para cargas de trabajo de producción

    • confidential-space-debug para cargas de trabajo de depuración

  • Variables de metadatos adicionales, que cambian el comportamiento de la VM, incluido el servicio de certificación que se usará.

  • WORKLOAD_AUTHOR_PROJECT: Es el ID del proyecto que aloja el repositorio de Artifact Registry en el que se almacena el contenedor de la carga de trabajo.

  • REPOSITORY_NAME: Es el nombre del repositorio de Artifact Registry en el que se almacena el contenedor de la carga de trabajo.

  • WORKLOAD_CONTAINER_NAME: Es el nombre del contenedor de la carga de trabajo.

  • WORKLOAD_SERVICE_ACCOUNT_NAME: Es el nombre de la cuenta de servicio que ejecuta la carga de trabajo.

  • WORKLOAD_OPERATOR_PROJECT_ID: Es el ID del proyecto que ejecuta la carga de trabajo.

  • ZONE_NAME: Es la zona en la que se ejecuta la instancia de VM, por ejemplo, us-west1-b. Confidential Space requiere los siguientes servicios, que están disponibles en ubicaciones específicas:

  • PROJECT_ID: Opcional Es el ID del proyecto en el que se creará la instancia de VM.

Cargas de trabajo basadas en GPU

Antes de comenzar

  • Confidential Space solo admite Confidential Computing de NVIDIA en GPU H100.

  • A fin de asegurarte de que tienes suficiente cuota de GPU para los recursos que solicitas, verifica tu cuota de GPU. En el caso de las instancias de Confidential VM con GPU, solicita una cuota de GPU interrumpible para usar los recursos. Cuando solicitas una cuota de GPU, debes especificar una cuota de los modelos de GPU que quieres crear en cada región, así como indicar la cuota global adicional (GPUs (all regions)) con la cantidad total de GPU de los tipos de todas las regiones.

  • Para comprender el consumo de cuotas, consulta VMs de GPU y cuotas de asignación interrumpibles.

  • Lee las limitaciones para crear una solicitud de cambio de tamaño en un MIG.

  • Para instalar los controladores necesarios para Confidential Computing de NVIDIA, debes pasar la variable de metadatos tee-install-gpu-driver con un valor de true.

  • Para los controladores de NVIDIA y el kit de herramientas de CUDA, se recomienda un disco de arranque de VM con 30 GB o más de espacio.

  • Para usar aplicaciones CUDA, las bibliotecas de NVIDIA CUDA-X deben estar disponibles en la imagen de contenedor que usas. Para incluir las bibliotecas, realiza una de las siguientes acciones:

    • Usa una imagen de contenedor con bibliotecas NVIDIA CUDA-X preinstaladas. Por ejemplo, puedes usar los contenedores de aprendizaje profundo de Google para frameworks de ciencia de datos preinstalados, bibliotecas de NVIDIA CUDA-X y herramientas adicionales. Como alternativa, puedes usar la imagen de contenedor de CUDA de NVIDIA solo para las bibliotecas de NVIDIA CUDA-X.

    • Compila y usa tu propia imagen de contenedor. Establece la variable de entorno LD_LIBRARY_PATH en /usr/local/nvidia/lib64, que debe contener las bibliotecas y los controladores de dispositivos de NVIDIA CUDA-X.

Problemas conocidos

  • Cuando ejecutas una carga de trabajo de Confidential Space con una GPU NVIDIA H100 conectada, es posible que veas el siguiente mensaje de error:

    failed to get launchspec, make sure you're running inside
    a GCE VM: GPU Driver installation is not supported.
    

    Este es un problema conocido con la imagen de Confidential Space. Para solucionar el problema, reinicia la Confidential VM.

Implementa una carga de trabajo basada en GPU

Para implementar una carga de trabajo basada en GPU, debes crear una instancia de Confidential VM con el modelo de aprovisionamiento spot o inicio flexible.

Spot

Para usar el modelo de aprovisionamiento Spot, crea una instancia de VM optimizada para aceleradores.

gcloud compute instances create INSTANCE_NAME \
    --provisioning-model=SPOT \
    --confidential-compute-type=TDX \
    --machine-type=a3-highgpu-1g \
    --maintenance-policy=TERMINATE \
    --shielded-secure-boot \
    --image-project=confidential-space-images \
    --image-family=IMAGE_FAMILY_NAME \
    --metadata="^~^tee-image-reference=us-docker.pkg.dev/WORKLOAD_AUTHOR_PROJECT_ID/REPOSITORY_NAME/WORKLOAD_CONTAINER_NAME:latest~tee-install-gpu-driver=true" \
    --service-account=WORKLOAD_SERVICE_ACCOUNT_NAME@WORKLOAD_OPERATOR_PROJECT_ID. \
    --scopes=cloud-platform \
    --boot-disk-size=30G \
    --zone=ZONE_NAME \
    --project=PROJECT_ID

Ingresa los siguientes valores:

  • INSTANCE_NAME: Es el nombre de la instancia de VM nueva.

  • IMAGE_FAMILY_NAME: Es la familia de las imágenes de Confidential Space. Elige una de estas opciones:

    • confidential-space para cargas de trabajo de producción

    • confidential-space-debug para cargas de trabajo de depuración

  • Variables de metadatos adicionales, que cambian el comportamiento de la VM, incluido el servicio de certificación que se usará.

  • WORKLOAD_AUTHOR_PROJECT: Es el ID del proyecto en el que se ejecuta la carga de trabajo.

  • REPOSITORY_NAME: Es el nombre del repositorio de Artifact Registry.

  • WORKLOAD_CONTAINER_NAME: Es el nombre del contenedor de la carga de trabajo.

  • WORKLOAD_SERVICE_ACCOUNT_NAME: Es el nombre de la cuenta de servicio que ejecuta la carga de trabajo.

  • WORKLOAD_OPERATOR_PROJECT_ID: Es el ID del proyecto que ejecuta la carga de trabajo.

  • ZONE_NAME: Es una de las zonas que admiten Confidential Computing de NVIDIA.

  • PROJECT_ID: Opcional Es el ID del proyecto en el que se creará la instancia de VM.

Inicio flexible

Para usar el modelo de aprovisionamiento de inicio flexible, crea una plantilla de instancias seguida de un grupo de instancias administrado (MIG).

  1. Crea una plantilla de instancias:

    gcloud beta compute instance-templates create INSTANCE_TEMPLATE_NAME \
        --provisioning-model=FLEX_START \
        --confidential-compute-type=TDX \
        --machine-type=a3-highgpu-1g \
        --maintenance-policy=TERMINATE \
        --shielded-secure-boot \
        --image-project=confidential-space-images \
        --image-family=IMAGE_FAMILY_NAME \
        --metadata="^~^tee-image-reference=us-docker.pkg.dev/WORKLOAD_AUTHOR_PROJECT_ID/REPOSITORY_NAME/WORKLOAD_CONTAINER_NAME:latest~tee-install-gpu-driver=true" \
        --service-account=WORKLOAD_SERVICE_ACCOUNT_NAME@WORKLOAD_OPERATOR_PROJECT_ID. \
        --scopes=cloud-platform \
        --boot-disk-size=30G \
        --max-run-duration=RUN_DURATION \
        --instance-termination-action=DELETE \
        --project=PROJECT_ID
    

    Ingresa los siguientes valores:

    • INSTANCE_TEMPLATE_NAME: Es el nombre de la plantilla de instancias de VM nueva.

    • IMAGE_FAMILY_NAME: Es la familia de las imágenes de Confidential Space. Elige una de estas opciones:

      • confidential-space para cargas de trabajo de producción

      • confidential-space-debug para cargas de trabajo de depuración

    • WORKLOAD_AUTHOR_PROJECT: Es el ID del proyecto en el que se ejecuta la carga de trabajo.

    • REPOSITORY_NAME: Es el nombre del repositorio de Artifact Registry.

    • WORKLOAD_CONTAINER_NAME: Es el nombre del contenedor de la carga de trabajo.

    • WORKLOAD_SERVICE_ACCOUNT_NAME: Es el nombre de la cuenta de servicio que ejecuta la carga de trabajo.

    • WORKLOAD_OPERATOR_PROJECT_ID: Es el ID del proyecto que ejecuta la carga de trabajo.

    • RUN_DURATION: Es la duración que deseas que se ejecuten las instancias de VM solicitadas. Debes dar formato al valor como la cantidad de días, horas, minutos o segundos, seguidos de d, h, m o s, respectivamente. Por ejemplo, especifica 30m para 30 minutos o 1d2h3m4s para un día, dos horas, tres minutos y cuatro segundos. El valor debe ser de entre 10 minutos y siete días.

    • PROJECT_ID: Opcional Es el ID del proyecto en el que se crearán las instancias de VM.

  2. Crea un MIG zonal con el comando instance-groups managed create:

    gcloud compute instance-groups managed create INSTANCE_GROUP_NAME \
        --template=INSTANCE_TEMPLATE_NAME \
        --size=0 \
        --zone=ZONE_NAME \
        --default-action-on-vm-failure=do_nothing
    

    Ingresa los siguientes valores:

  3. En el MIG, crea una solicitud de cambio de tamaño. Especifica la cantidad de instancias de VM de GPU que deseas y la duración de la ejecución de esas instancias de VM.

    gcloud compute instance-groups managed resize-requests create INSTANCE_GROUP_NAME \
        --resize-request=RESIZE_REQUEST_NAME \
        --resize-by=COUNT \
        --zone=ZONE_NAME
    

    Ingresa los siguientes valores:

    • INSTANCE_GROUP_NAME: el nombre del MIG

    • INSTANCE_TEMPLATE_NAME: Es el nombre de la plantilla de instancias para las instancias de VM de GPU.

    • ZONE_NAME: Es una de las zonas que admiten Confidential Computing de NVIDIA.

    • RESIZE_REQUEST_NAME: Es el nombre de la solicitud de cambio de tamaño.

    • COUNT: Es la cantidad de instancias de VM que se agregarán a la vez en el grupo.

    La solicitud de cambio de tamaño que creas permanece en el estado ACCEPTED hasta que el MIG crea todas las instancias de VM de GPU solicitadas. Después de crear todas las instancias de VM de GPU en el grupo, el estado de la solicitud cambia a SUCCEEDED.

  4. Cuando hay suficientes recursos disponibles para la solicitud de cambio de tamaño, se agregan instancias de VM al MIG y se inician para ejecutar tu carga de trabajo. Para enumerar las instancias que están presentes en el MIG, ejecuta el siguiente comando:

    gcloud compute instance-groups managed list-instances INSTANCE_GROUP_NAME \
        --zone=ZONE_NAME \
        --project=PROJECT_ID
    

    Ingresa los siguientes valores:

    • INSTANCE_GROUP_NAME: el nombre del MIG

    • ZONE_NAME: Es la zona compatible de la que se obtiene una lista de instancias de VM.

    • PROJECT_ID: Opcional Es el ID del proyecto del que se obtendrá una lista de instancias de VM.

La cuenta de servicio conectada

Se debe conectar una cuenta de servicio a la Confidential VM de una carga de trabajo para ejecutarla. La cuenta de servicio debe configurarse de la siguiente manera:

  • Con los siguientes roles:

  • Con acceso de lectura a la ubicación en la que los colaboradores de datos almacenan sus datos confidenciales, por ejemplo, un bucket de Cloud Storage o una tabla de BigQuery.

  • Con acceso de escritura al lugar en el que la carga de trabajo genera los datos, por ejemplo, un bucket de Cloud Storage. Los colaboradores de datos deben tener acceso de lectura a esta ubicación.

Además, los colaboradores de datos y los operadores de cargas de trabajo deben configurar lo siguiente:

  • Si los colaboradores de datos usan la identidad temporal como cuenta de servicio en lugar del acceso directo a los recursos, deben agregar la cuenta de servicio a su proveedor de grupos de identidades para cargas de trabajo como una condición de atributo:

    'WORKLOAD_SERVICE_ACCOUNT_NAME@DATA_COLLABORATOR_PROJECT_ID.' in assertion.google_service_accounts
    
  • El operador de carga de trabajo necesita el rol roles/iam.serviceAccountUser para actuar en nombre de la cuenta de servicio. Esto les permite adjuntarla a una instancia de VM de carga de trabajo para que pueda ejecutar la carga de trabajo.

Variables de metadatos

Puedes cambiar el comportamiento de la VM de carga de trabajo de Confidential Space pasando variables a la opción --metadata cuando creas la VM.

Para pasar varias variables, primero establece el delimitador anteponiendo ^~^ al valor de --metadata. Esto establece el delimitador en ~, ya que , se usa en los valores de las variables.

Por ejemplo:

metadata="^~^tee-restart-policy=Always~tee-image-reference=us-docker.pkg.dev/WORKLOAD_AUTHOR_PROJECT_ID/REPOSITORY_NAME/WORKLOAD_CONTAINER_NAME:latest"

En la siguiente tabla, se detallan las variables de metadatos que puedes configurar para tu VM de carga de trabajo.

Clave de metadatos Tipo Descripción y valores

tee-image-reference

Interactúa con lo siguiente:

String

Obligatorio. Esto apunta a la ubicación del contenedor de la carga de trabajo.

Ejemplo
tee-image-reference=us-docker.pkg.dev/WORKLOAD_AUTHOR_PROJECT_ID/REPOSITORY_NAME/WORKLOAD_CONTAINER_NAME:latest

ita-api-key

String

Solo es obligatorio si usas Intel Trust Authority como tu servicio de certificación. Establece el valor en tu clave de API de Intel Trust Authority.

Consulta la documentación de Intel para saber cómo crear una clave de API de Intel Trust Authority.

Intel Trust Authority admite instancias de VM de Intel TDX que, de manera opcional, tienen una GPU NVIDIA H100. Si la GPU está presente, también se verifica su evidencia.

Ejemplo
ita-api-key=API_KEY

ita-region

String

Solo es obligatorio si usas Intel Trust Authority como tu servicio de certificación. Establece el valor en la región en la que deseas que se ejecute Intel Trust Authority. Las regiones válidas son las siguientes:

  • EE.UU.: https://api.trustauthority.intel.com
  • Europa: https://api.eu.trustauthority.intel.com

Intel Trust Authority admite instancias de VM de Intel TDX que, de manera opcional, tienen una GPU NVIDIA H100. Si la GPU está presente, también se verifica su evidencia.

Ejemplo
ita-region=REGION_NAME

tee-added-capabilities

Interactúa con lo siguiente:

Array de cadenas JSON

Agrega capacidades de Linux adicionales al contenedor de la carga de trabajo.

Ejemplo
tee-added-capabilities="[\"CAP_SYS_ADMIN\", \"CAP_SYS_CHROOT\"]"

tee-cgroup-ns

Interactúa con lo siguiente:

  • Autor de la carga de trabajo: Es la política de lanzamiento de allow_cgroups.
Booleano

La configuración predeterminada es false. Cuando se establece en true, habilita una activación de cgroup con espacio de nombres en /sys/fs/cgroup.

Ejemplo
tee-cgroup-ns=true

tee-cmd

Interactúa con lo siguiente:

Array de cadenas JSON

Anula las instrucciones de CMD especificadas en el Dockerfile del contenedor de carga de trabajo.

Ejemplo
tee-cmd="[\"params1\", \"params2\"]"

tee-container-log-redirect

Interactúa con lo siguiente:

  • Autor de la carga de trabajo: Es la política de lanzamiento de log_redirect.
Enumeration

Envía STDOUT y STDERR del contenedor de la carga de trabajo a Cloud Logging o a la consola en serie, con el campo confidential-space-launcher.

Los valores válidos son los siguientes:

  • false: (predeterminado) No se produce ningún registro.
  • true: genera resultados en la consola en serie y en Cloud Logging.
  • cloud_logging: Solo se envía a Cloud Logging.
  • serial: Solo genera resultados en la consola en serie.

Un volumen alto de registros en la consola en serie puede afectar el rendimiento de la carga de trabajo.

Ejemplo
tee-container-log-redirect=true

tee-dev-shm-size-kb

Número entero

Establece el tamaño en kB de la activación de la memoria compartida de /dev/shm.

Ejemplo
tee-dev-shm-size-kb=65536

tee-env-ENVIRONMENT_VARIABLE_NAME

Interactúa con lo siguiente:

String

Configura las variables de entorno en el contenedor de carga de trabajo. El autor de la carga de trabajo también debe agregar los nombres de variable de entorno a la política de lanzamiento de allow_env_override; de lo contrario, no se establecerán.

Ejemplo
tee-env-example-env-1='value-1'~tee-env-example-env-2='value-2'

tee-impersonate-service-accounts

Interactúa con lo siguiente:

String

Es una lista de cuentas de servicio que el operador de carga de trabajo puede suplantar. El operador de carga de trabajo debe tener la identidad de las cuentas de servicio.

Se pueden enumerar varias cuentas de servicio, separadas por comas.

Ejemplo
tee-impersonate-service-accounts=SERVICE_ACCOUNT_NAME_1@WORKLOAD_OPERATOR_PROJECT_ID.,SERVICE_ACCOUNT_NAME_2@WORKLOAD_OPERATOR_PROJECT_ID.

tee-install-gpu-driver

Interactúa con lo siguiente:

Booleano

Indica si se debe instalar el controlador de GPU de Confidential Computing de NVIDIA. Requiere un tipo de máquina que admita Confidential Computing de NVIDIA.

Ejemplo
tee-install-gpu-driver=true

tee-monitoring-memory-enable

Interactúa con lo siguiente:

Booleano

La configuración predeterminada es false. Cuando se establece en true, se habilita la supervisión del uso de memoria. Las métricas que recopila la Confidential VM son del tipo guest/memory/bytes_used y se pueden ver en Cloud Logging o Explorador de métricas.

Ejemplo
tee-monitoring-memory-enable=true

tee-mount

Interactúa con lo siguiente:

String

Es una lista de definiciones de activación separadas por punto y coma. Una definición de activación consiste en una lista separada por comas de pares clave-valor, que requiere type, source y destination. destination debe ser una ruta de acceso absoluta y type/source debe ser tmpfs.

Ejemplo
type=tmpfs,source=tmpfs,destination=/tmp/tmpfs,size=12345;type=tmpfs,source=tmpfs,destination=/run/workload

tee-nonroot-container

Interactúa con lo siguiente:

Booleano

La configuración predeterminada es false. Cuando se establece en true, el contenedor se ejecuta en un espacio de nombres de usuario aislado como un usuario no raíz en la VM host. Esta variable se debe establecer en true si el autor de la carga de trabajo establece tee.launch_policy.nonroot_container en nonrootonly.

Ejemplo
tee-nonroot-container=true

tee-restart-policy

Interactúa con lo siguiente:

Enumeration

Es la política de reinicio del selector de contenedores cuando se detiene la carga de trabajo.

Los valores válidos son los siguientes:

  • Never (predeterminada)
  • Always
  • OnFailure

Esta variable solo es compatible con la imagen de Confidential Space de producción.

Ejemplo
tee-restart-policy=OnFailure

tee-signed-image-repos

Interactúa con lo siguiente:

String

Es una lista de repositorios de contenedores separados por comas que almacenan las firmas que genera Sigstore Cosign.

Ejemplo
tee-signed-image-repos=us-docker.pkg.dev/projectA/repo/example,us-docker.pkg.dev/projectB/repo/example,us-docker.pkg.dev/projectC/repo/example

Escalamiento

Para escalar y lograr una alta disponibilidad de las cargas de trabajo de Confidential Space de producción, consulta Grupos de instancias administrados.