Ao criar um cluster do Serviço Gerenciado para Apache Spark, especifique uma região do Compute Engine como o local do cluster. Também é possível especificar uma zona nessa região ou omitir a zona para que o recurso de zona automática do Serviço Gerenciado para Apache Spark selecione uma zona para você na região especificada. Todos os nós do cluster são implantados na zona selecionada.
É possível excluir zonas dos critérios de seleção de zona automática se a região do cluster incluir pelo menos duas zonas não excluídas. Para mais informações, consulte Usar a colocação automática de zona.
Zona automática e reservas de recursos
A Zona Automática prioriza a criação de um cluster em uma zona com reservas de recursos, da seguinte maneira:
Se os recursos de cluster solicitados puderem ser totalmente atendidos por recursos reservados e, se necessário, sob demanda em uma zona, a Zona Automática vai consumir os recursos reservados e sob demanda e criar o cluster nessa zona.
A Zona Automática prioriza as zonas para seleção de acordo com o total de reservas de núcleos de CPU (
vCPU) em uma zona.Exemplo: uma solicitação de criação de cluster especifica 20
n2-standard-2e 1n2-standard-64(40 + 64vCPUssolicitados). A Zona Automática vai priorizar as seguintes zonas para seleção de acordo com o total de reservas de vCPU disponíveis na zona:zone-creservas disponíveis: 3n2-standard-2e 1n2-standard-64(70vCPUs)zone-breservas disponíveis: 1n2-standard-64(64vCPUs)zone-areservas disponíveis: 25n2-standard-2(50vCPUs)Supondo que cada uma dessas zonas tenha
vCPUsob demanda adicional e outros recursos suficientes para atender à solicitação do cluster, a Zona Automática vai selecionarzone-cpara a criação do cluster.
Se os recursos de cluster solicitados não puderem ser totalmente atendidos por recursos reservados e sob demanda em uma zona, a Zona Automática vai criar o cluster em uma zona com maior probabilidade de atender à solicitação usando recursos sob demanda.
Usar o posicionamento de zona automático
Console doGoogle Cloud
Para criar um cluster que use a colocação zona automática:
- No console do Google Cloud , abra a página Criar cluster.
- Na seção Definir o cluster, selecione uma Região.
- No campo Zona, selecione Qualquer uma.
Excluir zonas: não é possível especificar zonas para excluir da seleção de zona automática usando o console do Google Cloud . Esse recurso está disponível usando a Google Cloud CLI e a API REST.
CLI da gcloud
Para criar um cluster do Serviço Gerenciado para Apache Spark que use a colocação zona automática, use o comando
gcloud dataproc clusters create. Defina a flag --region como uma região. Em seguida,
omita a flag --zone ou defina-a --zone como
uma string vazia (--zone="").
--auto-zone-exclude-zones para especificar uma lista de zonas separada por vírgulas. A seleção zona automática vai escolher uma zona da região especificada,
mas excluir as zonas listadas dos critérios de seleção. É preciso que
haja pelo menos duas zonas não excluídas disponíveis na região do cluster.
Exemplos:
Uso básico da Zona Automática:
gcloud dataproc clusters create CLUSTER_NAME \ --region=REGION \ other args ...
Zona automática com zonas excluídas:
gcloud dataproc clusters create CLUSTER_NAME \ --region=REGION \ --auto-zone-exclude-zones=ZONE_1,ZONE_2 \ other args ...
API REST
Para criar um cluster do Serviço Gerenciado para Apache Spark que use a colocação de zona automática, construa uma solicitação de API JSON clusters.create, deixando o campo gceClusterConfig.zoneUri vazio. No endpoint REST,
https://dataproc.googleapis.com/v1/projects/projectId/regions/region/clusters, insira um nome de região. A zona automática do Serviço Gerenciado para Apache Spark vai escolher
uma zona para o cluster na região especificada.
Para excluir zonas específicas, preencha o campo gceClusterConfig.autoZoneExcludeZoneUris com uma lista de nomes de zonas a serem excluídas. É preciso que haja pelo menos duas zonas não excluídas disponíveis na região do cluster.
Use nomes de recursos curtos com a colocação de zona automática: ao especificar um URI de recurso, como machineTypeUri ou acceleratorTypeUri, em uma solicitação de criação de cluster da API REST de colocação de zona automática, use um nome de recurso curto sem uma especificação de zona, por exemplo, "n1-standard-2" ou "nvidia-tesla-t4".