创建和管理端点

本页面介绍了如何创建和管理 Google Distributed Cloud Connected 上的 Gemini API 端点。

前提条件

本部分介绍了在 GDC 连接的 API 端点上部署 Gemini 之前必须完成的一次性步骤。请在启动机器上完成这些步骤。

您必须使用具有 Edge Container Zone Viewer 角色的 IT 管理员账号完成此部分中的步骤。完成此部分中的步骤后，请将收集的信息（包括 CA 证书和 DNS 服务器 IP 地址）提供给 Google Cloud 项目管理员，以便其按照部署连接到 GDC 的 Gemini API 端点中所述部署端点。

完成硬件启动

在完成本页面上的步骤之前，您必须：

  • 按照安装要求中的说明成功部署经过 Google 认证的硬件。

  • 与您的 Google 代表合作，创建所需的 Distributed Cloud connected 集群。

授予所需角色

您必须配置以下必需的角色：

获取有关目标 Distributed Cloud connected 可用区的信息

如需获取目标 Distributed Cloud connected 可用区的名称，请执行以下操作：

  1. 获取目标 Google Cloud 组织 ID 的名称：

    gcloud organizations list

  2. 列出 Google Cloud 组织中的 Distributed Cloud connected 可用区：

    gcloud alpha edge-cloud zones list \
   --organization ORGANIZATION_ID \
   --location REGION

    替换以下内容：

    • ORGANIZATION_ID：目标 Google Cloud 组织的 ID。
    • REGION：已创建目标 Distributed Cloud 已连接区域的 Google Cloud 区域。在公开预览版期间，唯一受支持的区域是 us-west2。

  3. 获取有关目标可用区的详细信息：

    gcloud alpha edge-cloud zones describe ZONE \
   --organization ORGANIZATION_ID \
   --location REGION

    替换以下内容：

    • ZONE：目标 Distributed Cloud connected 可用区。
    • ORGANIZATION_ID：目标 Google Cloud 组织的 ID。
    • REGION：已创建目标 Distributed Cloud 已连接区域的 Google Cloud 区域。在公开预览版期间，唯一受支持的区域是 us-west2。

获取有关 Distributed Cloud connected 可用区中已获认证的机器的信息

如需获取 Distributed Cloud connected 可用区中目标已认证机器的名称，请执行以下操作：

  1. 列出目标 Distributed Cloud connected 可用区中的 Distributed Cloud connected 机器，如列出可用区中的机器中所述。

  2. 获取有关目标机器的详细信息，如获取有关机器的信息中所述。

启用本地 AI Platform API 和 Vertex AI API 服务

请使用具有 Edge Container Zonal Project Admin 角色的 IT 管理员账号完成本部分中的步骤。

  1. 在目标 Distributed Cloud 连接区域中启用目标 Google Cloud 项目：

    gcloud alpha edge-cloud projects enable PROJECT_ID \
   --organization ORGANIZATION_ID \
   --location REGION \
   --zone ZONE

    替换以下内容：

    • PROJECT_ID：目标 Google Cloud 项目的 ID。
    • ORGANIZATION_ID：目标 Google Cloud 组织的 ID。
    • REGION：已创建目标 Distributed Cloud connected 可用区的 Google Cloud 区域。
    • ZONE：目标 Distributed Cloud connected 可用区。

  2. 在目标 Google Cloud 项目上启用 AI Platform 服务：

    gcloud services enable aiplatform.googleapis.com --project PROJECT_ID

    将 PROJECT_ID 替换为目标 Google Cloud 项目的 ID。

  3. 在 Distributed Cloud 连接区中启用 Vertex AI API 服务：

    gcloud alpha edge-cloud services enable aiplatform.googleapis.com --project PROJECT_ID \
   --location REGION \
   --zone ZONE

    替换以下内容：

    • PROJECT_ID：目标 Google Cloud 项目的 ID。
    • REGION：已创建目标 Distributed Cloud connected 可用区的 Google Cloud 区域。
    • ZONE：目标 Distributed Cloud connected 可用区。

配置端点以进行 DNS 解析

  1. 获取目标 Distributed Cloud 连接区域的托管 DNS 地址、顶级域名 (TLD) 和证书授权机构 (CA) 证书。

    gcloud alpha edge-cloud zones describe ZONE \
  --organization ORGANIZATION_ID \
  --location REGION \
  --format="value(certificateAuthorities)" \
  > CA_CERTIFICATE_FILE

    替换以下内容：

    • ORGANIZATION_ID：目标 Google Cloud 组织的 ID。
    • REGION：已创建目标 Distributed Cloud connected 可用区的 Google Cloud 区域。
    • ZONE：目标 Distributed Cloud connected 可用区。
    • CA_CERTIFICATE_FILE：用于保存命令输出的证书载荷的文件。您稍后将使用此文件生成服务账号密钥。

    类似以下内容的输出会存储在文件中：

    -----BEGIN CERTIFICATE-----
MIIDATCCAemgAwIBAgIRAOsIG15loHwPBpjQe9FZYUAwDQYJKoZIhvcNAQELBQAw
GjEYMBYGA1UEAxMPZ2RjZS1jbHVzdGVyLWNhMB4XDTI1MDcyOTEyMTAwNloXDTQ5
MDcyMzEyMTAwNlowGjEYMBYGA1UEAxMPZ2RjZS1jbHVzdGVyLWNhMIIBIjANBgkq
hkiG9w0BAQEFAAOCAQ8AMIIBCgKCAQEA3YdoASubyzHdgZ0vIU5g1dxdFRT1T4wc
o9FaRXftSTDfiNVNKj/vC+De9EZokpyLZkdZNep6p0TLJAsPZYq+yiTCiaJ6Ihwy
3LBn8j2PessSIte2LUhkft1yCQqfkgpYfKcjM3IauIXETS961m0uJb4sntgLJ4nM
Scb5vpW1f70D1V27bqnEsE7+rbxzeFTosHC+DGBcLqIE0ptdionm/4xoltH7yv2O
qKfcc/46TyPwGRzxifEdNzjKZ1kRdTThESfW+L7TQNv6VF5TC4FPksYX/ID/X7Fz
G9BRey0mikvc4J7qQIeyMRlpIKqRh/1FCdRDC9vVEQipT2Ls0MwwTwIDAQABo0Iw
QDAOBgNVHQ8BAf8EBAMCAYYwDwYDVR0TAQH/BAUwAwEB/zAdBgNVHQ4EFgQUmES2
pyMLOnnsKug8amFmenOaTr8wDQYJKoZIhvcNAQELBQADggEBADn71zo7cNFZ0kQE
C2lS6b0DLz4Nd1yCz5fGDvxzcTRdOT60wyq/TAx1YlYse33cGk/cQ7RkVsM56UX1
T8RMvi09UcEQG3wFrYuU62ZjXF1a3RrOnHxyvVdyvbUYAO5gvzBQrj4tMZYX9kL3
6H/9FwXuHVyqWAm0xpWvZfszwJjY4C1VxoDwmRiZPYzTrWI6/rY0QmORgcZXLnPL
OVufbAX30aRGdTRnVXxE0fKmXwzbtbSHilU5hJT7EQWMvV5hJfyNqdXG0gbrhrsk
sB0yRjk5PHQd9pOMcXcYIgfNnUEcQl4qeSll3g5cZ+cRrcTO1USFLRo8dcbQpJ6Y
6ykzvKs=
-----END CERTIFICATE-----
createTime: '2025-08-25T20:46:50.269384028Z'
dnsServers:
- ipAddress: DNS_SERVER_ADDRESS
tld: TOP_LEVEL_DOMAIN
name: organizations/ORGANIZATION_ID/locations/REGION/zones/ZONE
state: STATE_RUNNING

  2. 使用在上一步中获得的 DNS 服务器 IP 地址和顶级网域 (TLD) 名称，为端点创建 DNS 配置，如下所示。您必须在与 Gemini on GDC connected API 认证机器位于同一本地网络的机器上运行此命令。

    mkdir /etc/systemd/resolved.conf.d
echo '[Resolve]
DNS=DNS_SERVER_ADDRESS
Domains=~TOP_LEVEL_DOMAIN' > /etc/systemd/resolved.conf.d/dns.conf
sudo systemctl restart systemd-resolved

    替换以下内容：

    • DNS_SERVER_ADDRESS：DNS 服务器的 IP 地址。
    • TOP_LEVEL_DOMAIN：端点的顶级网域。

部署 Gemini on GDC connected API 端点

如需部署 Gemini on GDC 连接的 API 端点，请使用 Google Cloud 项目管理员账号执行以下操作：

  1. 创建端点：

    gcloud beta ai endpoints create \
   --project=PROJECT_ID \
   --region=REGION \
   --gdc-zone=ZONE \
   --display-name=ENDPOINT_NAME \
   --endpoint-id=ENDPOINT_ID

    替换以下内容：

    • PROJECT_ID：目标 Google Cloud 项目的 ID。
    • REGION：已创建目标 Distributed Cloud connected 可用区的 Google Cloud 区域。
    • ZONE：目标 Distributed Cloud connected 可用区。
    • ENDPOINT_NAME：此端点的有意义的名称。
    • ENDPOINT_ID：（可选）此端点的唯一标识符。如果省略，系统会生成一个随机标识符。

  2. 部署模型：

    gcloud beta ai endpoints deploy-model ENDPOINT_ID \
  --display-name=ENDPOINT_NAME \
  --model=MODEL_PUBLIC_ID \
  --region=REGION

    替换以下内容：

    • ENDPOINT_ID：目标端点的 ID。
    • ENDPOINT_NAME：目标端点的名称。
    • REGION：已创建目标 Distributed Cloud connected 可用区的 Google Cloud 区域。
    • MODEL_PUBLIC_ID：模型的公开 ID。如需查看支持的模型的列表，请参阅支持的模型。

  3. 列出已部署的端点：

    gcloud beta ai endpoints list \
  --project=PROJECT_ID \
  --region=REGION

    替换以下内容：

    • PROJECT_ID：目标 Google Cloud 项目的 ID。
    • REGION：已创建目标 Distributed Cloud connected 可用区的 Google Cloud 区域。

    记下目标端点的 ID。

  4. 获取端点地址：

    gcloud beta ai endpoints describe ENDPOINT_ID \
  --project=PROJECT_ID \
  --region=REGION

    替换以下内容：

    • ENDPOINT_ID：目标端点的 ID。
    • PROJECT_ID：目标 Google Cloud 项目的 ID。
    • REGION：已创建目标 Distributed Cloud connected 可用区的 Google Cloud 区域。

  5. 在目标 Distributed Cloud 连接区域中为端点创建服务账号：

    gcloud alpha edge-cloud service-accounts create SERVICE_ACCOUNT \
  --project PROJECT_ID \
  --location REGION \
  --zone ZONE

    替换以下内容：

    • SERVICE_ACCOUNT：可唯一标识相应服务账号的有意义的名称。此名称只能包含小写字母、数字、“-”或“.”，并且必须以字母数字字符开头和结尾。不允许使用大写字母。
    • PROJECT_ID：目标 Google Cloud 项目的 ID。
    • REGION：已创建目标 Distributed Cloud connected 可用区的 Google Cloud 区域。
    • ZONE：目标 Distributed Cloud connected 可用区。

  6. 获取目标 Distributed Cloud Connected Zone 的 Identity and Access Management 政策：

    gcloud alpha edge-cloud zones get-iam-policy ZONE \
  --project PROJECT_ID \
  --location REGION

    替换以下内容：

    • ZONE：目标 Distributed Cloud connected 可用区。
    • PROJECT_ID：目标 Google Cloud 项目的 ID。
    • REGION：已创建目标 Distributed Cloud connected 可用区的 Google Cloud 区域。

  7. 将 AI Platform Developer 角色分配给该服务账号：

    gcloud alpha edge-cloud zones set-iam-policy POLICY_FILE \
  --project PROJECT_ID \
  --location REGION \
  --zone ZONE

    替换以下内容：

    • POLICY_FILE：包含角色分配政策的 JSON 或 YAML 文件。
    • PROJECT_ID：目标 Google Cloud 项目的 ID。
    • REGION：已创建目标 Distributed Cloud connected 可用区的 Google Cloud 区域。
    • ZONE：目标 Distributed Cloud connected 可用区。

    以下是 JSON 格式的政策示例：

    {
  "bindings": [
     {
        "role": "roles/aiplatform.geminiDeveloper",
        "members": [
           {
              "serviceAccount": "projects/PROJECT_ID/locations/REGION/serviceAccounts/SERVICE_ACCOUNT"
           }
        ]
     }
  ],
  "etag": ""
}

    以下是 YAML 格式的政策示例：

    bindings:
- role: roles/aiplatform.geminiDeveloper
  members:
  - serviceAccount: projects/PROJECT_ID/locations/REGION/serviceAccounts/SERVICE_ACCOUNT
etag: ""

    替换以下内容：

    • PROJECT_ID：目标 Google Cloud 项目的 ID。
    • REGION：已创建目标 Distributed Cloud connected 可用区的 Google Cloud 区域。
    • SERVICE_ACCOUNT：可唯一标识相应服务账号的有意义的名称。

  8. 使用下文介绍的方法之一配置身份验证。

使用不记名令牌配置身份验证

完成本部分中的步骤，以配置端点身份验证来使用不记名令牌。

  1. 为服务账号生成密钥：

    gcloud alpha edge-cloud service-accounts keys create SA_KEY_FILE \
  --service-account SERVICE_ACCOUNT \
  --project PROJECT_ID \
  --location REGION \
  --ca-cert-path CA_CERTIFICATE_FILE

    替换以下内容：

    • SA_KEY_FILE：用于存储生成的服务账号密钥的文件。
    • SERVICE_ACCOUNT：您在本指南前面部分中创建的服务账号。
    • PROJECT_ID：目标 Google Cloud 项目的 ID。
    • REGION：已创建目标 Distributed Cloud connected 可用区的 Google Cloud 区域。
    • CA_CERTIFICATE_FILE：您之前创建的 CA 证书文件。

  2. 获取端点的完全限定网址：

    gcloud beta ai endpoints describe ENDPOINT_ID \
  --project=PROJECT_ID \
  --region=REGION

    替换以下内容：

    • ENDPOINT_ID：目标端点标识符。
    • PROJECT_ID：目标 Google Cloud 项目的 ID。
    • REGION：已创建目标 Distributed Cloud connected 可用区的 Google Cloud 区域。

  3. 打印服务账号的身份令牌。您必须在与 Gemini on GDC 连接的 API 认证机器位于同一本地网络的机器上运行此命令。

    gcloud alpha edge-cloud auth print-identity-token \
  --cred-file=SA_KEY_FILE \
  --audience=ENDPOINT_URL

    替换以下内容：

    • SA_KEY_FILE：您之前创建的服务账号密钥文件。
    • ENDPOINT_URL：端点的完全限定网址，包括顶级网域后缀。

配置使用 API 密钥进行的身份验证

请完成本部分中的步骤，以配置端点身份验证来使用 API 密钥。

  1. 生成 API 密钥：

    gcloud alpha edge-cloud api-keys create API_KEY_ID \
  --service-account SERVICE_ACCOUNT \
  --project PROJECT_ID \
  --location REGION \
  --zone ZONE

    替换以下内容：

    • API_KEY_ID：相应 API 密钥的唯一标识符。
    • SERVICE_ACCOUNT：您在本指南前面部分中创建的服务账号。
    • PROJECT_ID：目标 Google Cloud 项目的 ID。
    • REGION：已创建目标 Distributed Cloud connected 可用区的 Google Cloud 区域。
    • ZONE：目标 Distributed Cloud connected 可用区。

  2. 检索 API 密钥载荷：

    gcloud alpha edge-cloud api-keys describe API_KEY_ID \
  --project=PROJECT_ID \
  --location=REGION

    替换以下内容：

    • API_KEY_ID：您在上一步中设置的 API 密钥的标识符。
    • SERVICE_ACCOUNT：您用于生成 API 密钥的服务账号。
    • PROJECT_ID：目标 Google Cloud 项目的 ID。
    • REGION：已创建目标 Distributed Cloud connected 可用区的 Google Cloud 区域。

列出已部署的 Gemini on GDC connected API 端点

如需列出已部署的 Gemini on GDC connected API 端点，请执行以下操作：

gcloud beta ai endpoints list \
    --project=PROJECT_ID \
    --region=REGION \
    --gdc-zone=ZONE

替换以下内容：

  • PROJECT_ID：目标 Google Cloud 项目的 ID。
  • REGION：已创建目标 Distributed Cloud connected 可用区的 Google Cloud 区域。
  • ZONE：目标 Distributed Cloud connected 可用区。

获取有关 Gemini on GDC connected API 端点的信息

如需获取有关已部署的 Gemini on GDC connected API 端点的信息，请执行以下操作：

gcloud beta ai endpoints describe ENDPOINT_ID \
    --project=PROJECT_ID \
    --region=REGION

替换以下内容：

  • ENDPOINT_ID：目标端点的 ID。
  • PROJECT_ID：目标 Google Cloud 项目的 ID。
  • REGION：已创建目标 Distributed Cloud connected 可用区的 Google Cloud 区域。

与 Gemini on Google Distributed Cloud connected API 端点互动

Gemini on GDC 关联的 API 端点支持通过 ChatCompletions API 和 ListAvailableModels API 进行交互。您可以使用这些 API 以编程方式与端点进行交互。

以下是通过 ChatCompletions API 发出的请求示例。相应请求中生成的不记名令牌的有效期为 12 小时。

  1. 在 shell 环境中设置以下变量：

    MODEL_PROMPT_ID="MODEL_PROMPT_ID"
USER_CONTENT="Who invented the light bulb?"
PROJECT="PROJECT_ID"
LOCATION="REGION"
IG_FQDN="inference-gateway.vai.ZONE.google.private.goog"
CRED_FILE="SA_KEY_FILE"
API_ENDPOINT="https://${IG_FQDN}/v1/projects/${PROJECT}/locations/${LOCATION}/chat/completions"

    替换以下内容：

    • MODEL_NAME：目标模型的名称。
    • PROJECT_ID：目标 Google Cloud 项目的 ID。
    • REGION：已创建目标 Distributed Cloud connected 可用区的 Google Cloud 区域。
    • SA_KEY_FILE：您之前创建的服务账号密钥文件。

  2. 构建载荷：

    REQUEST_BODY=$(cat <<EOF
{
"model": "${MODEL_PROMPT_ID}",
"messages": [
   {
      "role": "system",
      "content": "Pizza for everyone!"
   },
   {
      "role": "user",
      "content": "${USER_CONTENT}"
   }
],
"stream": false
}
EOF
)

  3. 使用以下方法之一向端点进行身份验证：

    • 输出不记名令牌。您必须在与 Gemini on GDC connected API 认证机器位于同一本地网络的机器上运行此命令：
     BEARER_TOKEN=$(gcloud alpha edge-cloud auth print-identity-token --cred-file="${CRED_FILE}" --audience="https://${IG_FQDN}")
 echo $BEARER_TOKEN
    • 打印 API 密钥。您可以从不在 Gemini on GDC connected API 认证机器的同一本地网络中的机器远程运行此命令：
     API_KEY=$(gcloud alpha edge-cloud api-keys describe "${API_KEY_ID}" --project "${PROJECT}" --location "${LOCATION}" --format="value(key)")
 echo $API_KEY

  4. 使用以下方法之一将请求发送到端点。

    • 发送使用不记名令牌进行身份验证的请求。您必须在与 Gemini on GDC connected API 认证机器位于同一本地网络的机器上运行此命令：
    curl -k -X POST \
"${API_ENDPOINT}" \
-d "${REQUEST_BODY}" \
-H "Content-Type: application/json" \
-H "Authorization: Bearer ${BEARER_TOKEN}" \
-H "x-goog-user-project: projects/${PROJECT}"
    • 发送使用 API 密钥进行身份验证的请求。您可以从与 Gemini on GDC connected API 认证机器不在同一本地网络中的机器上远程运行此命令：
     curl -k -X POST \
 "${API_ENDPOINT}" \
 -d "${REQUEST_BODY}" \
 -H "Content-Type: application/json" \
 -H "x-goog-api-key: ${API_KEY}"

包含 JPEG 图片载荷的多模态 ChatCompletions API 请求示例

以下是一个多模态 ChatCompletions API 请求载荷示例，其中包含 JPEG 格式的输入图片：

  1. 构建载荷：

    BASE64_IMAGE=$(base64 -w 0 JPEG_FILE)
REQUEST_BODY=$(cat <<EOF
{
"model": "${MODEL_PROMPT_ID}",
"messages": [
   {
      "role": "user",
      "content": [
            {
               "type": "text",
               "text": "What is this image?"
            },
            {
               "type": "image_url",
               "image_url": {
                  "url": "data:image/jpeg;base64,${BASE64_IMAGE}"
               }
            }
      ]
   }
]
}
EOF

)

  2. 将请求发送到端点。您必须在与 Gemini on GDC connected API 认证机器位于同一本地网络的机器上运行此命令。

    curl -k -X POST \
"${API_ENDPOINT}" \
-d "${REQUEST_BODY}" \
-H "Content-Type: application/json" \
-H "Authorization: Bearer ${BEARER_TOKEN}" \
-H "x-goog-user-project: projects/${PROJECT}"

包含 PDF 文档载荷的多模态 ChatCompletions API 请求示例

以下是一个以 PDF 文档为输入的多模态 ChatCompletions API 请求载荷示例：

  1. 构建载荷：

    BASE64_PDF=$(base64 -w 0 PDF_FILE)
REQUEST_BODY=$(cat <<EOF
{
"model": "${MODEL_PROMPT_ID}",
"messages": [
   {
      "role": "user",
      "content": [
            {
               "type": "text",
               "text": "Please summarize this document."
            },
            {
               "type": "input_document",
               "input_document": {
                  "data": "data:application/pdf;base64,${BASE64_PDF}",
                  "format": "pdf"
               }
            }
      ]
   }
]
}
EOF

)

  2. 将请求发送到端点。您必须在与 Gemini on GDC connected API 认证机器位于同一本地网络的机器上运行此命令。

    curl -k -X POST \
"${API_ENDPOINT}" \
-d "${REQUEST_BODY}" \
-H "Content-Type: application/json" \
-H "Authorization: Bearer ${BEARER_TOKEN}" \
-H "x-goog-user-project: projects/${PROJECT}"

包含音频载荷的多模态 ChatCompletions API 请求示例

以下是一个以音频文件作为输入的多模态 ChatCompletions API 请求载荷示例：

  1. 构建载荷：

    BASE64_AUDIO=$(base64 -w 0 AUDIO_FILE)
REQUEST_BODY=$(cat <<EOF
{
"model": "${MODEL_PROMPT_ID}",
"messages": [
   {
      "role": "user",
      "content": [
            {
               "type": "text",
               "text": "Transcribe this speech for me."
            },
            {
               "type": "input_audio",
               "input_audio": {
                  "data": "data:audio/mp3;base64,${BASE64_AUDIO}",
                  "format": "mp3"
               }
            }
      ]
   }
]
}
EOF

)

  2. 将请求发送到端点。您必须在与 Gemini on GDC connected API 认证机器位于同一本地网络的机器上运行此命令。

    curl -k -X POST \
"${API_ENDPOINT}" \
-d "${REQUEST_BODY}" \
-H "Content-Type: application/json" \
-H "Authorization: Bearer ${BEARER_TOKEN}" \
-H "x-goog-user-project: projects/${PROJECT}"

包含视频载荷的多模态 ChatCompletions API 请求示例

以下是一个以视频文件作为输入的多模态 ChatCompletions API 请求载荷示例：

  1. 构建载荷：

    BASE64_VIDEO=$(base64 -w 0 VIDEO_FILE)
REQUEST_BODY=$(cat <<EOF
{
"model": "${MODEL_PROMPT_ID}",
"messages": [
   {
      "role": "user",
      "content": [
            {
               "type": "text",
               "text": "Could you summarize this video for me?"
            },
            {
               "type": "input_video",
               "input_video": {
                  "data": "data:video/wmv;base64,${BASE64_VIDEO}",
                  "format": "wmv"
               }
            }
      ]
   }
]
}
EOF

)

  2. 将请求发送到端点。您必须在与 Gemini on GDC connected API 认证机器位于同一本地网络的机器上运行此命令。

    curl -k -X POST \
"${API_ENDPOINT}" \
-d "${REQUEST_BODY}" \
-H "Content-Type: application/json" \
-H "Authorization: Bearer ${BEARER_TOKEN}" \
-H "x-goog-user-project: projects/${PROJECT}"

ListAvailableModels API 请求示例

以下是 ListAvailableModels API 请求的示例：

BEARER_TOKEN=$(gcloud alpha edge-cloud auth print-identity-token --cred-file="${CRED_FILE}" --audience="https://${IG_FQDN}")
# The request body -d parameter is intentionally omitted.
grpcurl -insecure \
  -H "Authorization: Bearer ${BEARER_TOKEN}" \
  -H "x-goog-user-project: projects/${PROJECT}" \
  "${IG_FQDN}" \
  cloud.gdc.ai.inference.inferencegateway.GeminiMetadataService.ListAvailableModels

删除 Gemini on Google Distributed Cloud connected API 端点

如需删除 Gemini on GDC Connected API 端点，请执行以下操作：

  1. 取消部署模型：

    gcloud beta ai endpoints undeploy-model ENDPOINT_ID \
  --region=REGION \
  --deployed-model-id=DEPLOYED_MODEL_ID

    替换以下内容：

    • ENDPOINT_ID：目标端点的 ID。
    • REGION：已创建目标 Distributed Cloud connected 可用区的 Google Cloud 区域。
    • DEPLOYED_MODEL_ID：已部署模型的 ID。

  2. 删除端点：

    gcloud beta ai endpoints delete ENDPOINT_ID \
   --project=PROJECT_ID \
   --region=REGION

    替换以下内容：

    • ENDPOINT_ID：目标端点的 ID。
    • PROJECT_ID：目标 Google Cloud 项目的 ID。
    • REGION：已创建目标 Distributed Cloud connected 可用区的 Google Cloud 区域。

排查端点问题

如果您的 Gemini on GDC 连接的 API 端点出现故障，请与您的 Google 代表联系以进行问题排查。