在 Google Cloud 控制台中，您可以创建公共端点并将模型部署到该端点。
您可以从“在线预测”页面或 Model Registry 页面部署模型。
从“在线预测”页面部署模型
在“在线预测”页面中，您可以创建端点，并向其部署一个或多个模型，具体操作如下：
在 Google Cloud 控制台的 Agent Platform 部分中，前往 在线预测 页面。
点击 创建。
在新建端点窗格中：
输入端点名称。
选择标准作为访问权限类型。
如需创建专用（非共享）公共端点，请选中启用专用 DNS 复选框。
点击继续。
在模型设置窗格中：
从下拉列表中选择您的模型。
从下拉列表中选择模型版本。
输入模型的流量分配比例百分比。
点击完成。
对于要部署的任何其他模型，请重复上述步骤。
从“Model Registry”页面部署模型
在“Model Registry”页面中，您可以按如下方式将模型部署到一个或多个新的或现有的端点：
在 Google Cloud 控制台的 Agent Platform 部分中，前往 模型 页面。
点击要部署的模型的名称和版本 ID 以打开其详情页面。
选择部署和测试标签页。
如果模型已部署到任何端点，部署模型 (Deploy your model) 部分中会列出这些端点。
点击部署到端点。
如需将模型部署到新端点，请执行以下操作：
- 选择 创建新端点。
- 为新端点提供名称。
- 如需创建专用（非共享）公共端点，请选中启用专用 DNS 复选框。
- 点击继续。
如需将模型部署到现有端点，请执行以下操作：
- 选择 添加到现有端点。
- 从下拉列表中选择端点。
- 点击继续。
您可以将多个模型部署到一个端点，也可以将同一模型部署到多个端点。
如果您将模型部署到已部署有一个或多个模型的现有端点，则必须为要部署的模型和已部署模型更新流量分配比例，以使所有百分比的总和为 100%。
如果您要将模型部署到新端点，请接受 100 的流量分配比例值。否则，请为端点上所有模型调整流量拆分值，使它们的总和为 100。
输入要为模型提供的计算节点数下限。
这是模型始终需要可用的节点数。
无论节点是用于处理推理负载，还是作为备用（最少）节点，您都需要为其付费，即使没有推理流量也是如此。请参阅价格页面。
为处理推理流量，计算节点的数量可能会按需增加，但绝不会超出节点数上限。
如需使用自动扩缩，请输入 Agent Platform 可扩容到的计算节点数上限 。
选择机器类型 。
较大的机器资源将提高推理性能和增加费用。比较可用的机器 类型。
选择加速器类型 和加速器数量 。
如果您在 导入或 创建模型时启用了加速器使用，则会显示此选项。
对于加速器数量，请参阅 GPU 表，查看 每个 CPU 机器类型的有效 GPU 数量。加速器数量指的是每个节点的加速器数量，而不是部署中的加速器总数。
如果要使用自定义服务 账号进行部署，请选择 一个服务帐号，在服务账号下拉框中。
了解如何更改 推理日志记录的默认设置。
为模型点击完成 ，当所有流量分配比例 百分比均正确无误时，点击继续 。
随即将显示在其中部署模型的区域。此区域必须是您在其中创建模型的区域。
点击部署 以将模型部署到端点。
后续步骤
- 了解如何获取在线 推理结果。
- 了解如何更改 推理日志记录的默认设置。