如需使用 OpenAI Python 库,请安装 OpenAI SDK:
pip install openai
如需使用 Chat Completions API 进行身份验证,您可以修改客户端设置或更改环境配置以使用 Google 身份验证和 Agent Platform 端点。选择更简单的方法,然后根据您要调用 Gemini 模型还是自行部署的 Model Garden 模型,按照相应的设置步骤操作。
Model Garden 中的某些模型和
受支持的 Hugging Face 模型
需要先
部署到 Gemini Enterprise Agent Platform 端点
,然后才能处理请求。
从 Chat Completions API 调用这些自行部署的模型时,您需要指定端点 ID。如需列出您的
现有 Agent Platform 端点,请使用
gcloud ai endpoints list 命令。
客户端设置
如需在 Python 中以编程方式获取 Google 凭据,您可以使用 google-auth Python SDK:
pip install google-auth requests
Python
试用此示例之前,请按照 Python 设置说明进行操作,请参阅 Agent Platform 快速入门:使用 客户端库。
如需向 Agent Platform 进行身份验证,请设置应用默认凭据。 如需了解详情,请参阅 为本地开发环境设置身份验证。
默认情况下,服务帐号访问令牌的有效期为 1 小时。您可以延长服务账号访问令牌的有效期,也可以定期刷新令牌并更新 openai.api_key 变量。
环境变量
安装 Google Cloud CLI。 OpenAI 库可以读取 OPENAI_API_KEY 和 OPENAI_BASE_URL 环境变量,以更改其默认客户端中的身份验证和端点。
设置以下变量:
$ export PROJECT_ID=PROJECT_ID
$ export LOCATION=LOCATION
$ export OPENAI_API_KEY="$(gcloud auth application-default print-access-token)"
如需调用 Gemini 模型,请设置 MODEL_ID 变量并使用 openapi 端点:
$ export MODEL_ID=MODEL_ID
$ export OPENAI_BASE_URL="https://${LOCATION}-aiplatform.googleapis.com/v1beta1/projects/${PROJECT_ID}/locations/${LOCATION}/endpoints/openapi"
如需从 Model Garden 调用自行部署的模型,请设置 ENDPOINT 变量,并改为在网址中使用该变量:
$ export ENDPOINT=ENDPOINT_ID
$ export OPENAI_BASE_URL="https://${LOCATION}-aiplatform.googleapis.com/v1beta1/projects/${PROJECT_ID}/locations/${LOCATION}/endpoints/${ENDPOINT}"
接下来,初始化客户端:
client = openai.OpenAI()
Gemini Chat Completions API 使用 OAuth 和短期有效的访问令牌进行身份验证。
默认情况下,服务帐号访问令牌的有效期为
1 小时。您可以延长服务账号访问令牌的有效期,也可以定期刷新令牌并更新 openai.api_key 变量。
刷新凭据
以下示例展示了如何根据需要自动刷新凭据:
Python
后续步骤
- 查看使用 OpenAI 兼容语法调用 Chat Completions API 的示例。
- 查看使用 OpenAI 兼容语法调用 Inference API 的示例。
- 查看使用 OpenAI 兼容语法调用 Function Calling API 的示例。
- 详细了解 Gemini API。
- 详细了解如何从 Azure OpenAI 迁移到 Gemini API。