用于生成 Veo on Gemini Enterprise Agent Platform 视频的 Responsible AI

Veo on Gemini Enterprise Agent Platform 在设计时考虑到了 Google 的 AI 原则。不过，开发者必须了解如何以负责任的方式安全测试和部署 Google 的模型。为了帮助开发者，Gemini Enterprise Agent Platform 上的 Veo 具有内置的安全功能，可帮助客户在其使用场景中阻止潜在的有害输出。如需了解详情，请参阅安全过滤器。

我们鼓励客户在开发 AI 应用时使用公平性、可解释性、隐私权和安全最佳实践。如需了解详情，请参阅《人与 AI 指南》。

安全过滤器

Gemini Enterprise Agent Platform 上的 Veo 提供多种输入提示的方式来生成视频，包括文本、视频和图片。系统会根据一系列安全过滤条件（包括有害类别，例如 violence、sexual、derogatory 和 toxic）评估提供给 Veo 的提示。这些安全过滤条件旨在过滤掉违反Google Cloud《平台使用政策》《生成式 AI 使用限制政策》或《Google AI 原则》的输入图片和视频。

如果模型响应请求并显示错误消息（例如 The prompt couldn't be submitted 或 it might violate our policies），则表示输入内容触发了安全过滤器。如果返回的视频少于请求的视频数，则由于不符合安全要求，某些生成的输出会被阻止。

安全过滤器代码类别

根据您配置的安全过滤器，您的输出可能包含类似于以下内容的安全代码：“Veo 无法生成视频，因为输入图片违反了代理平台的使用准则。如果您认为这是一个错误，请发送反馈。支持代码：15236754”

输出中列出的代码对应于特定的有害类别。

下表显示了支持代码与安全类别的对应关系：

支持代码 安全类别 说明
58061214
17301594 		子女 如果 personGeneration 未设置为 "allow_all"，或者项目不在此功能的许可名单中，则拒绝生成描绘儿童的内容的请求。
29310472
15236754 		名人 拒绝生成知名人士的逼真表示的请求，或者拒绝项目不在此功能的许可名单中的请求。
64151117
42237218 		视频安全违规 一般安全违规行为。
62263041 危险内容 可能具有危险性的内容。
57734940
22137204 		讨厌的 与仇恨相关的内容。
74803281
29578790
42876398 		其他 请求中的其他各种安全问题
89371032
49114662
63429089
72817394
60599140
 禁止的内容 与儿童安全或其他敏感内容相关的违禁内容。
35561574
35561575 		第三方内容 与第三方内容相关的合规机制。
90789179
43188360 		色情内容 色情或挑逗性内容。
78610348 有害内容 有害内容。
61493863
56562880 		暴力 暴力内容。
32635315 粗俗 粗俗内容。

后续步骤