使用 可选组件 功能创建 Managed Service for Apache Spark 集群时,您可以安装 Apache Pig 等其他组件。本页面介绍了 Pig 组件,这是一个用于分析大型数据集的开源平台。
安装组件
创建 Managed Service for Apache Spark 集群时,请安装该组件。
Apache Pig 是 Managed Service for Apache Spark 2.3 及更高版本映像中的可选组件。
如需了解最新 Managed Service for Apache Spark 映像版本中包含的组件版本,请参阅 支持的 Managed Service for Apache Spark 版本 。
Google Cloud 控制台
- 在 Google Cloud 控制台中,打开 创建集群 页面。
- 点击其他配置 以展开该部分。
- 修改可选组件 。
- 在随即打开的面板中,选中 Pig 对应的复选框, 然后点击 保存。
gcloud CLI
如需创建包含 Pig 组件的 Managed Service for Apache Spark 集群,
请将
gcloud dataproc clusters create CLUSTER_NAME
命令与 --optional-components 标志结合使用(使用映像版本
2.3 或更高版本)。
gcloud dataproc clusters create CLUSTER_NAME \ --region=REGION \ --optional-components=PIG \ --image-version=2.3 \ ... other flags
REST API
可通过 Dataproc API 在 clusters.create 请求中使用 SoftwareConfig.Component 来指定 Pig 组件。