Apache Spark용 관리형 서비스 선택적 Pig 구성요소

Apache Pig를 사용하면 Managed Service for Apache Spark에서 대규모 데이터 세트를 분석할 수 있습니다. 클러스터를 만드는 동안 선택적 구성요소 기능을 사용하여 이 오픈소스 플랫폼을 설치할 수 있습니다.

구성요소 설치

Managed Service for Apache Spark 클러스터를 만들 때 구성요소를 설치합니다.

Apache Pig는 Managed Service for Apache Spark 2.3 이상 이미지 버전의 선택적 구성요소입니다.

최신 Managed Service for Apache Spark 이미지 출시 버전에 포함된 구성요소 버전은 지원되는 Managed Service for Apache Spark 버전을 참조하세요.

Google Cloud 콘솔

  1. Google Cloud 콘솔에서 클러스터 만들기 페이지를 엽니다.
  2. 추가 구성을 클릭하여 해당 섹션을 펼칩니다.
  3. 선택적 구성요소를 수정합니다.
  4. 패널이 열리면 Pig 체크박스를 선택한 후 저장을 클릭합니다.

gcloud CLI

Pig 구성요소가 포함된 Managed Service for Apache Spark 클러스터를 만들려면 gcloud dataproc clusters create CLUSTER_NAME 명령어를 --optional-components 플래그와 함께 사용합니다(이미지 버전 2.3 이상 사용).

gcloud dataproc clusters create CLUSTER_NAME \
    --region=REGION \
    --optional-components=PIG \
    --image-version=2.3 \
    ... other flags

REST API

Pig 구성요소는 SoftwareConfig.Component를 clusters.create 요청에 사용하여 Dataproc API를 통해 지정할 수 있습니다.