Apache Spark용 관리형 서비스 선택적 Solr 구성요소

Apache Solr 선택적 구성요소를 사용하면 Managed Service for Apache Spark 클러스터에 오픈소스 엔터프라이즈 검색 플랫폼을 배포할 수 있습니다. 이 통합은 분산 검색 및 색인 생성 기능을 제공하여 클러스터 마스터 노드의 포트 8983에서 Solr 서버 및 웹 UI를 호스팅합니다.

기본적으로 Solr은 색인 및 트랜잭션 로그 파일을 HDFS에 저장합니다. 클러스터 수명 주기 이후에도 Solr 파일을 유지하려면 구성요소를 설치할 때 dataproc:solr.gcs.path 클러스터 속성을 설정하여 Cloud Storage 경로를 Solr 홈 디렉터리로 지정하면 됩니다.

구성요소 설치

Managed Service for Apache Spark 클러스터를 만들 때 구성요소를 설치합니다. 구성요소는 Managed Service for Apache Spark 버전 1.3 이상으로 만든 클러스터에 추가할 수 있습니다.

각 Managed Service for Apache Spark 이미지 출시에 포함된 구성요소 버전은 지원되는 Managed Service for Apache Spark 버전을 참조하세요.

Google Cloud 콘솔

  1. Google Cloud 콘솔에서 클러스터 만들기 페이지를 엽니다.
  2. 추가 구성을 클릭하여 해당 섹션을 펼칩니다.
  3. 선택적 구성요소를 수정합니다.
  4. 열리는 패널에서 Solr 체크박스를 선택한 후 저장을 클릭합니다.

gcloud CLI

Solr 구성요소가 포함된 Managed Service for Apache Spark 클러스터를 만들려면 gcloud dataproc clusters create cluster-name 명령어를 --optional-components 플래그와 함께 사용합니다. 아래의 샘플 명령어는 선택적인 properties 플래그를 사용하여 Cloud Storage 경로를 Solr 홈 디렉터리로 설정합니다.

gcloud dataproc clusters create cluster-name \
    --region=region \
    --optional-components=SOLR \
    --enable-component-gateway \
    ... other flags
클러스터 속성 --properties="dataproc:solr.gcs.path=gs://bucket-name/"을 gcloud dataproc clusters create 명령어에 추가하여 Solr 문서가 저장될 Cloud Storage 버킷을 설정합니다(Solr 홈 디렉터리).

REST API

Solr 구성요소는 clusters.create 요청의 일부로 SoftwareConfig.Component를 사용하여 Dataproc API를 통해 지정할 수 있습니다.