Knowledge Catalog를 사용하여 데이터 애셋 관리
Knowledge Catalog는 Bigtable 리소스에 대한 메타데이터를 자동으로 카탈로그화합니다. 이 기능을 사용하면 Bigtable 데이터 애셋을 검색하고 관리할 수 있습니다.
메타데이터는 다음 Bigtable 리소스에 대해 Bigtable에서 Knowledge Catalog로 자동으로 동기화됩니다.
- 인스턴스
- 클러스터
- Column family 세부정보를 포함한 테이블
뷰:
- 승인된 뷰
- 연속 구체화된 뷰
- 논리적 뷰
뷰에는 전역 카탈로그 항목이 없습니다. 뷰 메타데이터에 액세스하려면 인스턴스에 할당된 리전을 쿼리해야 합니다. 자세한 내용은 이 문서의 뷰 메타데이터 액세스 섹션을 참조하세요.
Knowledge Catalog는 완전 관리형 메타데이터 관리 서비스입니다. 기술 및 비즈니스 메타데이터에 대한 통합 뷰 및 태그 지정 메커니즘을 제공합니다. Knowledge Catalog와 이를 사용해야 하는 이유에 대한 자세한 내용은 Knowledge Catalog 개요를 참조하세요.
Bigtable과 함께 Knowledge Catalog를 사용할 때의 이점
데이터에 대한 Knowledge Catalog 정보는 분석, 데이터 재사용, 애플리케이션 개발, 데이터 관리를 지원하는 데 도움이 됩니다.
리소스 이름과 같은 세부정보로 Knowledge Catalog에서 항목을 검색할 수 있습니다. 예를 들어 인스턴스 이름을 검색하여 인스턴스 항목을 찾거나 column family를 검색하여 테이블 항목을 찾습니다. 또한 패싯 검색을 사용하여 필터를 적용해 검색 범위를 좁힐 수 있습니다. 자세한 내용은 Knowledge Catalog에서 리소스 검색을 참조하세요.
Bigtable 뷰를 수집하고 분류하면 다음을 수행할 수 있습니다.
- 중앙 인벤토리에서 승인된 뷰, 논리적 뷰, 연속 구체화된 뷰와 같은 세분화된 데이터 애셋을 찾습니다.
- 어떤 뷰가 존재하고 누가 액세스할 수 있는지에 대한 가시성을 확보하여 거버넌스팀이 정책과 액세스 제어를 적용할 수 있습니다.
- 승인된 뷰가 테이블에 연결되는 방식과 논리적 및 연속 구체화된 뷰가 인스턴스에 연결되는 방식을 이해하여 컨텍스트를 더 잘 파악합니다.
관점으로 메타데이터를 보강하면 Bigtable 테이블의 데이터를 이해하고 카탈로그화하는 데 도움이 됩니다. 관점을 사용하면 카탈로그 항목에 커스텀 비즈니스 및 기술 메타데이터를 연결하여 데이터 자산 전반에서 데이터를 더 쉽게 검색하고 타겟팅된 검색을 수행할 수 있습니다. 자세한 내용은 관점 관리 및 메타데이터 보강을 참조하세요.
Knowledge Catalog 시작하기
Knowledge Catalog를 사용하여 Bigtable 데이터 애셋을 관리하려면 다음 작업을 완료하세요.
선택사항: Knowledge Catalog를 처음 사용하는 경우 Dataplex API를 사용 설정합니다.
Knowledge Catalog의 Bigtable 항목에 액세스해야 하는 주 구성원에게 IAM 역할을 부여합니다.
데이터 애셋을 검색하는 방법 알아보기
Knowledge Catalog 검색 구문을 검토하여 메타데이터를 찾는 방법 알아보기
관점을 사용한 메타데이터 관리 개념을 읽어봅니다. 자세한 내용은 Knowledge Catalog의 메타데이터 정보를 참조하세요.
Knowledge Catalog에서 메타데이터 보기
각 Bigtable 뷰 유형은 카탈로그에서 고유한 항목 유형으로 표시됩니다. Knowledge Catalog는 각 유형에 대한 특정 메타데이터 (관점)를 저장합니다.
| 보기 유형 | 메타데이터 필드 |
|---|---|
| 승인된 뷰 | 전체 하위 집합 정의, 삭제 방지 상태 기본 테이블 ID는 별도의 관점 필드가 아닌 항목의 리소스 경로 및 상위 항목의 일부입니다. |
| 논리적 뷰 | SQL 쿼리, 스키마, 삭제 방지 상태 SQL 쿼리에서 기본 테이블이 참조됩니다. |
| 연속 구체화된 뷰 | SQL 쿼리, 스키마, 삭제 방지 상태, 스토리지 세부정보 기본 테이블은 SQL 쿼리에서 참조됩니다. 스토리지 측면에서 sourceUri 필드는 기본 테이블이 아닌 뷰 리소스 자체를 가리킵니다. |
Bigtable 메타데이터 검색 방법
Knowledge Catalog를 사용하여 동기화된 Bigtable 메타데이터를 검색할 수 있습니다.
유효 조건자 외에도 다음 메타데이터 필드를 사용하여 Bigtable 리소스를 검색할 수 있습니다.
인스턴스
- Bigtable 인스턴스 이름
- Bigtable 인스턴스 ID
- 클러스터 위치
- 클러스터 ID
테이블
- 테이블 ID
- column family 이름
- Bigtable 인스턴스 이름
- Bigtable 인스턴스 ID
다음 카테고리로 뷰를 검색할 수 있습니다.
- 보기 유형:
type=cloud-bigtable-authorized-viewtype=cloud-bigtable-logical-viewtype=cloud-bigtable-materialized-view
- 통합 뷰 별칭:
VIEW별칭을 사용하여 모든 유형의 Bigtable 뷰를 동시에 찾습니다. - 메타데이터 세부정보: 쿼리 텍스트, 상위 리소스, 하위 집합 정의 세부정보 또는 삭제 방지와 같은 특정 속성으로 검색합니다.
- 리전: Google Cloud 콘솔에서
location=LOCATION또는 리전 필터를 사용하여 리전의 뷰 또는 기타 리소스를 검색합니다.
Google Cloud 콘솔에서 전역 Bigtable 인스턴스 또는 테이블 항목을 볼 때 항목 목록 탭에 리전 뷰가 포함되지 않습니다. 마찬가지로 리전 뷰 항목을 볼 때 탐색경로가 상위 인스턴스 또는 테이블에 연결되지 않습니다. 이러한 리소스를 찾으려면 앞의 검색 카테고리를 사용하여 직접 검색하세요.
뷰 메타데이터 액세스
Bigtable 인스턴스 및 테이블과 달리 뷰에는 전역 카탈로그 항목이 없습니다. 뷰의 메타데이터는 Knowledge Catalog (knowledgeCatalogRegion)의 인스턴스에 할당된 리전에만 저장됩니다.
Knowledge Catalog에서 리소스를 검색할 때 리전 필터를 사용하여 특정 리전의 뷰 또는 기타 리소스를 찾을 수 있습니다. 하지만 Dataplex API 또는 클라이언트 라이브러리를 사용하여 Bigtable 뷰의 관점을 조회, 검색 또는 관리하는 경우 요청 URL의 location 파라미터에 인스턴스의 Knowledge Catalog 리전을 지정해야 합니다. 위치를 global로 지정하면 명령어가 NOT_FOUND 오류를 반환합니다.
다음 섹션에서는 인스턴스 리전에서 뷰 메타데이터에 액세스하는 방법을 설명합니다.
인스턴스의 Knowledge Catalog 리전 찾기
Bigtable 인스턴스의 knowledgeCatalogRegion를 찾으려면 gcloud bigtable instances describe 명령어를 사용합니다.
gcloud bigtable instances describe INSTANCE_ID
INSTANCE_ID를 인스턴스의 고유 식별자로 바꿉니다.
명령어 출력에는 다음 예시와 같이 knowledgeCatalogRegion 필드가 포함됩니다.
createTime: '2026-01-15T10:00:00.000000Z'
displayName: my-instance
edition: ENTERPRISE
knowledgeCatalogRegion: us-central1
name: projects/my-project/instances/my-instance
state: READY
type: PRODUCTION
이 예시에서 이 인스턴스의 뷰에 대한 Dataplex API 요청 및 리전 필터의 위치는 us-central1입니다.
뷰의 Knowledge Catalog 항목 검사
콘솔
Knowledge Catalog에서 뷰 항목을 검사하려면 다음 단계를 따르세요.
Google Cloud 콘솔에서 Knowledge Catalog 검색 페이지로 이동합니다.
검색창에 Bigtable 뷰의 이름 또는 ID를 입력하거나 검색어를 입력한 후 Enter 키를 누릅니다.
다음 조건자를 사용하여 뷰를 검색할 수 있습니다.
- 모든 조회수:
VIEW - 승인된 뷰:
type=cloud-bigtable-authorized-view - 논리적 뷰:
type=cloud-bigtable-logical-view - 연속 구체화된 뷰:
type=cloud-bigtable-materialized-view - 지역별 조회수(예:
location=us-central1)
- 모든 조회수:
검색을 미세 조정하려면 필터를 클릭합니다.
검색 결과에서 뷰 이름을 클릭하여 항목 세부정보 페이지를 엽니다.
항목 세부정보 페이지에는 개요 정보, 시스템 관점(예: SQL 쿼리, 스키마, 하위 집합 정의), 연결된 커스텀 관점을 포함한 모든 항목 속성이 표시됩니다.
gcloud
Knowledge Catalog에서 뷰의 항목을 검사하려면 gcloud dataplex entries lookup 명령어를 사용합니다.
gcloud dataplex entries lookup "VIEW_RESOURCE_NAME" \
--project="PROJECT_ID" \
--location="LOCATION" \
--entry-group="@bigtable" \
--view="all"
다음을 바꿉니다.
VIEW_RESOURCE_NAME: 뷰의 Bigtable 리소스 경로 (선행//생략). 뷰 유형에 따라 리소스 경로를 구성합니다.- 승인된 뷰:
bigtable.googleapis.com/projects/PROJECT_ID/instances/INSTANCE_ID/tables/TABLE_ID/authorizedViews/VIEW_ID - 논리적 뷰:
bigtable.googleapis.com/projects/PROJECT_ID/instances/INSTANCE_ID/logicalViews/VIEW_ID - 연속 구체화된 뷰:
bigtable.googleapis.com/projects/PROJECT_ID/instances/INSTANCE_ID/materializedViews/VIEW_ID
- 승인된 뷰:
PROJECT_ID:Google Cloud 프로젝트의 고유 식별자입니다.INSTANCE_ID: Bigtable 인스턴스의 고유 식별자입니다.TABLE_ID: 승인된 뷰의 경우 뷰가 포함된 기본 테이블의 고유 식별자입니다.VIEW_ID: 뷰에 할당된 식별자입니다.LOCATION: Bigtable 인스턴스의 Knowledge Catalog 리전입니다 (예:us-central1).
출력은 시스템 관점과 연결된 커스텀 관점을 모두 포함하여 모든 항목 속성을 반환합니다. 출력에서 parentEntry 필드에는 상위 테이블 또는 인스턴스의 리전 항목 경로가 포함됩니다. Bigtable은 global 위치에만 테이블 및 인스턴스 항목을 저장하므로 이 리전 상위 항목에 액세스할 수 없습니다. 상위 테이블 또는 인스턴스 항목을 조회하려면 global을 위치로 지정합니다.
REST
Dataplex API를 사용하여 프로그래매틱 방식으로 뷰 항목을 조회하려면 인증된 HTTP GET 요청을 lookupEntry 메서드로 전송합니다.
curl -X GET \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
"https://dataplex.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION:lookupEntry?entry=projects/PROJECT_ID/locations/LOCATION/entryGroups/@bigtable/entries/VIEW_RESOURCE_NAME&view=ALL"
다음을 바꿉니다.
VIEW_RESOURCE_NAME: 뷰의 Bigtable 리소스 경로 (선행//생략). 뷰 유형에 따라 리소스 경로를 구성합니다.- 승인된 뷰:
bigtable.googleapis.com/projects/PROJECT_ID/instances/INSTANCE_ID/tables/TABLE_ID/authorizedViews/VIEW_ID - 논리적 뷰:
bigtable.googleapis.com/projects/PROJECT_ID/instances/INSTANCE_ID/logicalViews/VIEW_ID - 연속 구체화된 뷰:
bigtable.googleapis.com/projects/PROJECT_ID/instances/INSTANCE_ID/materializedViews/VIEW_ID
- 승인된 뷰:
PROJECT_ID:Google Cloud 프로젝트의 고유 식별자입니다.INSTANCE_ID: Bigtable 인스턴스의 고유 식별자입니다.TABLE_ID: 승인된 뷰의 경우 뷰가 포함된 기본 테이블의 고유 식별자입니다.VIEW_ID: 뷰에 할당된 식별자입니다.LOCATION: Bigtable 인스턴스의 Knowledge Catalog 리전입니다 (예:us-central1).
출력은 시스템 관점과 연결된 커스텀 관점을 모두 포함하여 모든 항목 속성을 반환합니다. 출력에서 parentEntry 필드에는 상위 테이블 또는 인스턴스의 리전 항목 경로가 포함됩니다. Bigtable은 global 위치에만 테이블 및 인스턴스 항목을 저장하므로 이 리전 상위 항목에 액세스할 수 없습니다. 상위 테이블 또는 인스턴스 항목을 조회하려면 global을 위치로 지정합니다.
필요한 역할
Knowledge Catalog에서 Bigtable 리소스 보기, 태그 지정, 검색의 권한 요구사항은 다릅니다. 일반적으로 조직의 주 구성원에게 작업을 수행하는 데 필요한 최소 역할을 부여합니다.
공개 및 비공개 관점을 볼 수 있는 권한
Bigtable 리소스에서 공개 및 비공개 관점을 보는 데 필요한 권한을 얻으려면 관리자에게 다음 IAM 역할을 부여해 달라고 요청하세요.
이러한 사전 정의된 역할에는 공개 및 비공개 관점을 보는 데 필요한 권한이 포함되어 있습니다. 정확히 다음과 같은 권한이 필요합니다.
bigtable.instances.getbigtable.clusters.getbigtable.tables.getdataplex.aspectTypes.get
뷰에는 다음 권한이 필요합니다.
- 승인된 뷰:
bigtable.authorizedViews.get - 논리적 뷰:
bigtable.logicalViews.get - 연속 구체화된 뷰:
bigtable.materializedViews.get
Bigtable 리소스를 검색할 수 있는 권한
Knowledge Catalog에서 Bigtable 리소스를 검색하는 데 필요한 권한을 얻으려면 관리자에게 다음 IAM 역할을 부여해 달라고 요청하세요.
이러한 사전 정의된 역할에는 Bigtable 리소스를 검색하는 데 필요한 권한이 포함되어 있습니다. 필요한 정확한 권한은 다음과 같습니다.
bigtable.instances.getbigtable.clusters.getbigtable.tables.get
뷰에는 다음 권한이 필요합니다.
- 승인된 뷰:
bigtable.authorizedViews.get - 논리적 뷰:
bigtable.logicalViews.get - 연속 구체화된 뷰:
bigtable.materializedViews.get
Bigtable 메타데이터를 검색하고 볼 수 있는 권한
Bigtable 리소스의 메타데이터를 검색하고 보려면 다음 권한이 포함된 역할이 있어야 합니다.
- 인스턴스 및 테이블:
bigtable.instances.get,bigtable.clusters.get,bigtable.tables.get - 승인된 뷰:
bigtable.authorizedViews.get - 논리적 뷰:
bigtable.logicalViews.get - 연속 구체화된 뷰:
bigtable.materializedViews.get
roles/bigtable.viewer 또는 roles/bigtable.admin과 같은 사전 정의된 역할에는 일반적으로 이러한 권한이 포함됩니다.
Bigtable 리소스에 관점을 연결할 수 있는 권한
Knowledge Catalog에서 Bigtable 리소스에 관점을 연결하는 데 필요한 권한을 얻으려면 관리자에게 다음 IAM 역할을 부여해 달라고 요청하세요.
이러한 사전 정의된 역할에는 공개 및 비공개 관점을 추가하는 데 필요한 권한이 포함되어 있습니다. 정확히 다음과 같은 권한이 필요합니다.
bigtable.instances.updatebigtable.clusters.updatebigtable.tables.updatedataplex.aspectTypes.usedataplex.entries.update
뷰에는 다음 권한이 필요합니다.
- 승인된 뷰:
bigtable.authorizedViews.update - 논리적 뷰:
bigtable.logicalViews.update - 연속 구체화된 뷰:
bigtable.materializedViews.update
선택사항: 커스텀 역할 만들기
프로젝트 또는 조직 전체에서 Knowledge Catalog의 모든 Bigtable 메타데이터에 대한 전체 액세스 권한이 필요한 사용자에게 부여할 커스텀 역할을 만들 수 있습니다. 그런 다음 액세스 권한이 필요한 사용자 또는 서비스 계정을 커스텀 역할의 주 구성원으로 할당할 수 있습니다. 커스텀 역할에 대한 자세한 내용은 역할 및 권한을 참조하세요.
역할에 의미 있는 이름(예: Bigtable Dataplex 편집자)을 선택한 다음 액세스 권한이 필요한 주 구성원만 역할에 할당합니다. 설정 안내는 커스텀 역할 만들기 및 관리를 참조하세요.
커스텀 역할에 다음 권한을 부여합니다.
bigtable.instances.getbigtable.instances.updatebigtable.clusters.getbigtable.clusters.updatebigtable.tables.getbigtable.tables.updatebigtable.authorizedViews.getbigtable.authorizedViews.updatebigtable.logicalViews.getbigtable.logicalViews.updatebigtable.materializedViews.getbigtable.materializedViews.updatedataplex.aspectTypes.getdataplex.aspectTypes.use
자세한 내용은 Knowledge Catalog IAM 권한을 참조하세요. Bigtable 권한에 대한 설명은 권한을 참조하세요.
제한사항
다음 섹션에서는 Knowledge Catalog를 사용하여 Bigtable 메타데이터를 관리하기 전에 고려해야 하는 제약조건을 보여줍니다.
위치 제약조건
조직에서 위치 제약 조건을 적용하는 경우 Bigtable 리소스의 메타데이터 항목이 Knowledge Catalog에 동기화되지 않을 수 있습니다. Knowledge Catalog에서 위치 제약 조건을 적용하기 전에 생성된 모든 항목을 보관합니다.
Knowledge Catalog에서 리소스를 로드하도록 허용하려면 위치 정책에서 다음을 허용해야 합니다.
- 인스턴스 및 테이블의
global멀티 리전입니다. - 뷰의 인스턴스
knowledgeCatalogRegion과 일치하는 특정 리전입니다.
Column family 이름 예외
Dataplex API는 요청의 column family 이름에 마침표 (.)가 포함된 요청을 거부합니다. 예를 들어 column family 이름이 personal.info인 경우입니다.