Google Cloud Observability ストレージの概要

Google Cloud Observability は、Cloud Logging、Cloud Monitoring、Cloud Trace のテレメトリー データを構造化データ保存用のコンテナに保存して整理します。ストレージ モデルを理解すると、データ所在地の構成、暗号化ポリシーの適用、BigQuery などの分析サービスへのテレメトリーの接続に役立ちます。

ログデータ

ログデータは、Logging がログデータの保存に使用するコンテナであるログバケットに保存されます。システムがGoogle Cloud プロジェクト、請求先アカウント、フォルダ、組織を作成すると、Cloud Logging はリソースに _Required と _Default という名前のログバケットを作成します。

  • ロケーション: Cloud Logging のデフォルトのリソース設定でロケーションが指定されていない限り、Cloud Logging によってこれらのバケットのロケーションが選択されます。バケットの作成後にロケーションを変更することはできません。

  • 暗号化: Cloud Logging のデフォルトのリソース設定で顧客管理の暗号鍵(CMEK)が指定されていない限り、これらのバケットはGoogle-owned and Google-managed encryption keys を使用します。バケットの作成後にこの構成を変更することはできません。

デフォルトでは、ログデータはデータの生成元の Google Cloud プロジェクト、請求先アカウント、フォルダ、組織に保存されます。ただし、Logging を構成して、ログデータをその生成元のリソースから別のプロジェクトや一元的なログバケットなどの別の場所に転送できます。詳細については、ログエントリを保存するとログエントリをルーティングするをご覧ください。

Cloud Logging を使用すると、ログデータをリージョン化できます。

  • 組織のポリシーでは、新しいログバケットのロケーションを制限し、ログバケットで CMEK を使用するように要求できます。
  • 組織とフォルダの場合、Cloud Logging のデフォルトのリソース設定で次の構成を行うことができます。

    • 新しい _Required ログバケットと _Default ログバケットのロケーション
    • ログデータを暗号化するための Cloud Key Management Service 鍵
    • デフォルト シンクの構成

    リソース階層の子孫は、デフォルトのリソース設定を構成しない限り、これらの設定を自動的に継承します。たとえば、組織の Cloud Logging のデフォルトのリソース設定を構成すると、組織のリソース階層内のすべてのフォルダとプロジェクトがこれらの設定を自動的に継承します。ただし、その組織のフォルダに Cloud Logging のデフォルトのリソース設定を設定すると、フォルダレベルの設定が使用されます。

    Cloud Logging のデフォルトのリソース設定は、既存のリソースではなく、新しいリソースにのみ適用されます。詳細については、Cloud Logging のデフォルトのリソース設定を構成するをご覧ください。

指標データ

指標データは、データの生成元の Google Cloud プロジェクトに保存されます。

ストレージ ポリシーについては、Monitoring のデータ所在地をご覧ください。

トレース データ

トレースデータは、_Trace という名前のオブザーバビリティ バケットによって管理されるデータセットに保存されます。データセットを保持するには、_Trace バケットが存在している必要があります。_Trace バケットは、自動または手動で作成できます。

  • 自動作成: アプリケーションまたは Google Cloud サービスからトレースデータを受信すると、システムによってバケットが自動的に作成されます。システムは、オブザーバビリティ バケットに該当するデフォルト設定を使用して、バケットのロケーションと暗号鍵を決定します。デフォルト設定を定義していない場合、システムはサポートされているロケーションを選択し、バケットは Google のデフォルトの暗号化を使用します。

    Cloud Run functions、Cloud Run、App Engine によって生成されたトレースデータでは、システムがオブザーバビリティ バケットを作成することはありません。これらのサービスからのスパンは、オブザーバビリティ バケットが存在する場合にのみ保存されます。

  • 手動作成: Observability API を使用して、 Google Cloud プロジェクトがトレースデータを受信する前に _Trace バケットを作成できます。バケットのロケーションを指定する必要があります。Cloud Key Management Service 鍵を指定できます。

    • 鍵を指定すると、システムはその鍵を使用して保存データを暗号化します。
    • Cloud KMS 鍵を指定しない場合、バケットの親リソースに適用されるデフォルト設定によって暗号鍵が決定されます。デフォルト設定で Cloud KMS 鍵が指定されている場合、その鍵で保存データが暗号化されます。それ以外の場合は、Google のデフォルトの暗号化が使用されます。

_Trace バケットが作成されると、システムはバケットに Spans という名前のデータセットと、データセットに _AllSpans という名前のビューも作成します。このビューには、データセット内のすべてのデータが含まれます。

詳しくは以下をご覧ください。

オブザーバビリティ ストレージ モデル

Observability API のストレージ モデルは、次のアーキテクチャに依存しています。

オブザーバビリティ バケット

オブザーバビリティ バケットは、データを保存するデータセットの管理エンティティです。オブザーバビリティ バケットは特定のロケーションにあり、データ保持ポリシーが適用されています。 Google Cloud サービスが Observability API を使用してデータを保存すると、システムはサービスの名前に基づいてオブザーバビリティ バケット、データを保存するデータセット、保存されたデータへの読み取りアクセスを提供するビューを作成します。たとえば、Cloud Trace サービスの場合、システムはシステム作成のバケット _Trace、データセット Spans、ビュー _AllSpans に名前を付けます。オブザーバビリティ バケットの構造については、Bucket をご覧ください。

Google Cloud Observability は、デフォルト設定と組織のポリシーを使用して、新しいオブザーバビリティ バケットのロケーションと暗号化モデルを決定します。既存のオブザーバビリティ バケットが組織の規制要件を満たしていない場合は、オブザーバビリティ バケットを再プロビジョニングできる可能性があります。

データセット

データセットにはデータが保存されます。システムは、データセットを管理するオブザーバビリティ バケットを作成するときに、1 つのデータセットを自動的に作成します。たとえば、システムが _Trace バケットを作成すると、Spans という名前のデータセットも作成され、トレースデータが保存されます。データセットの構造については、Dataset をご覧ください。

データセットのビュー

各データセットは 1 つ以上のビューをホストします。ビューは、データセット内のエントリのサブセットに対する読み取りアクセス権を提供します。システムは、データセットの作成時に 1 つのビューを作成します。このビューには、データセット内のすべてのデータが含まれます。ビューの名前はサービスによって異なります。たとえば、Cloud Trace サービスの場合、システムは Spans データセットに _AllSpans という名前のビューを作成します。ビューの構造については、View をご覧ください。

データセットのリンク

各データセットに含めることができるリンクは最大 1 つです。データセットのリンクを作成すると、リンクされた BigQuery データセットが作成されます。その後、BigQuery または BigQuery API を使用する他のサービスを使用して、データセット内のデータをクエリできます。リンクの構造については、Link をご覧ください。

システムはデータセットにリンクを自動的に作成しません。

たとえば、トレースデータは _Trace オブザーバビリティ バケット内の Spans データセットにあります。システムは、保存されているすべてのスパンを含む _AllSpans ビューをこのデータセットに作成します。

オブザーバビリティ バケットのデータ所在地

データを特定の場所に保存する、または顧客管理の暗号鍵(CMEK)を使用するというコンプライアンス要件または規制要件がある場合は、オブザーバビリティ バケットの組織のポリシーとデフォルト設定の両方を構成することをおすすめします。

組織、フォルダ、プロジェクトの場合、オブザーバビリティ バケットのデフォルト設定で次の構成を行うことができます。

  • デフォルトのストレージ ロケーション。
  • ロケーションごとに、デフォルトの Cloud Key Management Service 鍵。

システムがデフォルト設定を使用する方法は 2 つあります。

  • システムがオブザーバビリティ バケットを自動的に作成すると、デフォルト設定を使用してバケットのロケーションと暗号鍵が決定されます。デフォルト設定を定義していない場合、システムがロケーションを選択し、バケットは Google のデフォルトの暗号化を使用します。

  • API リクエストを発行してオブザーバビリティ バケットの作成を開始するときに、ロケーションを指定します。ただし、API リクエストの引数で鍵が指定されていない限り、システムはデフォルト設定で定義された Cloud KMS 鍵を自動的に使用してデータを暗号化します。

オブザーバビリティ バケットの親は常にプロジェクトであるため、バケットを作成すると、システムはまずプロジェクト レベルのデフォルト設定を検索します。それらが存在しない場合、システムは親の祖先でデフォルト設定を検索します。たとえば、フォルダのデフォルト設定を定義すると、デフォルト設定が構成されている子孫を除き、その設定がフォルダの子孫に適用されます。

組織のポリシーを使用して、新しいオブザーバビリティ バケットのロケーションを制限したり、CMEK の使用を要求したり、暗号化に使用できる Cloud KMS 鍵を制限したりすることもできます。CMEK の使用を必要とする組織のポリシーを構成する場合は、オブザーバビリティ バケットのデフォルト設定を構成する必要があります。そうしないと、システム作成のオブザーバビリティ バケットのプロビジョニングが失敗します。

詳細については、次のドキュメントをご覧ください。

制限事項

次の操作はできません。

  • オブザーバビリティ バケットを変更または削除する。
  • データセットを作成、削除、変更する。
  • ビューを作成、削除、変更する。
  • Google Cloud コンソールを使用して、バケット、データセット、ビュー、リンクを一覧表示します。

次のステップ