BigQuery Intelligence
サーバーレスでマルチクラウド対応のデータ分析プラットフォームである Google Cloud BigQuery の料金は主に 2 つの要素で構成されます。クエリ処理のコストに対する compute pricing と、データ保存のコストに対する storage pricing です。
DoiT BigQuery Intelligence は BigQuery の利用状況を分析し、コンピュートとストレージの両面で実行可能な推奨事項を生成します。これにより、クラウド支出の効率を最大化し、クエリ性能を改善し、データの拡大に伴う持続的な成長を実現します。
Dataset and audit log sink
BigQuery Intelligence は、次をあなたのbilling projectに作成します。
-
必要な権限でサービスアカウントを更新した際に作成され、サービスアカウントを削除した際に削除される、
doitintl_cmp_bqという名前のデータセット。 -
すべての BigQuery ジョブ向けの、
<Billing_Project_ID>.doitintl_cmp_bq.cloudaudit_googleapis_com_data_accessという名前の監査ログシンク。
Queries run by BigQuery Intelligence
BigQuery Intelligence は次のプロセスを実行します。
-
テーブル検出プロセス:テーブルのメタデータを収集します。このプロセスはスケジュールで実行され、収集したテーブルメタデータを
doitintl_cmp_bqデータセット内のtables_discovery_v2というテーブルに書き込みます。 -
ダッシュボード更新プロセス:BigQuery Intelligence のダッシュボードを更新します。
- コスト削減情報と潜在的な削減額を提供するためのコストシミュレーションクエリを毎日実行します。
- 詳細な BigQuery 利用状況を提供するためのインテリジェンス計算クエリを毎日実行します。
-
リザベーションマッピングプロセス:キャパシティ料金モデルを使用している場合、このプロセスは任意のジョブが完了した時点で使用されていたエディションとキャパシティコミットメントをマッピングします。毎時 1 回実行され、収集したデータを
doitintl_cmp_bqデータセット内の次のテーブルに書き込みます。- 関連付けられたエディションとアロケーション先のプロジェクトを含むリザベーション一覧を保持する
reservations_mapping_historyテーブル。 - その日にアクティブだったキャパシティコミットメントの情報を含む
capacity_commitments_historyテーブル。
- 関連付けられたエディションとアロケーション先のプロジェクトを含むリザベーション一覧を保持する
BigQuery Intelligence cost
BigQuery Intelligence はあなたに代わって doitintl_cmp_bq データセットを作成・維持し、分析データを提供するために、billing project内でクエリを実行します。
クエリの実行にかかる実コストは、ログのボリュームと選択したコンピュートの料金モデルに依存します。Billing プロジェクトがreservation に割り当てられている場合、BigQuery Intelligence のジョブは割り当てられたリザベーションのスロットを使用します。
大量の過去ジョブがある場合、サービスアカウントのセットアップ時に過去 30 日分のバックフィルを行うため、BigQuery Streaming Inserts のコストが増加する場合があります。
Slots autoscaling
BigQuery のコンピュートキャパシティはslots で測定されます。BigQuery のキャパシティをリザーブする際、BigQuery editions を有効にし、エディションに関連付けられたリザベーションまたはキャパシティコミットメントを作成できます。
ベースラインスロットとオートスケーリングスロットのあるリザベーションを使用する場合、次に注意してください。
-
リザベーションに割り当てられたベースラインスロットについては常に課金されます。オートスケーリングスロットは、すべてのベースラインスロット(および該当する場合はアイドルスロット)が消費された後にのみ追加されます。
-
スロット数のスケールは常に 50 の倍数で行われ、1 ステップで 50 を超えるスロットにスケールする場合があります。使用の有無に関わらず、スケールしたスロット数に対して課金されます。
-
オートスケールされたキャパシティは少なくとも 60 秒間(スケールダウンの猶予期間)保持されます。
BigQuery のコスト計算にあたっては、時間の経過に伴うリザベーション の変化を追跡するために RESERVATIONS_TIMELINE view を使用し、ジョブが完了した時点で使用されていたエディションとコミットメントを特定するためにリザベーションマッピングプロセスを実行します。
オートスケーリングイベント中に複数のジョブがある場合、ベースラインスロットを使用したジョブとオートスケールスロットを使用したジョブが区別されないため、加重平均に基づく価格を使用します。結果として、全体の合計は概ね正確である一方、個々のジョブまたはリザベーションのコストはそうならない場合があります。
Table type limitations
BigQuery Intelligence は、BigQuery のクローンおよびスナップショットのストレージコストを計算できません。これらのテーブルタイプは、データ共有や親テーブルからの継承に依存する複雑な課金モデルを持っています。BigQuery の API で利用可能なメタデータでは、ストレージ消費を正確にモデル化するための情報が十分ではありません。
ただし、クローンとスナップショットのコストは、Active logical storage や Long-term logical storage などの BigQuery SKU の下で、Google Cloud の請求エクスポートから集計データに引き続き含まれます。クローンとスナップショットからの個別のコスト寄与は、BigQuery Intelligence のストレージ分析と推奨事項からのみ除外されます。