コストのアノリー
DoiT Anomaly Detection(アノマリー検出)は、Google Cloud、Amazon Web Services、Microsoft Azure、Oracle Cloud Infrastructure (OCI)、Snowflake、Databricks、Datadog、OpenAI、Anthropic - Claude.ai、ClickHouse Cloud、Cloudflare、Cursor、Elastic Cloud、GitHub、Grafana Cloud、Vercel におけるコストスパイクをエンドツーエンドで監視します。
この検出サービスは、時系列モデリング を活用してデータを監視し、クラウド環境における支出トレンドを分析します。DoiT の顧客全体にわたる請求パターンを特定し、クラウド支出を予測するとともに、より正確な結果を提供するため継続的に改善されています。確立された支出行動と一致しない請求レコードは、潜在的なアノマリーとして識別されます。DoiT コンソールは、コンtributors の一覧 や AI 分析 などの詳細情報を提供し、調査や必要に応じた是正措置の実施を支援します。
以下のセクションでは、DoiT Anomaly Detection の仕組みについて説明します。
ソースデータ
DoiT Anomaly Detection は、2 種類のソースデータをサポートします。
-
請求データ: クラウドプロバイダおよびサードパーティプラットフォームによるコストと使用状況のデータ。例: AWS CUR、Google Cloud Billing データエクスポート、Azure billing export など。
-
リアルタイム使用状況データ: ほぼリアルタイムのコストアノマリー検出のために、DoiT はリアルタイムの使用状況データを活用し、以下のサービスのコ ストを推定します。
-
Amazon Elastic Compute Cloud (EC2)、Amazon Relational Database Service (RDS): AWS CloudTrail から得られる使用状況に基づき、オンデマンドコストを推定します。
-
Google Compute Engine (GCE): Google Cloud Audit Logs から得られる使用状況に基づき、オンデマンドコストを推定します。
-
Google BigQuery: BigQuery API とメタデータビューから得られる使用状況に基づき、オンデマンドコストを推定します。
-
ベースライン期間
アノマリー検出システムは、新規登録後すぐにデータの分析を開始します。しかし、正確な検出のためには十分な履歴データが必要です。そのため、機械学習モデルが請求データとリアルタイムデータに基づく使用パターンについて信頼できるベースラインを確立できるように、請求データについては 14 日間、リアルタイム使用状況データについては 4 日間 のベースライン期間を設けています。
アノマリー検出が業務にとって重要な場合は、クラウド支出に大きな変更を加える前に、このベースライン期間が経過するのを待つことを推奨します。ベースライン期間中は、いかなる支出もアノマリーとして分類されません。
集約レベル
アノマリー検出システムは、時間単位の時系列モデルを活用して、SKU レベル と サービスレベル の両方でコストおよび使用状況データを監視・評価します。履歴パターンを分析し、それを現在の使用トレンドと比較することで、重要なコストスパイクを検出するよう設計されています。アノマリーなコストスパイクが検出されると、アノマリーアラート がトリガーされます。
請求データ
請求データについて、アノマリー検出システムは同一の請求データを用いて、SKU レベルとサービスレベルの両方でコストを評価します。SKU レベルの監視は、きめ細かなプロジェクトスコープのアラートを生成し、検出されるアノマリーの大部分を占めます。サービスレベルの監視は、サービス内のプロジェクトおよび SKU をまたいだ支出を集約し、関連する複数のスパイクを 1 つのノイズの少ないアラートに統合できます。
サービスレベルの監視は、新しく作成されたプロジェクトや新しい SKU による早期のスパイクにも有効です。新しいプロジェクトが作成されたり、新しい SKU でコストが発生し始めると、新しい時系列 が識別され、コストデータの収 集が開始されます。しかし、新しい時系列は、十分な履歴データポイント がないため、最初の数日間は SKU レベルのアノマリー候補を生成しません。「通常」の支出が新しい時系列に対してまだ確立されていない間でも、新たに発生したコストによってサービスレベルではすでにアノマリーなスパイクが発生している可能性があります。
リアルタイム使用状況データ
2025 年 5 月 21 日以降、時間単位の粒度を持つリアルタイム使用状況データ向けアノマリー検出システムは、高解像度サンプリングによるノイズを軽減するため、サービスレベルのみで動作します。
評価範囲
システムによって評価されるデータサンプルは、次のように分割されます。
- 請求アカウント単位
- プロジェクト/アカウント単位
- サービス単位
- SKU 単位
- アロケーション単位(該当する場合)
評価範囲は集約レベルによって異なります。
- SKU レベル: リージョンをまたいで、SKU 単位、サービス単位、およびプロジェクト/アカウント単位
- サービスレベル: プロジェクトおよび SKU をまたいだサービス単位
検出システムは、複数サービスのコス トを合算して評価することはありません。
判定基準
誤検知を軽減するため、アノマリー検出システムは、以下のすべての条件を満たした場合にのみ、SKU またはサービスの支出をアノマリーとして分類します。
請求データ
-
日次支出が最小閾値に達していること:
-
SKU レベルのアノマリー: US$50
-
サービスレベルのアノマリー: US$100
-
-
日次支出が、月次の季節性 を上回っていること。
-
日次支出が、システムが定義する「通常範囲」(または「許容範囲」)の上限を超えていること。
リアルタイム使用状況データ
-
時間当たりの支出が US$10 の最小閾値に達していること。
-
時間当たりの支出が、システムが定義する「通常範囲」(または「許容範囲」)の上限を超えていること。
感度
アノマリー検出システムは、直前の期間のデータで学習した時系列モデルを用いて、期待される支出を予測します。通常範囲は、DoiT 固有の予測区間 によって決定されます。これは、可能な値のうち一定のパーセンテージが収まると推定される区間です。例えば、90% の予測区間には、新しいデータポイントが取り得る可能な値のうち、モデルにフィットした過去の値に基づいて 90.00% が含まれます。通常範囲は、コストアノマリーチャート 上では網掛けされた領域として表示されます。
DoiT コンソールでは、アノマリー感度設定 を調整することで予測区間を変更し、それにより通常範囲を再定義できます。感度を高くすると範囲が狭くなり、検出されるアノマリーの数が増加します。一方、感度を低くすると範囲が広がり、アノマリーの数は減少します。
検出の遅延
検出の遅延は、ソースデータの種類によって異なります。
請求データ
ほとんどの場合、集約されたコストが事前に定義された閾値を超えると、請求データのアノマリーは 12 時間以内に報告されます。
アノマリー検出エンジンは、使用状況およびコストデータを定期的に評価します。SKU レベルおよびサービスレベルのアノマリーについては、評価は 2 時間ごとに実行されます。
検出の遅延は主に、クラウドプロバイダが使用状況およびコストデータを報告する間隔の違いに関連しています。あわせて データ遅延 も参照してください。
リアルタイム使用状況データ
アノマリー検出エンジンは、リアルタイム使用状況データを 30 分ごとに評価します。リアルタイム使用状況データによって検出されたアノマリーは、使用から 1 時間以内に報告されます。
動的な更新
継続中のアノマリーは Active と見なされます。検出システムは、利用可能な最新データでシステムを継続的に更新しながら、Active なアノマリーを監視し続けます。
アノマリーは、次のいずれかの条件が満たされると Inactive になります。
-
コストが新しい通常範囲内に戻った場合。