メインコンテンツへスキップ

GenAI Intelligence

プロダクトやワークフロー全体で Generative AI(GenAI)サービスの採用が進むにつれて、API の非効率な利用、長時間のモデル学習、不要なファインチューニング、未使用データの大量保持などが原因で、AI コストが大幅に増加する可能性があります。

DoiT は複数プロバイダーから AI コストと利用状況のデータを集約し、AI 支出を詳細な粒度で可視化するとともに、プロジェクトやチームに直接コストをアロケーションできるようにします。

利点と機能

  • 統合されたコスト構造: AI コストを他のクラウドコストと並べて表示し、インフラ全体の支出を把握することで、より適切な財務判断を行うことができます。AI データを DoiT プラットフォームにインポートすると、Cloud AnalyticsBudgetsAllocationsForecastingAnomaly detection などの DoiT 機能を利用して、AI コストと利用状況を分析・監視できるようになります。

  • GenAI Intelligence ダッシュボード: 各 AI プロバイダーを DoiT に接続すると、あらかじめ用意された GenAI Intelligence ダッシュボードにより、単一の画面から AI コストと利用状況を特定および追跡できます。データを共通のディメンションに正規化することで、複数の AI プロバイダーにまたがる利用状況をグルーピング・レポートし、プロジェクトや組織全体でデータを追跡できるようにします。

  • AI ワークロード全体の可視性: GenAI 関連のすべての SKU にわたってデータを追跡できるため、推論・トレーニング・ファインチューニング・埋め込み・RAG(Retrieval-Augmented Generation)など、ユースケース別に支出をブレークダウンできます。これにより、どのユースケースがコストを押し上げているのかを特定し、どこを最適化すべきかについてデータに基づいた判断を行うことができます。詳細は Work with AI data を参照してください。

対応している GenAI プロバイダー

DoiT は、以下の GenAI プロバイダーとのインテグレーションをサポートします。

  • クラウドプラットフォーム: すでに クラウドプロバイダー(AWS、GCP、Azure)のオンボーディング を行っている場合、DoiT はクラウドの請求データを利用して、以下に示す各 AI プロダクトに関連する AI ワークロード向けの SKU をブレークダウンします。追加の設定は不要です。

    • AWS(Amazon Bedrock、Kiro)

    • Google Cloud(Vertex AI)

    • Microsoft Azure(Azure Machine Learning)

  • Anthropic:

  • Cursor: Connect Cursor

  • Databricks: Connect Databricks。DoiT は請求データから利用状況およびコストデータを抽出します。

  • OpenAI: Connect OpenAI。DoiT は OpenAI Platform API の organization/costs および organization/usage を介して、利用状況およびコストデータにアクセスします。

  • Snowflake: すでに Snowflake を接続 している場合、DoiT は請求データから、直接のモデル推論、エージェント、および AI コーディングサービスを自動的に分類します。追加の GenAI 設定は不要です。DoiT は AI SQL 関数と Cortex Agents について詳細なアトリビューションを提供し、その他の認識された AI サービスは集計された GenAI コストとして表示されます。完全なユーザーアトリビューションには、SECURITY_VIEWER データベースロールが必要です。詳細は Enable GenAI user attribution および Work with Snowflake data を参照してください。