はじめに
生成 AI（GenAI）モデルは、API とサービスを通じて他の製品やワークフローで利用できるようになります。非効率な API の使用、学習時間が長く複雑なモデルのトレーニング、不要なファインチューニング、未使用データの大量保持などにより、AI のコストは大幅に増加する可能性があります。
DoiT を AI プロバイダーと統合すると、AI のコストおよび使用状況データを集約でき、AI 支出の詳細な可視化と、プロジェクトやチームへのコストの直接的なアトリビューションが可能になります。
DoiT は次の AI プロバイダーとの統合に対応しています。
- Amazon Bedrock
- Google Cloud Vertex AI
- Azure Machine Learning（Microsoft Azure）
- Databricks
- Anthropic
- OpenAI
AWS、Google Cloud、または Microsoft Azure の請求アカウントをオンボーディング済みで、それぞれの AI 製品を使用している場合、GenAI Intelligence で関連する SKU を分解し、生成 AI ワークロードの詳細なコストと使用状況を表示するために、CUR と請求データを利用します。
利点
-
統一されたコスト構造：DoiT は、他のクラウドプロバイダーのデータと並行して AI のコストおよび使用状況データを統合できるため、クラウド支出を包括的に把握し、より良い財務意思決定を促進します。
-
可視性の向上：AI データを DoiT プラットフォームにインポートすると、Cloud Analytics や、Budgets、Allocations、Forecasting、Anomaly detection などの DoiT の各機能を使用して、AI のコストと使用状況を分析・監視できます。
主要な機能
-
GenAI Intelligence ダッシュボード。DoiT に接続した各 AI プロバイダーについて、あらかじめ用意された GenAI Intelligence ダッシュボードにより、AI のコストと使用状況を単一のダッシュボー ドで特定・追跡できます。データを共通のディメンションに正規化することで、複数の AI プロバイダーにまたがる使用状況を同時にグルーピングおよびレポートでき、プロジェクトや組織全体のデータも追跡できます。ダッシュボードを使用して、コスト最適化の実施タイミングや方法を判断し、パフォーマンスを監視し、正しいチームにコストをアロケーションしてください。
-
モデル使用状況。DoiT により、生成 AI モデルのコストを把握できます。これにより、予期しない支出、非効率なリソース配分、持続可能でない AI デプロイメントの可能性を把握するのに役立ちます。
-
API コール。アプリケーションに AI を統合する際は、API の使用状況とコストを定期的に確認することが重要です。非効率な API の使用により、AI コストは大幅に増加する可能性があります。
-
ファインチューニング。既存モデルのファインチューニングには、学習データに基づいてモデルの重みを調整するための多大な計算リソースが必要であり、コストが急速に増大します。ファインチューニングのコストを監視することで、費用対効果の高い形で望ましい性能向上が得られているかを確認できます。