Amazon Bedrock、bedrock-mantleエンドポイントのCloudWatchメトリクス対応
Amazon Bedrock adds Amazon CloudWatch metrics for OpenAI- and Anthropic-compatible APIs
概要
Amazon Bedrockのbedrock-mantleエンドポイントがAmazon CloudWatchメトリクスに対応し、OpenAIおよびAnthropicと互換性のあるAPIの推論トラフィックを監視できるようになりました。推論数、入出力トークン総数、クライアントエラー数などをアカウント、プロジェクト、モデル、プロジェクト・モデル単位で追跡可能です。US East(N. Virginia、Ohio)、US West(Oregon)、Asia Pacific(Jakarta、Mumbai、Sydney、Tokyo)、Europe(Frankfurt、Ireland、London、Milan、Stockholm)、South America(São Paulo)の全リージョンで利用できます。
何が変わったか
- ・bedrock-mantleエンドポイントのCloudWatchメトリクス対応(AWS/BedrockMantleネームスペース)
- ・推論数、入出力トークン総数、クライアントエラー数をアカウント、プロジェクト、モデル、プロジェクト・モデル単位で計測・追跡可能
- ・US East(N. Virginia、Ohio)、US West(Oregon)、Asia Pacific(Jakarta、Mumbai、Sydney、Tokyo)、Europe(Frankfurt、Ireland、London、Milan、Stockholm)、South America(São Paulo)で利用可能
影響
既存のbedrock-runtimeエンドポイントユーザーと同様の監視方法が使用でき、追加の統合作業は不要です。CloudWatch Consoleから直接メトリクスを確認できます。
対象ユーザー
Amazon Bedrock上でOpenAIまたはAnthropic互換APIを使用して本番環境の生成AI応用システムを運用するエンジニアおよびオペレーション担当者
まとめ
Bedrock上でOpenAI・Anthropic互換APIの推論トラフィックをCloudWatchで監視・管理できるようになった。
原文タイトル
Amazon Bedrock adds Amazon CloudWatch metrics for OpenAI- and Anthropic-compatible APIs
AWS公式アナウンスを読む →