Amazon Bedrock、InvokeModel APIでのリクエストレベル利用属性付与機能を拡大
Amazon Bedrock expands support for request-level usage attribution
概要
Amazon Bedrockは、InvokeModelおよびInvokeModelWithResponseStream APIで、個別リクエストレベルでの利用属性付与機能をサポートしました。チーム、アプリケーション、環境、実験などの属性を追加して、モデル推論の利用状況を詳細に追跡できるようになりました。全てのAWS商用リージョンで利用可能です。
何が変わったか
- ・InvokeModelおよびInvokeModelWithResponseStream APIでリクエストレベルのメタデータ属性付与に対応
- ・ConversおよびConverseStream APIと同じリクエスト属性付与機能をInvokeModel系APIに拡張
- ・モデル呼び出しログで属性ベースの利用状況分析が可能に
- ・既存のアプリケーション推論プロファイル、IAMプリンシパルベース属性付与、プロジェクトレベル追跡、ワークスペースレベル追跡機能に加えて利用可能
影響
既存のBedrock利用者は、モデル呼び出しロギングを有効化し、推論リクエストにメタデータを追加することで利用開始でき、強制的な移行は不要です。
対象ユーザー
複数チーム・プロジェクト・環境でAmazon Bedrockを利用し、詳細な利用状況の可視化とコスト配分が必要な組織のエンジニアと管理者
まとめ
Amazon BedorockのInvokeModel APIがリクエストレベルでの利用属性付与に対応し、bedrock-runtimeエンドポイント全体で統一的な細粒度追跡が可能になった。
原文タイトル
Amazon Bedrock expands support for request-level usage attribution
AWS公式アナウンスを読む →