Amazon SageMaker InferenceがOpenAI互換APIに対応

概要

Amazon SageMaker Inferenceは、OpenAI互換APIをサポートするようになり、OpenAI SDK、LangChain、Strands Agentsなどの既存ツールをSageMakerエンドポイントに直接接続できるようになりました。エンドポイントURLを変更するだけで、カスタム統合コード、SDKラッパー、またはコードの書き換えは不要です。この機能は米国東部（バージニア北部）、米国西部（オレゴン）、米国東部（オハイオ）、アジアパシフィック（ムンバイ）、アジアパシフィック（ジャカルタ）、欧州（アイルランド）、欧州（フランクフルト）、南米（サンパウロ）、アジアパシフィック（東京）、アジアパシフィック（ソウル）、欧州（ロンドン）、アジアパシフィック（シンガポール）、アジアパシフィック（シドニー）、カナダ（中央）の14リージョンで利用可能です。

何が変わったか

• ・SageMaker InferenceエンドポイントがOpenAI互換APIに対応し、エンドポイントURLの変更のみで既存SDK呼び出しが動作
• ・OpenAI SDK、LangChain、Strands Agentsなどのフレームワークがそのまま利用可能に
• ・14のAWSリージョン（米国3、欧州3、アジアパシフィック6、南米1、カナダ1）で利用可能

影響

既存ユーザーには影響がなく、新規にOpenAI互換APIの利用を希望するユーザーはエンドポイントURLの変更だけで移行可能です。移行に際して認証方式の変更やカスタム統合コードの作成は不要です。

対象ユーザー

OpenAI SDK、LangChain、Strands Agentsを使用しているML エンジニアおよび開発者で、SageMakerでモデル推論を実行したいユーザー

原文タイトル

Amazon SageMaker AI now supports OpenAI-compatible APIs for inference endpoints