メインコンテンツまでスキップ

AWS Bedrock

Icon-Architecture/48/Arch_Amazon-Bedrock_48
Amazon Nova、Anthropic Claude、その他の provider を含む、AWS Bedrock で利用可能な foundation model に AI agent を接続します。​

概要​

AWS Bedrock connector を使用すると、Amazon Bedrock を通じて foundation model に access できます。これは、infrastructure が AWS 上にあり Bedrock の managed model access を使用したい場合、または Amazon Nova など Bedrock でのみ利用できる model に access する必要がある場合に便利です。

connector は以下をサポートします。

  • Bedrock Converse API を使用した chat completion
  • Function calling(tool use)

Connector のセットアップ​

AWS Bedrock connector を追加するには、以下の step を完了します。

  1. Squid Console に移動し、application を選択します。
  2. Connectors tab をクリックします。
  3. Available Connectors をクリックし、AWS Bedrock connector を見つけます。次に Add Connector をクリックします。
  4. 次の detail を指定します。
  • Connector ID: 任意の unique ID(例: my-bedrock)。これは code で参照する integrationId です。
  • Region: Bedrock service が利用可能な AWS region(例: us-east-1、us-west-2)。使用する model がこの region で有効になっていることを確認してください。
  • API Key: AWS Bedrock API key。
  • Models: この connector を通じて利用できる model を定義する JSON array。各 model には次の field が必要です。
FieldType説明
modelNamestringBedrock model identifier(例: us.amazon.nova-2-lite-v1:0)
displayNamestringmodel の human-readable name
maxOutputTokensnumbermodel が response で生成できる最大 token 数
contextWindowTokensnumbertoken 単位の total context window size

例:

[
{
"modelName": "us.amazon.nova-2-lite-v1:0",
"displayName": "Amazon Nova 2 Lite",
"maxOutputTokens": 5120,
"contextWindowTokens": 300000
}
]
  1. Add Connector をクリックします。

Connector の使用​

構成後、connector ID と model name を指定して AI agent で connector を使用します。

Client code
await squid.ai().agent('my-agent').updateModel({
integrationId: 'my-bedrock',
model: 'us.amazon.nova-2-lite-v1:0',
});

request ごとに model を override することもできます。

Client code
const response = await squid
.ai()
.agent('my-agent')
.ask('Summarize our Q4 report', {
model: {
integrationId: 'my-bedrock',
model: 'us.amazon.nova-2-lite-v1:0',
},
});

Embeddings​

Squid application が Squid の AWS region のいずれかで実行されている場合、knowledge base を作成する際に、Amazon Titan Text Embeddings v2(titan-embed-text-v2)が default で利用可能な embedding model として表示されます。これは Bedrock connector 自体とは別のものであり、追加 configuration は必要ありません。