AWS Bedrock
Amazon Nova、Anthropic Claude、その他の provider を含む、AWS Bedrock で利用可能な foundation model に AI agent を接続します。
概要
AWS Bedrock connector を使用すると、Amazon Bedrock を通じて foundation model に access できます。これは、infrastructure が AWS 上にあり Bedrock の managed model access を使用したい場合、または Amazon Nova など Bedrock でのみ利用できる model に access する必要がある場合に便利です。
connector は以下をサポートします。
- Bedrock Converse API を使用した chat completion
- Function calling(tool use)
Connector のセットアップ
AWS Bedrock connector を追加するには、以下の step を完了します。
- Squid Console に移動し、application を選択します。
- Connectors tab をクリックします。
- Available Connectors をクリックし、AWS Bedrock connector を見つけます。次に Add Connector をクリックします。
- 次の detail を指定します。
- Connector ID: 任意の unique ID(例:
my-bedrock)。これは code で参照するintegrationIdです。 - Region: Bedrock service が利用可能な AWS region(例:
us-east-1、us-west-2)。使用する model がこの region で有効になっていることを確認してください。 - API Key: AWS Bedrock API key。
- Models: この connector を通じて利用できる model を定義する JSON array。各 model には次の field が必要です。
| Field | Type | 説明 |
|---|---|---|
modelName | string | Bedrock model identifier(例: us.amazon.nova-2-lite-v1:0) |
displayName | string | model の human-readable name |
maxOutputTokens | number | model が response で生成できる最大 token 数 |
contextWindowTokens | number | token 単位の total context window size |
例:
[
{
"modelName": "us.amazon.nova-2-lite-v1:0",
"displayName": "Amazon Nova 2 Lite",
"maxOutputTokens": 5120,
"contextWindowTokens": 300000
}
]
- Add Connector をクリックします。
Connector の使用
構成後、connector ID と model name を指定して AI agent で connector を使用します。
Client code
await squid.ai().agent('my-agent').updateModel({
integrationId: 'my-bedrock',
model: 'us.amazon.nova-2-lite-v1:0',
});
request ごとに model を override することもできます。
Client code
const response = await squid
.ai()
.agent('my-agent')
.ask('Summarize our Q4 report', {
model: {
integrationId: 'my-bedrock',
model: 'us.amazon.nova-2-lite-v1:0',
},
});
Embeddings
Squid application が Squid の AWS region のいずれかで実行されている場合、knowledge base を作成する際に、Amazon Titan Text Embeddings v2(titan-embed-text-v2)が default で利用可能な embedding model として表示されます。これは Bedrock connector 自体とは別のものであり、追加 configuration は必要ありません。