メインコンテンツまでスキップ

AWS Bedrock

Icon-Architecture/48/Arch_Amazon-Bedrock_48
Amazon Nova、Anthropic Claude、その他の provider を含む、AWS Bedrock で利用可能な foundation model に AI agent を接続します。

概要

AWS Bedrock connector を使用すると、Amazon Bedrock を通じて foundation model に access できます。これは、infrastructure が AWS 上にあり Bedrock の managed model access を使用したい場合、または Amazon Nova など Bedrock でのみ利用できる model に access する必要がある場合に便利です。

connector は以下をサポートします。

  • Bedrock Converse API を使用した chat completion
  • Function calling(tool use)

Connector のセットアップ

AWS Bedrock connector を追加するには、以下の step を完了します。

  1. Squid Console に移動し、application を選択します。
  2. Connectors tab をクリックします。
  3. Available Connectors をクリックし、AWS Bedrock connector を見つけます。次に Add Connector をクリックします。
  4. 次の detail を指定します。
  • Connector ID: 任意の unique ID(例: my-bedrock)。これは code で参照する integrationId です。
  • Region: Bedrock service が利用可能な AWS region(例: us-east-1us-west-2)。使用する model がこの region で有効になっていることを確認してください。
  • API Key: AWS Bedrock API key。
  • Models: この connector を通じて利用できる model を定義する JSON array。各 model には次の field が必要です。
FieldType説明
modelNamestringBedrock model identifier(例: us.amazon.nova-2-lite-v1:0
displayNamestringmodel の human-readable name
maxOutputTokensnumbermodel が response で生成できる最大 token 数
contextWindowTokensnumbertoken 単位の total context window size

例:

[
{
"modelName": "us.amazon.nova-2-lite-v1:0",
"displayName": "Amazon Nova 2 Lite",
"maxOutputTokens": 5120,
"contextWindowTokens": 300000
}
]
  1. Add Connector をクリックします。

Connector の使用

構成後、connector ID と model name を指定して AI agent で connector を使用します。

Client code
await squid.ai().agent('my-agent').updateModel({
integrationId: 'my-bedrock',
model: 'us.amazon.nova-2-lite-v1:0',
});

request ごとに model を override することもできます。

Client code
const response = await squid
.ai()
.agent('my-agent')
.ask('Summarize our Q4 report', {
model: {
integrationId: 'my-bedrock',
model: 'us.amazon.nova-2-lite-v1:0',
},
});

Embeddings

Squid application が Squid の AWS region のいずれかで実行されている場合、knowledge base を作成する際に、Amazon Titan Text Embeddings v2(titan-embed-text-v2)が default で利用可能な embedding model として表示されます。これは Bedrock connector 自体とは別のものであり、追加 configuration は必要ありません。