bedrock-agent¶

自 Docker 镜像版本 0.0.33 起可用

Amazon Bedrock Agent 接口。

此提供程序允许您通过 Sample Connector for Bedrock 与 Amazon Bedrock Agents 进行交互。Bedrock Agents 帮助您构建能够通过连接到您的数据源和系统来执行任务的 AI 应用程序。

配置¶

通过 Bedrock API 调用 Amazon Bedrock Agents。您可以使用此提供程序配置您的 Bedrock Agent。

Amazon Bedrock Agents 文档解释了如何使用 Bedrock Agents 以及它们支持的功能。

注意：当前这是一个 agent 的最简单的调用，后续还有可能升级。

键	类型	必填	描述
region	string	是	部署 Bedrock Agent 的 AWS 区域（例如：”us-east-1”）
agentId	string	是	您的 Bedrock Agent 的 ID
agentAliasId	string	是	您的 Bedrock Agent 的别名 ID

配置示例：

{
  "region": "us-east-1",
  "agentId": "XXXXXXXXXX",
  "agentAliasId": "XXXXXXXXXX"
}

计费¶

调用 agent 时会开启 trace，因为 Bedrock 在 trace 里报告每次模型调用的 token 数。一次调用按所有调用模型的步骤（预处理、编排、后处理和路由分类器）的 inputTokens 与 outputTokens 之和计费。输入 token 按本模型的 price_in 计，输出 token 按 price_out 计，流式和非流式调用都一样。只对模型 token 计费，agent 的 action group 或知识库产生的费用不计入。

trace 只用于计费，不会发给客户端，也不会写入日志。

使用示例¶

以下是使用 Sample Connector for Bedrock 调用 Bedrock Agent 的示例：

curl http://localhost:8866/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Session-Id: YOUR_SESSION_ID" \
  -d '{
  "model": "hr-agent", 
  "messages": [
    {
      "role": "user",
      "content": "我不知道我的ID啊"
    }
  ]
}'

关于 Session-Id 的说明：您可以在调用的时候生成一个 Session-Id，保证您在调用过程中使用一致的值即可。Session-Id 最长 128 个字符，更长的会返回 HTTP 400。在当前实现中，这个提供器只会获取最新的一句用户的输入，所以在这个场景下，无需在 request 输入多轮对话。