跳转至

bedrock-deepseek

自 Docker 镜像版本 0.0.23 起可用

LLM 统一接口。

用于向部署在 Amazon Bedrock 上的 DeepSeek 模型发送消息。此提供程序支持 Think 标签,这些标签在输出中会被渲染为 markdown 引用块。

配置

通过 Amazon Bedrock API 调用 DeepSeek 模型。此提供程序允许您配置和使用部署在 Bedrock 上的 DeepSeek 模型。

类型 是否必需 默认值 描述
modelId string 部署的 DeepSeek 模型的 ARN
regions string[] 或 string [“us-east-1”] 如果您已申请并指定了多个区域,则会随机选择一个区域进行调用。此功能可以有效缓解性能瓶颈。
maxTokens number 8192 默认的最大令牌数,对应标准 API 中的 max_tokens 参数。如果在 API 中未指定,将使用此值。

配置示例:

{
  "modelId": "arn:aws:sagemaker:region:xxxxx:endpoint/ds-endpoint",
  "regions": [
    "us-west-2"
  ],
  "maxTokens": 8192
}