计划部署

请在部署前检查以下所有的考虑因素：

可部署区域

此解决方案使用的服务，或 Amazon EC2 实例类型目前可能并非在所有 AWS 区域都可用。请在提供所需服务的 AWS 区域中启动此解决方案。

已验证可部署的区域

区域名称	验证通过
美国东部 (弗吉尼亚北部)
美国西部 (俄勒冈)

如您在未经验证的区域进行部署，可能需要进行以下处理，或面临以下问题：

在亚马逊云科技中国区域部署

请参见在亚马逊云科技中国区域部署

部署该解决方案需要管理员或与之相当的权限。由于组件较多，我们暂不提供最小权限列表。

每个AWS区域的每个AWS账户都有关于可以创建的资源数量的配额，您可以在AWS控制台中使用 Service Quota 工具了解服务配额。如该服务配额可提升，您可以通过该工具并自助式开立工单提升服务配额。

与该解决方案相关的主要服务配额为：

AWS 服务	配额条目	预估使用量
Amazon EC2	Running On-Demand G and VT instances	按最大并发GPU实例数量
Amazon EC2	All G and VT Spot Instance Requests	按最大并发GPU实例数量
Amazon SNS	Messages Published per Second	按最大并发请求数

除此之外，部署时需要考虑以下服务配额：

AWS 服务	配额条目	预估使用量
Amazon VPC	VPCs per Region	1
Amazon VPC	NAT gateways per Availability Zone	1
Amazon EC2	EC2-VPC Elastic IPs	1
Amazon S3	General purpose buckets	每个队列1个

您需要运行时来部署Stable Diffusion模型并提供API访问。

目前有多个社区Stable Diffusion运行时可用:

您也可以选择其他运行时，或构建自己的运行时。您需要将运行时打包为容器镜像，以便在 EKS 上运行。

您需要充分了解并遵守您所使用的 Stable Diffusion 运行时的许可证条款。

示例运行时

您可以使用社区提供的示例 Dockerfile 构建 Stable Diffusion Web UI 和 ComfyUI 的运行时容器镜像。请注意，该镜像仅用于技术评估和测试用途，请勿将该镜像部署至生产环境。

模型存储

默认情况下，该解决方案会将模型加载至/opt/ml/code/models目录，请确保您的运行时被配置成从该目录读取模型。

您需要将运行时的mmap关闭以获得最高性能。

SD Web UI运行时注意事项

对于SD Web UI运行时，根据运行模型的不同，运行时分为静态运行时（预加载模型）和动态运行时（按需加载模型）。