SDXL-Turbo 模型卡片

<!-- 简要概述该模型是什么/做什么。 --> SDXL-Turbo 是一种快速的文本生成图像模型，可以在单次网络评估中根据文本提示合成逼真的图像。 实时演示可在此处获取：http://clipdrop.co/stable-diffusion-turbo

请注意：商业用途请参考 https://stability.ai/license。

模型详情

模型描述

SDXL-Turbo 是 SDXL 1.0 的蒸馏版本，专为实时合成而训练。 SDXL-Turbo 基于一种称为对抗扩散蒸馏（ADD）的新颖训练方法（见技术报告），该方法允许在 1 到 4 步内以高图像质量对大规模基础图像扩散模型进行采样。 这种方法使用分数蒸馏来利用大规模现成的图像扩散模型作为教师信号，并结合对抗损失以确保即使在一步或两步采样的低步数情况下也能保持高图像保真度。

• 开发者： Stability AI
• 资助方： Stability AI
• 模型类型： 文本生成图像模型
• 微调自模型： SDXL 1.0 Base

模型来源

出于研究目的，我们推荐使用我们的 generative-models Github 仓库，该仓库实现了最流行的扩散框架（包括训练和推理）。

• 仓库： https://github.com/Stability-AI/generative-models
• 论文： https://stability.ai/research/adversarial-diffusion-distillation
• 演示： http://clipdrop.co/stable-diffusion-turbo

评估

上面的图表评估了用户对 SDXL-Turbo 与其他单步和多步模型的偏好。 在单步评估时，SDXL-Turbo 在图像质量和提示词遵循方面比在四步（或更少步数）评估的 LCM-XL 更受人类投票者青睐。 此外，我们发现对 SDXL-Turbo 使用四步可以进一步提高性能。 关于用户研究的详细信息，请参阅研究论文。

用途

直接使用

该模型旨在用于非商业和商业用途。您可以在此许可下将此模型用于非商业或研究目的。可能的研究领域和任务包括

• 生成模型研究。
• 生成模型实时应用研究。
• 实时生成模型影响研究。
• 安全部署可能生成有害内容的模型。
• 探索和理解生成模型的局限性和偏见。
• 艺术作品生成以及设计和其它艺术流程中的应用。
• 教育或创意工具中的应用。

商业用途请参考 https://stability.ai/membership。

排除的用途如下所述。

Diffusers

pip install diffusers transformers accelerate --upgrade

• 文本生成图像：

SDXL-Turbo 不使用 guidance_scale 或 negative_prompt，我们通过 guidance_scale=0.0 禁用它。 该模型最好生成 512x512 尺寸的图像，但更高的图像尺寸也可以工作。 单步就足以生成高质量图像。

from diffusers import AutoPipelineForText2Image
import torch

pipe = AutoPipelineForText2Image.from_pretrained("stabilityai/sdxl-turbo", torch_dtype=torch.float16, variant="fp16")
pipe.to("cuda")

prompt = "A cinematic shot of a baby racoon wearing an intricate italian priest robe."

image = pipe(prompt=prompt, num_inference_steps=1, guidance_scale=0.0).images[0]

• 图像生成图像：

当使用 SDXL-Turbo 进行图像生成图像时，请确保 num_inference_steps * strength 大于或等于 1。图像生成图像管道将运行 int(num_inference_steps * strength) 步，例如在下面的示例中 0.5 * 2.0 = 1 步。

from diffusers import AutoPipelineForImage2Image
from diffusers.utils import load_image
import torch

pipe = AutoPipelineForImage2Image.from_pretrained("stabilityai/sdxl-turbo", torch_dtype=torch.float16, variant="fp16")
pipe.to("cuda")

init_image = load_image("https://huggingface.co/datasets/huggingface/documentation-images/resolve/main/diffusers/cat.png").resize((512, 512))

prompt = "cat wizard, gandalf, lord of the rings, detailed, fantasy, cute, adorable, Pixar, Disney, 8k"

image = pipe(prompt, image=init_image, num_inference_steps=2, strength=0.5, guidance_scale=0.0).images[0]

超出范围的用途

该模型并未经过训练来生成人物或事件的真实或事实性表征，因此使用该模型生成此类内容超出了该模型的能力范围。 该模型不应以任何违反 Stability AI 可接受使用政策的方式使用。

局限性和偏见

局限性

• 生成的图像为固定分辨率（512x512 像素），模型无法实现完美的逼真度。
• 模型无法渲染清晰的文本。
• 面部和人物可能无法正确生成。
• 模型的自编码部分是有损的。

建议

该模型旨在用于非商业和商业用途。

如何开始使用该模型

请查看 https://github.com/Stability-AI/generative-models