Hyper-SD 是字节跳动推出的一种先进图像生成框架,结合了轨迹分段一致性蒸馏(TSCD)和人类反馈学习(RLHF),显著提升了扩散模型在少步骤推理下的图像生成性能。该模型结合了轨迹保持和重构策略,实现了快速且高质量的图像生成,同时支持多种风格和可控生成,为生成式AI领域带来新SOTA性能。
与现有的扩散模型加速算法相比,该方法取得了卓越的加速效果。经过大量实验和用户评测的验证,Hyper-SD 在SDXL和 SD1.5 两种架构上都能在 1到8 步的推理过程中生成高质量的图像,极大地提高了生成速度和效率。
Hyper-SD:字节跳动推出的先进图像生成框架
项目地址:
- 项目主页:https://hyper-sd.github.io/
- 论文地址:https://arxiv.org/abs/2404.13686
- Huggingface 地址:https://huggingface.co/ByteDance/Hyper-SD
- 单步生成 Demo 地址:https://huggingface.co/spaces/ByteDance/Hyper-SDXL-1Step-T2I
- 实时画板 Demo 地址:https://huggingface.co/spaces/ByteDance/Hyper-SD15-Scribble
Hyper-SD的主要功能特点
- 轨迹分段一致性蒸馏:通过将扩散模型的时间步长划分为多个段落,并在每个段落内保持一致性,Hyper-SD 能够在减少去噪步数的同时,保持图像生成的高质量。
- 人类反馈学习(RLHF):结合人类审美偏好和现有视觉感知模型的反馈,Hyper-SD 能够生成更符合人类审美的图像,提升生成效果。
- 一步生成强化:使用分数蒸馏技术,Hyper-SD 增强了模型在单步生成中的性能,这对于需要快速生成图像的场景非常有用。
- 低步数推理:Hyper-SD 实现了在极少的步数内进行高效图像生成,显著减少了计算资源的消耗,同时保持了图像质量。
- 风格兼容性:训练得到的加速模型能够适应不同风格的图像生成,增加了模型的通用性和适用性。
适用场景
- 加速图像生成:Hyper-SD 可以显著缩短图像生成时间,提高生成效率,非常适合需要快速生成大量图像的场景。
- 提升图像质量:在单步推理中,Hyper-SD 能够生成高质量的图像,甚至超越原模型的效果,适用于对图像质量要求较高的应用。
- 资源受限环境:Hyper-SD 的低步数推理能力,使其在移动设备、嵌入式系统等计算资源有限的环境中也能高效运行。
- 艺术创作:为艺术家和设计师提供快速高效的图像生成工具,帮助他们更快地实现创意。
- 广告设计:帮助广告公司快速生成高质量的视觉内容,提升广告制作效率。
- 游戏开发:为游戏开发者提供高效的图像生成解决方案,缩短开发周期。