跳到正文
Hugging Face Blog·· 2023-04-26精选AI 评分75

如何在免费版 Google Colab 上使用 diffusers 运行 DeepFloyd IF

Running IF with 🧨 diffusers on a Free Tier Google Colab

AI 导读

Hugging Face 介绍了利用 diffusers 在仅有 15GB 显存的免费版 Google Colab 上运行 DeepFloyd IF 模型的方法。方案将 T5-XXL 文本编码器进行 8-bit 量化,并在文生图、图像变体与图像修复流程中按阶段单独加载与释放各级 UNet 组件,从而突破显存限制生成 1024x1024 图像。

推荐理由

原文给出了 8-bit 量化配合阶段性按需加载与显存释放的具体实现,为在有限显存设备上运行超 10B 扩散模型提供了工程参考。

来源:Hugging Face Blog · huggingface.co