Hugging Face Blog·· 2023-04-26精选AI 评分75
如何在免费版 Google Colab 上使用 diffusers 运行 DeepFloyd IF
Running IF with 🧨 diffusers on a Free Tier Google Colab
AI 导读
Hugging Face 介绍了利用 diffusers 在仅有 15GB 显存的免费版 Google Colab 上运行 DeepFloyd IF 模型的方法。方案将 T5-XXL 文本编码器进行 8-bit 量化,并在文生图、图像变体与图像修复流程中按阶段单独加载与释放各级 UNet 组件,从而突破显存限制生成 1024x1024 图像。
推荐理由
原文给出了 8-bit 量化配合阶段性按需加载与显存释放的具体实现,为在有限显存设备上运行超 10B 扩散模型提供了工程参考。
来源:Hugging Face Blog · huggingface.co