跳到正文
Hugging Face Blog·· 2 天前精选AI 评分69

Hugging Face 原生支持 TorchTPU 后端

Hugging Face ❤️ TorchTPU: TPUs, Natively

AI 导读

Hugging Face 宣布在 Transformers、Diffusers 与 Kernels 中原生支持 PyTorch 的 TorchTPU 后端,开发者无需依赖 torch_xla 或 Optimum TPU,只需指定 device_map="tpu" 或 .to("tpu") 即可在 TPU 上运行模型。

推荐理由

原文展示了从 torch_xla 转向原生设备指定的极简调用方式与加速实测,读者可据此评估在 Google Cloud TPU 上迁移部署 PyTorch 模型的工程可行性。

来源:Hugging Face Blog · huggingface.co