跳到正文
Hugging Face Blog·· 2025-09-11精选AI 评分73

Hugging Face 升级 Transformers 库,原生支持 OpenAI GPT-OSS 相关优化技术

Tricks from OpenAI gpt-oss YOU 🫵 can use with transformers

AI 导读

Hugging Face 为支持 OpenAI 的 GPT-OSS 系列模型,对 Transformers 库进行了多项底层性能升级。更新包括通过 Hub 下载免编译自定义算子、原生支持 MXFP4 4 位量化、内置张量并行与专家并行,以及优化滑动窗口机制的动态 KV 缓存与预分配显存快速加载。

推荐理由

Hugging Face 将支持 GPT-OSS 的底层优化沉淀到 Transformers 库中,展示了如何用免编译算子和动态缓存大幅降低大模型推理显存与加载开销。

来源:Hugging Face Blog · huggingface.co