Hugging Face Blog·· 2026-02-26精选AI 评分64
Hugging Face Transformers 重构 MoE 架构支持
Mixture of Experts (MoEs) in Transformers
AI 导读
Hugging Face 官方宣布在 transformers 库中全面重构对混合专家（MoE）架构的底层支持，涵盖权重加载管道、专家后端解耦、专家并行（EP）及训练优化。
推荐理由
文章详解了 Transformers 库面向 MoE 架构重构的底层工程设计，适合需要优化 MoE 模型加载、推理与训练的开发者参考。
来源：Hugging Face Blog · huggingface.co