Hugging Face Blog·· 21 小时前精选AI 评分87
Meta 开源多模态 MoE 模型 Muse Spark Open
Welcome Muse Spark Open: open-weight frontier multimodal mixture-of-experts model from Meta
AI 导读
Meta 开源了多模态 MoE 架构大模型 Muse Spark Open，总参数量约 816B，单 token 激活约 42B，支持长达 1M tokens 的上下文窗口。
推荐理由
原文给出了该千亿级多模态 MoE 模型的推理显存配置、量化实测数据与跨节点微调方案，为大模型本地部署与二次开发提供了具体参考。
来源：Hugging Face Blog · huggingface.co