跳到正文
Hugging Face Blog·· 2024-04-18精选AI 评分97

Meta 发布开源大语言模型 Llama 3,Hugging Face 生态全面集成

Welcome Llama 3 - Meta's new open LLM

AI 导读

Meta 正式发布新一代开源大语言模型 Llama 3,推出 8B 和 70B 两个尺寸的基础版与指令微调版,并在 Hugging Face 全面上线。该系列模型使用 128,256 大词表并支持 8K context,在超过 15 万亿 token 的数据上完成预训练,其中 8B 版本引入了分组查询注意力(GQA)。

推荐理由

文章梳理了模型架构和词表扩增的技术变动,并给出了消费级硬件微调与云端部署的实践代码。

来源:Hugging Face Blog · huggingface.co