Hugging Face Blog·· 2024-04-18精选AI 评分97
Meta 发布开源大语言模型 Llama 3,Hugging Face 生态全面集成
Welcome Llama 3 - Meta's new open LLM
AI 导读
Meta 正式发布新一代开源大语言模型 Llama 3,推出 8B 和 70B 两个尺寸的基础版与指令微调版,并在 Hugging Face 全面上线。该系列模型使用 128,256 大词表并支持 8K context,在超过 15 万亿 token 的数据上完成预训练,其中 8B 版本引入了分组查询注意力(GQA)。
推荐理由
文章梳理了模型架构和词表扩增的技术变动,并给出了消费级硬件微调与云端部署的实践代码。
来源:Hugging Face Blog · huggingface.co