Hugging Face Blog·· 2023-09-06精选AI 评分79
TII 发布 1800 亿参数大模型 Falcon 180B 并上线 Hugging Face
Spread Your Wings: Falcon 180B is here
AI 导读
TII 正式发布 1800 亿参数的大语言模型 Falcon 180B,并在 Hugging Face Hub 同步上线基础模型与对话模型。该模型基于 RefinedWeb 数据集在 3.5 万亿 token 上完成预训练,多项基准测试表现超越 Llama 2 70B 并逼近 PaLM-2 Large。
推荐理由
原文梳理了该开源大模型的训练规模与基准表现,并提供了涵盖微调与量化推理的具体硬件配置参考。
来源:Hugging Face Blog · huggingface.co