跳到正文
Hugging Face Blog·· 2023-09-06精选AI 评分79

TII 发布 1800 亿参数大模型 Falcon 180B 并上线 Hugging Face

Spread Your Wings: Falcon 180B is here

AI 导读

TII 正式发布 1800 亿参数的大语言模型 Falcon 180B,并在 Hugging Face Hub 同步上线基础模型与对话模型。该模型基于 RefinedWeb 数据集在 3.5 万亿 token 上完成预训练,多项基准测试表现超越 Llama 2 70B 并逼近 PaLM-2 Large。

推荐理由

原文梳理了该开源大模型的训练规模与基准表现,并提供了涵盖微调与量化推理的具体硬件配置参考。

来源:Hugging Face Blog · huggingface.co