BigScience 正式发布开源多语言大模型 BLOOM

BigScience 正式发布 176B 参数的开源多语言大语言模型 BLOOM，能够生成 46 种自然语言与 13 种编程语言的文本。该模型由来自 70 多个国家的研究人员历时 117 天在法国 Jean Zay 超级计算机上训练完成，并同步开源了训练中间检查点和优化器状态。