跳到正文
Hugging Face Blog·· 2024-05-03精选AI 评分62

Artificial Analysis 大语言模型性能排行榜上线 Hugging Face

Bringing the Artificial Analysis LLM Performance Leaderboard to Hugging Face

AI 导读

Artificial Analysis 与 Hugging Face 合作上线 LLM 性能排行榜,综合评估超过 100 个 Serverless API 端点的价格、速度和质量。榜单覆盖模型上下文窗口、混合每 token 价格、吞吐量(TPS)及首字延迟(TTFT),支持不同提示词长度与并发负载下的性能对比,帮助工程师在闭源与开源模型间进行应用架构选型。

推荐理由

榜单整合了百余个 API 端点的价格与延迟吞吐数据,为工程落地提供了质量之外的量化选型依据。

来源:Hugging Face Blog · huggingface.co