Hugging Face Blog·· 2024-05-03精选AI 评分62
Artificial Analysis 大语言模型性能排行榜上线 Hugging Face
Bringing the Artificial Analysis LLM Performance Leaderboard to Hugging Face
AI 导读
Artificial Analysis 与 Hugging Face 合作上线 LLM 性能排行榜,综合评估超过 100 个 Serverless API 端点的价格、速度和质量。榜单覆盖模型上下文窗口、混合每 token 价格、吞吐量(TPS)及首字延迟(TTFT),支持不同提示词长度与并发负载下的性能对比,帮助工程师在闭源与开源模型间进行应用架构选型。
推荐理由
榜单整合了百余个 API 端点的价格与延迟吞吐数据,为工程落地提供了质量之外的量化选型依据。
来源:Hugging Face Blog · huggingface.co