Hugging Face Blog·· 2024-04-02精选AI 评分62
Hugging Face 推出 Cloudflare Workers AI 无服务器 GPU 推理部署集成
Bringing serverless GPU inference to Hugging Face users
AI 导读
Hugging Face 宣布在 Hub 上推出 Deploy on Cloudflare Workers AI，让开发者能借助 Cloudflare 边缘 GPU 以 Serverless API 形式部署和运行开源模型。
推荐理由
原文介绍了利用边缘无服务器 GPU 部署开源模型的方案，读者可参考其按需计费的推理架构与成本核算方式。
来源：Hugging Face Blog · huggingface.co