Hugging Face Blog·· 2024-05-22精选AI 评分61
Hugging Face 支持在 AWS Inferentia2 上直接部署模型
Deploy models on AWS Inferentia2 from Hugging Face
AI 导读
Hugging Face Inference Endpoints 正式上线 AWS Inferentia2 实例支持，并在 Amazon SageMaker 上扩展了对超过 10 万个公开模型的兼容。
推荐理由
Hugging Face 简化了自研硬件的部署门槛，开发者可以借此评估专用加速卡相比传统 GPU 的性价比与迁移成本。
来源：Hugging Face Blog · huggingface.co