Hugging Face Blog·· 2022-05-10精选AI 评分60
Hugging Face Optimum 1.2 支持 Transformers 流水线推理加速
Accelerated Inference with Optimum and Transformers Pipelines
AI 导读
Hugging Face 推出 Optimum 1.2，为 Transformers pipelines 正式带来基于 ONNX Runtime 的推理加速支持，并保持与原有 AutoModel 类完全兼容的 API 体验。
推荐理由
原文给出了从模型导出到量化优化的完整流程，开发者可直接参考代码将现成流水线迁移至加速运行时。
来源：Hugging Face Blog · huggingface.co