NVIDIA Blog· Dion Harris·· 2 天前精选AI 评分79
NVIDIA GPU 如何加速 OpenAI 的 GPT-6 Astra Ultrafast
How NVIDIA GPUs Help Accelerate OpenAI’s GPT-6 Astra Ultrafast
AI 导读
OpenAI 的 GPT-6 Astra Ultrafast 正式在 API 以及符合条件的 ChatGPT Work 和 Codex 中上线,基于 NVIDIA Blackwell GPU 运行。该模式相比 Astra Standard 的 token 生成速度最高提升 8 倍,显著缩短了编码智能体在编辑、测试与调试循环以及工具调用之间的响应等待时间。
推荐理由
文章介绍了基于硬件架构的推理优化细节,有助于读者评估生成加速对编码智能体与工具调用延迟的具体影响。
来源:NVIDIA Blog · blogs.nvidia.com