AI 推理瓶颈下硬件专用化为何重回主流

随着 Dennard 缩放定律失效、内存墙加剧以及电力资源受限，单靠通用 GPU 已难以满足爆炸性增长的推理需求，AI 计算正重新走向专用硬件与异构编排。作者通过回顾 1990 年代微处理器取代专用芯片的历史指出，当前制程迭代与数值精度压缩的红利正逐步递减。通过在 GPU、LPU 与其他加速器之间切分并协同编排不同推理阶段，系统能够在相同功耗预算下实现 2 至 10 倍的性能提升。