Berkeley AI Research·· 2026-03-13AI 评分49
面向大语言模型的大规模交互识别
Identifying Interactions at Scale for LLMs
AI 导读
针对大语言模型中潜在交互随规模呈指数增长的分析瓶颈,研究人员提出了 SPEX 与 ProxySPEX 交互归因算法。SPEX 基于信号处理与编码理论将交互搜索转化为稀疏恢复问题,在上下文扩展至数千特征时仍能保持高保真度。ProxySPEX 则进一步利用层级结构特性,以减少约 10x 消融计算量的代价实现了与 SPEX 相当的表现。
来源:Berkeley AI Research · bair.berkeley.edu