跳到正文
Berkeley AI Research·· 2026-03-13AI 评分52

SPEX 和 ProxySPEX 实现 LLM 大规模交互识别

Identifying Interactions at Scale for LLMs

AI 导读

SPEX 和 ProxySPEX 利用稀疏性和低阶性假设,通过信号处理与编码理论在大规模下识别 LLM 的关键交互。ProxySPEX 利用层级结构将消融次数减少约 10 倍,在特征归因、数据归因和注意力头剪枝任务中均优于现有方法,代码已集成至 SHAP-IQ 仓库。

来源:Berkeley AI Research · bair.berkeley.edu