MIT Technology Review · AI· Will Douglas Heaven·· 21 天前AI 评分72
Goodfire 研究员称神经网络比预想更易理解，引发 AI 界对可解释性的激烈争论
“We were looking at it wrong”: The explosive claim that’s upended the AI world
AI 导读
Goodfire 研究员 Nick Cammarata 发表长文称神经网络内部存在逻辑，比此前认为的更容易理解和监控。他通过重新分析 Inception v1 模型发现神经元存储的是如 V 形等共同视觉特征，而非杂乱无章的多任务叠加。
来源：MIT Technology Review · AI · technologyreview.com