前沿丨DeepMind提出神經元刪除法：通過理解每個神經元來理解深度學習

近日，DeepMind 發表博客介紹其對神經網絡可解釋性的最新研究成果。受神經科學啓發，他們通過刪除神經元來探索其對網絡性能的影響。研究發現，和過去的經驗直覺相反，選擇性神經元（如「貓神經元」）對於網絡的泛化能力並不重要。而某些行爲難以理解的非選擇性神經元卻是不可或缺的。此外，作者還對比了泛化好和記憶好的網絡對刪除操作的響應行爲。 深度神經網絡由很多獨立的神經元組成，這些神經元以一種複雜而反直覺的

>>阅读原文<<