神經網絡輸出可視化

神經網絡可視化經典的方法有兩種，分別是反捲積和導向反向傳播。反捲積和導向反向傳播都是基於反向傳播。下面我們來看反捲積和導向反向傳播的特點以及例子： 上圖爲反捲積和導向反向傳播在經過relu層時對梯度採取的不同的方法。 導向反向傳播：通過修改RELU的梯度反傳，使小於0的部分不反傳，這樣到達第一個conv層的梯度就是對後面relu激活起作用的梯度，對應的就是對網絡起作用的區域。 以上的兩種方法，我們

>>阅读原文<<