神經網絡求導與不能求導的情況

關於神經網絡的求導和不可求導 ，目前主要是兩個地方遇到過，一個是karpathy在Policy Gradient的文章中有一節專門講了 【1: Non-differentiable computation in Neural Networks - Andrej Karpathy】 這個標題講的比較清楚，翻譯一下，說的是  「神經網絡中的不可求導操作」， 根據這句話可以直接知道 (1) 不可求導是針

>>阅读原文<<