模型的可解釋性初識

模型的可解釋性即讓CNN模型本身解釋預測的結果。好比分類任務，須要解釋分類的緣由，即經過圖片的哪些像素作出了判斷。git 關於CNN模型的可解釋性，比較經典的有：反捲積（Deconvolution）和導向反向傳播（Guided-backpropagation）。經過他們，能夠在必定程度上看到cnn模型中較深的卷積層所學習到的一些特徵。從本質上說，反捲積和導向反向傳播的基礎都是反向傳播，即對輸入進行

>>阅读原文<<